KI-Müdigkeit: Was passiert, wenn Produktteams mit ihren eigenen Bots nicht mehr Schritt halten können?

In den letzten zwei Jahren drehte sich die Diskussion rund um KI in der Softwareentwicklung vor allem um eines: Produktivität. Entwickler bringen ihre Produkte schneller auf den Markt, programmieren mehr und erledigen Aufgaben in wenigen Stunden, für die sie früher Tage gebraucht haben. Jedes neue Modell verspricht einen weiteren Sprung nach vorne.

Was dabei weitaus weniger Beachtung findet, ist die Frage, welche Anforderungen diese Geschwindigkeit an die Menschen stellt, die sie nutzen. Guillaume Moigneu, Field CTO bei Upsun, hat das vergangene Jahr damit verbracht, zu beobachten, wie Entwicklerteams sich an die KI-gestützte Entwicklung anpassen. Für erfahrene Architekten war diese Veränderung bahnbrechend. „Ich kann mich weiterhin auf die Architektur konzentrieren, die Agenten mit Spezifikationen steuern, und dann kümmert sich die KI tatsächlich um die Details und programmiert den Code“, sagt er.

Doch diese Vorteile sehen ganz anders aus, sobald die KI über einzelne Entwickler hinausgeht und in teamweite Arbeitsabläufe Einzug hält.

Die Erschöpfung, die niemand beim Namen nennt

KI-Müdigkeit ist zu einer häufigen Beschwerde geworden, wird aber oft falsch diagnostiziert. Die meisten gehen davon aus, dass sie von einer Überlastung durch Tools oder dem unaufhörlichen Hype herrührt. Guillaume sieht das anders: Er macht die kognitive Belastung durch die gleichzeitige Überwachung mehrerer KI-Agenten dafür verantwortlich.

„Ich habe tatsächlich angefangen, mehrere Agenten gleichzeitig auf meinem Laptop laufen zu lassen“, sagt er. „Ich habe vier, fünf verschiedene Dinge gleichzeitig gemacht – mal im selben Projekt, mal in verschiedenen Projekten – und war von all dem langsam etwas überfordert.“ Das Problem war nicht die Arbeitsmenge, sondern die ständige Überwachung und der ständige Kontextwechsel. Immer nur eine Eingabe entfernt davon, das Ganze abzuschließen. 

Die meisten Entwickler sind auf lange Phasen ununterbrochener Konzentration angewiesen, um komplexe Probleme zu lösen. KI-Agenten arbeiten nicht nach diesem Zeitplan. Sie beenden ihre Arbeit, sobald sie fertig sind, senden Ergebnisse zu unvorhersehbaren Zeitpunkten zurück und erwarten eine sofortige Überprüfung. Vier oder fünf Agenten gleichzeitig laufen zu lassen bedeutet, vier- oder fünfmal von Programmierung unterbrochen zu werden, für deren Freigabe du aber trotzdem verantwortlich bist.

„Jedes Mal, wenn du dich in etwas vertiefst, wechselst du dann, wechselst erneut, kommst zurück und verlierst den Faden“, sagt Guillaume. „Das fühlte sich wirklich überwältigend an.“ Auch unser Gehirn braucht Ruhe. Die meisten Studien zeigen, dass unser Gehirn einem ultradianen Zyklus folgt, bei dem es 90 Minuten lang leistungsfähig ist und dann eine Pause braucht. Das Programmieren der Agenten verursachte eine unendliche Belastung ohne Pausen.
 

Das zugrunde liegende Vertrauensproblem

Bei der Erschöpfung geht es nicht nur um Aufmerksamkeit; das größere Problem ist die Verantwortung. Wenn ein Agent programmiert, ist der Entwickler immer noch dafür verantwortlich, was dabei herauskommt. Diese Verantwortung wächst nicht im gleichen Maße wie die Menge der erzeugten Ergebnisse.

„Ich habe da einige Vertrauensprobleme“, sagt Guillaume, „denn es wird so viel Code produziert, dass ich mir nicht einmal sicher bin, ob der ganze Code korrekt ist oder überhaupt das tut, was ich eigentlich will.“ 

Der Aufwand für die Überprüfung wächst mit jedem Agenten, der dem Workflow hinzugefügt wird. KI-generierten Code zu überprüfen ist nicht dasselbe wie die Arbeit eines Kollegen zu überprüfen. Menschliche Reviewer leiten die Absicht aus dem Kontext und dem Gespräch ab. Die KI hat keine Absicht, die sie klarstellen könnte. Ihr Ergebnis kann syntaktisch korrekt sein, jeden Test bestehen und trotzdem das falsche Problem lösen, weil sie die erhaltene Eingabeanweisung getreu ausgeführt hat – statt der, die der Entwickler eigentlich geben wollte.

Einige Teams haben darauf reagiert, indem sie weitere Prozesse hinzugefügt haben: mehr Kontrollpunkte, mehr reviewer, mehr Hürden. Andere haben versucht, die Überprüfungsstufe selbst zu automatisieren. Beides löst das Problem nicht vollständig, da es sich um ein strukturelles Problem handelt. Die Tools wurden für die individuelle Produktivität entwickelt. Die sie umgebenden Arbeitsabläufe wurden nicht entsprechend neu gestaltet.
 

Wenn das Team das spürt

Was als individueller Produktivitätsgewinn beginnt, kann schnell zu einem Engpass im Team werden.

Guillaume beschreibt eine Dynamik, die er immer wieder beobachtet hat: Ein Entwickler, der sich hervorragend mit Agenten auskennt, programmiert in einem Tempo, das der Rest des Teams nicht bewältigen kann. „Wenn du einen solchen Entwickler hättest, würde das für die anderen eine Menge Probleme mit sich bringen“, sagt er. Der schnelle Entwickler macht nichts falsch. Aber sein Output übersteigt schnell die Kapazität des Teams, ihn zu prüfen, zu integrieren und darauf aufzubauen. Die Engpässe verlagern sich vom Programmieren hin zum Prüfen und Validieren desselben,

„Was als Lücke bei den Tools begann, verfestigt sich zu Unmut zwischen den Teams und verschärft bereits bestehende Silos“, sagt Guillaume, „und das ist viel schwerer zu beheben.“
 

Was uns das eigentlich sagt

AI-Müdigkeit, richtig verstanden, ist kein Zeichen dafür, dass die Tools zu leistungsfähig sind oder dass die Einführung zu weit gegangen ist. Es ist ein Zeichen dafür, dass die Infrastruktur rund um die Tools nicht Schritt gehalten hat. Die Modelle haben sich schneller verbessert als die Arbeitsabläufe. Die individuellen Fähigkeiten haben die Teamkoordination überholt.

Guillaume bietet eine einfache Analogie an: „Der Grund, warum du ein neues Auto kaufen willst, ist, dass du ein Problem mit deinem aktuellen hast oder weil du noch keines hast.“ Mit anderen Worten: Teams ändern Prozesse selten, es sei denn, die aktuellen funktionieren nicht mehr. KI-Müdigkeit ist dieses Signal. Sie zeigt dir, dass bestehende Arbeitsabläufe nicht mehr zu der Art passen, wie moderne Teams Software entwickeln.

Die Frage für Führungskräfte im Engineering lautet nicht, ob man die Einführung von KI verlangsamen soll. Es geht darum, die Arbeitsweise von Teams neu zu gestalten, damit Menschen weniger Zeit damit verbringen, Agenten zu beaufsichtigen, und mehr Zeit damit, Probleme zu lösen. Das ist die Arbeit, mit der die meisten Teams noch nicht begonnen haben – und genau dafür wurde Upsun Dispatch™ entwickelt.