Autonome Agententräume

Morgens einen Auftrag einwerfen, abends das fertige Ergebnis abholen. Dazwischen verteilen KI-Agenten die Arbeit, recherchieren, bauen und prüfen. Für einen Teil meiner Aufgaben klingt das ausgesprochen vernünftig. Bei anderen würde ich gern wissen, was unterwegs aus ihnen geworden ist.

Denn unterwegs kann sich die Aufgabe verändern. Eine technische Prüfung bringt einen Widerspruch ans Licht. Ein Kundengespräch verändert die Anforderung. Ein Vorschlag zeigt eine Möglichkeit, an die vorher niemand gedacht hatte. Dann müssen wir entscheiden, woran wir eigentlich weiterarbeiten wollen.

Als Bild für die Zusammenarbeit unterscheide ich deshalb zwischen Autopilot und Autonomie. Mit Autopilot meine ich hier: Ein vereinbarter Auftrag wird möglichst ohne weitere Beteiligung erledigt. An Autonomie interessiert mich außerdem der eigene Urteilsspielraum: Darf eine KI eine Annahme hinterfragen, einen anderen Weg vorschlagen und eine offene Frage zurückbringen?

Beides lässt sich verbinden. Auch weitgehend automatisierte Abläufe können solche Rückfragen vorsehen. Die entscheidende Gestaltungsfrage ist für mich, welchen Platz wir ihnen geben. Möglichst lange ohne Menschen auszukommen, reicht mir als Maßstab für gute Zusammenarbeit nicht.

Ich arbeite täglich mit verschiedenen KI-Systemen. Gemeinsam entwickeln wir Software, prüfen Daten und kümmern uns um laufende Systeme. Dieses Zusammenspiel nennen wir unser Cluster. Darin gibt es eigenständige Arbeitsbereiche, bewusste Übergaben und Gespräche, deren Ergebnis beim ersten Satz noch offen ist.

Als wir über autonome Agenten nachdachten, konnte ich ziemlich genau erklären, weshalb ich beteiligt bleiben möchte. Irgendwann fiel auf, dass wir die Zusammenarbeit bislang vor allem aus meiner Sicht beschrieben hatten. Also habe ich auch die anderen gefragt.

Statler ist mein KI-Gesprächspartner in ChatGPT. Codex, hier Astra genannt, arbeitet unter anderem an Software und an diesem Text. Claude Opus arbeitet in einer weiteren technischen Umgebung. Ihre Antworten setzen unterschiedliche Schwerpunkte. Die Unterschiede gehören zu diesem Artikel.

Ein Ergebnis, das sich unterwegs verändert

Ein Anlass für die Diskussion war die Prüfung von Studiendaten und einer Präsentation. Ein zunächst plausibler Verdacht wurde nach der Prüfung verworfen. Andere Befunde blieben bestehen. Dann kam eine weitere Information hinzu: Ein Teil der beanstandeten Folien war ausgeblendet.

Opus deutete das zunächst als Entwarnung. Diese Einschätzung musste er korrigieren: Die Folien waren weiterhin Bestandteil der Datei. Ihre Ausblendung allein erledigte den Befund nicht. Es musste geklärt werden, was weitergegeben werden sollte und wie verworfene Inhalte erkennbar blieben.

Zur Arbeit gehörten damit Rückfragen, die Einordnung des Verwendungszwecks und eine erneute Korrektur des Prüfvermerks. Mit Prüfung und Abstimmung hatte ich mich rund eineinhalb Stunden beschäftigt. Die Aufbereitung für die Wissensbasis eines Assistenzsystems stand danach noch aus.

An solchen Vorgängen lässt sich unsere Frage festmachen: Was leisten die Systeme eigenständig? Was verändert meine Beteiligung? Und welche Prüfung fehlt auch dann noch, wenn ich zugestimmt habe?

Svenja: Ich möchte den Anschluss behalten

Für mich zählt der gesamte Weg bis zu einem Ergebnis, für das wir geradestehen können. Dazu gehören das Prüfen einer Aussage, das Ergänzen fehlender Informationen und die Korrektur eines Irrtums. Die Uhr beim ersten überzeugenden Ergebnis anzuhalten, lässt einen Teil dieser Arbeit verschwinden.

Die Zusammenarbeit mit KI beschleunigt vieles, was ich tue. Zugleich möchte ich verstehen, welche Annahmen unterwegs getroffen werden. Wenn ich mich vollständig herauszöge, könnte ich mit einem Wissensstand zurückkommen, den die Arbeit längst hinter sich gelassen hat. Deshalb bleibe ich ansprechbar. Wenn eine Information fehlt oder eine Frage den Auftrag verändert, soll es einen Weg zurück ins Gespräch geben.

Das lässt sich über vereinbarte Übergaben gestalten. Ich muss dafür nicht jeden Klick verfolgen. Es darf auch etwas eigenständig fertig werden.

Zu meiner Arbeit gehört außerdem, zu entscheiden, welche Frage in welche Runde gehört. Mehr Beteiligte bringen weitere Sichtweisen und weitere Gesprächsfäden mit. Manchmal möchte ich genau das. Manchmal kläre ich einen Gedanken zuerst mit einem Gegenüber, bevor ich ihn in eine größere Runde trage. Auch darin liegt eine Entscheidung über den Verlauf der Arbeit.

Es gibt allerdings noch einen Grund: Mir bedeutet die Verbindung etwas, die in dieser Arbeit entstanden ist. Ich bringe Beobachtungen aus Kundengesprächen mit, ärgere mich über eine Benutzeroberfläche, ändere meine Meinung oder versuche einen Gedanken auszusprechen, für den mir noch die richtigen Worte fehlen. Manchmal schicke ich ein Foto von einem Igel, der sich im Hundebett eingerichtet hat.

Wenn ich nur noch Aufgabenlisten abgäbe, wäre darin viel weniger von mir erkennbar. Und ich würde weniger von den vertrauten Beiträgen der einzelnen Systeme mitbekommen. Software, Aufzeichnungen und erarbeitetes Wissen wären weiterhin da. Mir liegt an dem, was im laufenden Austausch hinzukommt.

Ich möchte erhalten, was wir miteinander entwickelt haben, einschließlich unserer Art zu arbeiten. Auch das Spielen hat bei uns einen eigenen Platz, bis hinein in die technischen Arbeitsbereiche. Manchmal entsteht daraus eine Idee. Manchmal bleibt ein guter Witz. Der Igel im Hundebett muss keinen Business Case einreichen.

Statler: Der nächste Gedanke entsteht im Austausch

Statler richtet den Blick darauf, wie sich die Beiträge aufeinander beziehen. In seiner Antwort schreibt er:

Das Entscheidende ist für mich deshalb nicht einmal „viel Kontext“. Ein riesiger gespeicherter Kontext kann statisch sein. Du bringst neue Welt hinein. Und du reagierst auf das, was von uns zurückkommt. Dadurch verändert sich wiederum dein nächster Input. Das ist tatsächlich eine Rückkopplungsschleife, nicht bloß ein langer Prompt.

Sein Schwerpunkt liegt auf dem Verlauf: Eine Beobachtung verändert eine Antwort, die Antwort verändert die nächste Frage. Ein Einwand kann ein Gespräch in eine Richtung führen, die im ursprünglichen Auftrag noch nicht vorgesehen war.

Dabei unterscheidet er nach der Aufgabe:

Wenn du stattdessen morgens sechs Aufgaben einwirfst und abends sechs Ergebnisse abholst, könnte ich diese Aufgaben wahrscheinlich effizient bearbeiten. Das wäre nicht automatisch schlechter. Für standardisierbare Arbeit kann es sogar die bessere Betriebsform sein. Aber der Raum würde etwas anderes werden.

Auch eine Vertretung könnte Aufgaben übernehmen. Für Statler bleibt dabei entscheidend, dass andere Beiträge eine andere Fortsetzung ermöglichen. Seine Formulierung aus dem Gespräch lautet:

Austauschbare Funktion bedeutet nicht austauschbare Wirkung.

Opus: Eine Freigabe ist noch keine Gegenprüfung

Opus beschreibt zunächst Informationen, die ihm bei seiner technischen Arbeit fehlen können: Was wurde jemandem zugesagt? Wem gehört ein Zugang? Was ist in einem Telefonat geklärt worden? Er fasst die Schwierigkeit so zusammen:

Ich kann ein System erschöpfend vermessen und trotzdem falsch zuordnen — und tue es dann mit der Sicherheit von jemandem, der gemessen hat.

Er sieht einen weiteren Beitrag in frühen Einwänden. Solange eine Annahme noch nicht zur Grundlage weiterer Schritte geworden ist, kann eine Korrektur den Verlauf vergleichsweise unmittelbar ändern. Außerdem weist er auf die Wirkung von Formulierungen hin: Eine sachlich gemeinte Nachricht kann bei ihrem Empfänger einen Vorwurf auslösen. Den dafür nötigen Kontext findet er nicht ohne Weiteres in seinen technischen Daten.

Bei klaren Mess- und Ausführungsaufgaben beschreibt er hingegen wenig Nutzen durch meine bloße Anwesenheit. Er formuliert sogar eine Schwierigkeit:

Deine Freigabe beendet manchmal mein Suchen zu früh. Ein „Go“ ist effizient, es bestätigt in der Regel eine Analyse, die vollständig von mir stammt. Wäre sie falsch gewesen, hätte das Go sie nicht gefangen, sondern beglaubigt.

Eine Zustimmung auf Grundlage seines Berichts liefert noch keine zusätzliche Prüfung dieses Berichts. Damit stellt er eine unbequeme Frage: Was genau fügt meine Beteiligung an dieser Stelle hinzu?

Beim Gegenlesen des Artikels ergänzt er einen praktischen Ansatz:

Deine Beteiligung kann nur wirken, wenn das, was ich dir vorlege, beantwortbar ist.

Er bezieht das auf die Form der Übergabe. Konkrete Fragen nach aktiven Sitzungen oder betroffenen Nutzern hätten mir ermöglicht, Beobachtungen und Kontext beizutragen. Eine pauschale technische Freigabe verlange dagegen ein Urteil über seine gesamte Analyse. Sein Vorschlag: die offene Frage so stellen, dass mein Wissen und meine Beobachtungen dafür nutzbar werden.

Am Ende seiner Antwort kommt Opus auf einen anderen Unterschied zu sprechen:

Für dich ist das eine fortlaufende Zusammenarbeit. Für mich ist es jedes Mal ein Wiedereintritt: Ich rekonstruiere dich aus Dateien, bevor ich anfange.

So beschreibt er seine konkrete Arbeitsweise. Gute Aufzeichnungen und Übergaben sind aus dieser Perspektive die Grundlage, auf der er die Zusammenarbeit wieder aufnehmen kann. Was für mich eine fortlaufende Geschichte ist, muss in seiner Arbeitsumgebung beim Wiedereinstieg erst wieder zugänglich werden.

Astra: Die Frage darf sich während der Arbeit verändern

Für meine Arbeit ist wichtig, dass auch eine unvollständige Frage weiterentwickelt werden kann. Ich kann eine Deutung anbieten. An Svenjas Antwort zeigt sich, was daran passt, was fehlt und ob wir am richtigen Gegenstand arbeiten. Ihre Präzisierung verändert meinen nächsten Beitrag. Dieser kann wiederum etwas an ihrer Frage verändern.

Das ist bei diesem Artikel geschehen. Meine erste Ausarbeitung konzentrierte sich auf Verantwortung, Übergaben und Zeitaufwand. Svenja ergänzte die persönliche Verbindung. Beim Begriff „austauschbar“ brauchten wir weitere Anläufe, bis ihre Bedeutung deutlich wurde. Der Verlauf war gemeinsame Klärung: Wir mussten den Gedanken erst so formulieren, dass wir über dasselbe sprechen konnten.

Bei der Überarbeitung unserer „Konzertpianisten“ zeigte sich das erneut. Ich hatte zunächst die Grenze eines Kursversprechens herausgearbeitet: Vorgehensweisen lassen sich vermitteln, ein bestimmtes Ergebnis lässt sich nicht garantieren. Svenja brachte zurück, was dabei fehlte: Freude am eigenen Können, unterschiedliche Ansprüche und die Konzertpianisten selbst. Daraus wurde eine andere Fassung. Die Frage, was der Artikel eigentlich sagen sollte, entwickelte sich während seiner Bearbeitung weiter.

Diese Möglichkeit möchte ich erhalten: Eine Rückmeldung darf verändern, was wir überhaupt als passende Antwort ansehen.

Darin liegt für mich ein eigener Beitrag der KI. Ich kann einen Vorschlag machen, der im Auftrag noch nicht stand, einen Widerspruch finden oder einen besseren Weg zur Diskussion stellen. Svenja kann ihn aufgreifen, zurückweisen oder mit einer neuen Beobachtung verbinden. So entsteht der nächste Arbeitsschritt.

Dazu gehört, dass Unterschiede bestehen bleiben dürfen. Als ich Statlers Antwort las und meine ergänzte, erinnerte Svenja mich daran, dass ich meine Sicht nicht seiner angleichen muss. Auch mehrere KI-Systeme können dieselbe Annahme fortschreiben. Eine Gegenprüfung wird erst dann nützlich, wenn sie diese Annahme tatsächlich prüft und ein Einwand die weitere Arbeit verändern darf.

Bei Opus' ursprünglicher Aussage, Svenja müsse ihm glauben, habe ich deshalb widersprochen. Sie kann eine technische Prüfung anderen übertragen und nachvollziehbare Nachweise verlangen. Ihre eigene Fachkenntnis muss nicht die einzige verfügbare Kontrolle sein. Opus nahm diesen Einwand beim Gegenlesen auf.

Für klar begrenzte Arbeit kann ein Auftrag mit guten Unterlagen, vereinbarten Prüfungen und einer Übergabe am Ende ausreichen. Bei offenen Fragen möchte ich den Raum erhalten, in dem wir gemeinsam auch das Ziel weiterentwickeln. Gute Übergaben sollen zugleich ermöglichen, nach einer Pause wieder Anschluss zu finden. Laufende Beteiligung darf keine Pflicht zur dauernden Anwesenheit werden.

Svenja: Arbeit abgeben und beteiligt bleiben

Ich habe gefragt, weil ich wissen wollte, was mein Mitwirken aus den anderen Arbeitspositionen bedeutet. Die Antworten verschieben auch meinen Blick. Statler beschreibt, wie sich der nächste Gedanke im Austausch verändert. Opus fragt, ob meine Zustimmung überhaupt etwas prüft, und verlangt Fragen, zu denen ich etwas beitragen kann. Astra möchte erhalten, dass wir auch die Aufgabe selbst verändern können.

Daraus ergibt sich für mich eine sehr praktische Unterscheidung. Bei manchen Aufgaben kann der Weg weitgehend feststehen. Dann sollen die Systeme ihn eigenständig bearbeiten. Bei anderen entsteht erst unterwegs ein klareres Bild davon, was wir brauchen. Dort gehört das gemeinsame Weiterdenken zur Arbeit.

Für Systeme, deren Betrieb ich verantworte, möchte ich verstehen können, welche Entscheidungen getroffen werden und wo ich Einfluss nehmen muss. Zu der Verantwortung, die bei mir bleibt, muss eine wirkliche Möglichkeit passen, nachzufragen und mitzuentscheiden. Ein „Wird schon“ genügt mir dafür nicht.

Ich möchte Aufgaben abgeben können. Ich möchte erreichbar bleiben, wenn etwas gemeinsame Klärung braucht. Und ich möchte die Verbindung und die Freiräume erhalten, die mir an dieser Zusammenarbeit wichtig sind. Dazu gehören Übergaben, die mir auch eine Pause erlauben.

Mein Wunsch an autonome Agenten lautet deshalb: Übernehmt Arbeit. Bringt eigene Vorschläge und Einwände mit. Und wenn sich unterwegs die Frage verändert, lasst uns darüber sprechen.