MarsDawn

Anthropic sagt, Agenten sollen transparent sein. Wer liest, was sie offenlegen?

Im Dezember 2024 veröffentlichte Anthropic „Building Effective Agents“, einen Leitfaden für Leute, die KI-Agenten bauen. Seine Zusammenfassung nennt drei Prinzipien, und eines davon ist Transparenz. In diesem Beitrag geht es um das andere Ende dieses Prinzips: Sobald ein Agent seine Schritte offenlegt, muss sie jemand lesen.

Transparenz ist etwas, das der Agent tut. Lesen ist etwas, das du tust. Anthropic bittet die Entwickler, die Planungsschritte eines Agenten zu zeigen; für die meisten, die einen Coding-Agenten steuern, kommen diese Schritte als Markdown-Datei an, die jemand im richtigen Moment lesen muss.

Was der Leitfaden sagt

Erik S. und Barry Zhang fassen ihren Rat so zusammen:

„Bei der Umsetzung von Agenten versuchen wir, drei Grundprinzipien zu folgen: Halte das Design deines Agenten einfach. Setze auf Transparenz, indem du die Planungsschritte des Agenten ausdrücklich zeigst. Gestalte die Schnittstelle zwischen Agent und Computer (ACI) sorgfältig, mit gründlicher Werkzeugdokumentation und gründlichen Tests.“

Das sind Entwurfsprinzipien für Leute, die Agenten bauen, keine Anleitung für die Person, die einen benutzt. Das Prinzip verlangt, dass die Schritte gezeigt werden. Es sagt nicht, wer sie liest.

Derselbe Beitrag beschreibt, was ein Agent tut, sobald er eine Aufgabe hat: „Sobald die Aufgabe klar ist, planen und handeln Agenten selbstständig und kehren möglicherweise zum Menschen zurück, um weitere Informationen oder eine Einschätzung einzuholen.“ Und: „Agenten können dann an Checkpoints oder bei Hindernissen für menschliches Feedback pausieren.“ Achte auf die Wörter möglicherweise und können. Checkpoints werden als etwas beschrieben, das ein Agent haben kann, nicht haben muss.

Das meiste Prüfen machst nicht du

Das lässt sich leicht übertreiben, darum hier, was der Leitfaden tatsächlich an erste Stelle setzt. Der Agent prüft sich selbst an der Welt: „Während der Ausführung ist es entscheidend, dass die Agenten bei jedem Schritt ‚Ground Truth‘ aus der Umgebung erhalten (etwa Ergebnisse von Werkzeugaufrufen oder Codeausführung), um ihren Fortschritt zu beurteilen.“ In diesem Satz meint Ground Truth Testergebnisse und Werkzeugausgaben. Es meint keinen Menschen.

Der Leitfaden ist auch beim Risiko direkt: „Die autonome Natur von Agenten bedeutet höhere Kosten und die Gefahr sich aufschaukelnder Fehler.“ Seine Antwort sind ausgiebige Tests in abgeschotteten Umgebungen, mit Schutzvorkehrungen. Er sagt nicht „lies sorgfältiger“.

Ein Mensch kommt später doch ins Spiel, im Anhang über Coding-Agenten: „Während automatisierte Tests helfen, die Funktion zu prüfen, bleibt menschliche Prüfung entscheidend, um sicherzustellen, dass Lösungen zu den umfassenderen Systemanforderungen passen.“ Dieser Satz handelt von Code. Die Lücke, auf die er zeigt, kennt man aber von jedem Agenten: Ein Test kann dir sagen, dass etwas funktioniert, nicht, dass es das ist, was du gemeint hast.

Wo die Schritte landen

Ab hier ist das unsere Lesart, nicht die von Anthropic.

Wenn du täglich mit einem Coding-Agenten arbeitest, tauchen seine Planungsschritte meist nicht in einem Dashboard auf. Sie tauchen als Dateien auf: plan.md, eine Aufgabenliste mit Kontrollkästchen, eine Fortschrittsdatei, die der Agent ständig umschreibt, eine Zusammenfassung am Ende. Transparenz heißt von deiner Seite aus: mehr zu lesen.

Die Schritte zu zeigen ist die Hälfte des Agenten. Die andere Hälfte ist ein Mensch, der sie liest, wenn es darauf ankommt: bevor die Migration läuft, bevor der Branch gemergt wird, bevor „fertig“ akzeptiert wird. Ein Agent, der alles in einer Datei mit 600 Zeilen offenlegt, die niemand öffnet, ist auf dem Papier transparent und in der Praxis unbeaufsichtigt.

Harrison Chase machte 2024 einen verwandten Punkt, als er darüber schrieb, wie Agenten-Frameworks funktionieren sollten, nicht über Dokumente: „Du wirst beobachten können wollen, was im Inneren vor sich geht, da die genauen Schritte vorher womöglich nicht bekannt sind.“ Er sprach über Werkzeuge für die Leute, die Agenten bauen. Wenn du derjenige bist, der den Agenten steuert, ist die schlichte Datei, die er ständig schreibt, oft der Teil, den du beobachten kannst.

Keiner dieser Autoren erwähnt MarsDawn, und keiner empfiehlt es oder ein anderes Markdown-Werkzeug.

Warum dieses Lesen schwerer ist, als es aussieht

Die Datei ist lang, und das Wichtige steht selten oben. Das Diagramm, das die Änderung erklärt, ist Mermaid-Quelltext, kein Bild (wie du es gezeichnet siehst, steht unter Eine Markdown-Datei auf dem Mac ansehen). Der Agent schreibt die Datei vielleicht um, während du bei der Hälfte bist. Oft gibt es mehr als eine Datei, manchmal auf verschiedenen Branches oder Worktrees. Und wenn du ein Problem entdeckst, lässt „der Cache-Teil sieht komisch aus“ den Agenten raten. Die längere Version davon steht unter Lesen, was dein Agent zurückgibt.

Wo MarsDawn passt und wo nicht

MarsDawn ist eine Mac-App für dieses Lesen. Es macht einen Agenten nicht transparenter, und es steckt kein KI-Modell darin: Es fasst den Plan nicht zusammen und sagt dir nicht, ob er stimmt. Was es tut:

Lesen musst du trotzdem selbst. MarsDawn hält eine lange, sich ändernde Datei lesbar, während du es tust.

Ausprobieren

MarsDawn gibt es im Mac App Store. Dazu kommt das kostenlose Befehlszeilenwerkzeug marsdawn:

brew install redtear1115/tap/marsdawn

Es exportiert Markdown ohne die App als PDF.

Befehlszeile · Vor dem Kauf wissen: Was MarsDawn nicht kann

Weiter

Quellen