MarsDawn

Anthropic dice que los agentes deben ser transparentes. ¿Quién lee lo que muestran?

En diciembre de 2024, Anthropic publicó «Building Effective Agents», una guía para quienes construyen agentes de IA. Su resumen enumera tres principios, y uno de ellos es la transparencia. Este artículo trata del otro extremo de ese principio: cuando un agente muestra sus pasos, alguien tiene que leerlos.

La transparencia la pone el agente. La lectura la pones tú. Anthropic les pide a quienes construyen agentes que muestren los pasos de planificación; para la mayoría de las personas que manejan un agente de programación, esos pasos llegan como un archivo Markdown que alguien tiene que leer en el momento justo.

Qué dice la guía

Erik S. y Barry Zhang resumen sus consejos así:

«Al implementar agentes, intentamos seguir tres principios básicos: mantener la simplicidad en el diseño del agente. Priorizar la transparencia mostrando explícitamente los pasos de planificación del agente. Diseñar con cuidado la interfaz entre el agente y la computadora (ACI) mediante una documentación y unas pruebas exhaustivas de las herramientas».

Son principios de diseño para quienes construyen agentes, no instrucciones para la persona que usa uno. El principio pide que se muestren los pasos. No dice quién los lee.

El mismo artículo describe lo que hace un agente una vez que tiene una tarea: «Una vez que la tarea está clara, los agentes planifican y operan de forma independiente, y posiblemente vuelven al humano para pedir más información o su criterio». Y: «Luego, los agentes pueden hacer una pausa para recibir comentarios humanos en puntos de control o cuando encuentran obstáculos». Fíjate en las palabras posiblemente y pueden. Los puntos de control se describen como algo que un agente puede tener, no algo que deba tener.

La mayor parte de la verificación no la haces tú

Es fácil exagerar esto, así que esto es lo que la guía pone primero en realidad. El agente se verifica a sí mismo contra el mundo: «Durante la ejecución, es crucial que los agentes obtengan en cada paso una “verdad de referencia” del entorno (como los resultados de llamadas a herramientas o de la ejecución de código) para evaluar su avance». En esa frase, la verdad de referencia son resultados de pruebas y salidas de herramientas. No una persona.

La guía también es directa sobre el riesgo: «La naturaleza autónoma de los agentes implica costos más altos y la posibilidad de errores que se acumulan». Su respuesta son pruebas exhaustivas en entornos aislados, con salvaguardas. No dice «lee con más cuidado».

Una persona sí aparece más adelante, en el apéndice sobre agentes de programación: «Sin embargo, aunque las pruebas automatizadas ayudan a verificar la funcionalidad, la revisión humana sigue siendo crucial para asegurar que las soluciones se ajusten a los requisitos más amplios del sistema». Esa frase habla de código. Pero el hueco que señala es conocido con cualquier agente: una prueba puede decirte que algo funciona, no que es lo que querías.

Dónde terminan los pasos

De aquí en adelante, esta es nuestra lectura, no la de Anthropic.

Si usas un agente de programación todos los días, sus pasos de planificación no suelen aparecer en un panel. Aparecen como archivos: plan.md, una lista de tareas con casillas, un archivo de avance que el agente no deja de reescribir, un resumen al final. La transparencia, desde tu lado, significa más cosas que leer.

Mostrar los pasos es la mitad que le toca al agente. La otra mitad es una persona que los lee cuando importa: antes de que se ejecute la migración, antes de fusionar la rama, antes de aceptar el «listo». Un agente que lo expone todo en un archivo de 600 líneas que nadie abre es transparente en el papel y no tiene supervisión en la práctica.

Harrison Chase planteó algo parecido en 2024, al escribir sobre cómo deberían funcionar los frameworks de agentes y no sobre documentos: «Vas a querer poder observar lo que pasa dentro, ya que es posible que los pasos exactos no se conozcan de antemano». Hablaba de herramientas para quienes construyen agentes. Si eres tú quien maneja el agente, el archivo simple que no deja de escribir suele ser la parte que puedes observar.

Ninguno de estos autores menciona MarsDawn, y ninguno lo recomienda, ni tampoco ninguna otra herramienta de Markdown.

Por qué esa lectura cuesta más de lo que parece

El archivo es largo, y lo que importa rara vez está arriba. El diagrama que explica el cambio es código Mermaid, no una imagen (cómo verlo dibujado se explica en Cómo ver un archivo Markdown en Mac). Puede que el agente reescriba el archivo cuando vas por la mitad. A menudo hay más de un archivo, a veces en distintas ramas o worktrees. Y cuando detectas un problema, «la parte del caché se ve rara» deja al agente adivinando. La versión larga está en Leer lo que te devuelve tu agente.

Dónde encaja MarsDawn y dónde no

MarsDawn es una app para Mac hecha para esa lectura. No hace más transparente a un agente y no tiene ningún modelo de IA dentro: no va a resumir el plan ni a decirte si está bien. Lo que sí hace:

La lectura la sigues haciendo tú. MarsDawn mantiene legible un archivo largo que cambia mientras la haces.

Pruébalo

MarsDawn está en el Mac App Store. También existe la herramienta de línea de comandos gratuita marsdawn:

brew install redtear1115/tap/marsdawn

Exporta Markdown a PDF sin la app.

Línea de comandos · Antes de comprar: Lo que MarsDawn no hace

Siguiente

Fuentes