Por que o Desenvolvimento de Agentes Precisa de Políticas: Uma Pilha de Governança em Três Níveis
Anthropic
OpenAI
Cursor
As ferramentas de desenvolvimento de IA estão evoluindo de assistentes de chat para agentes autônomos. Este artigo descreve uma pilha de governança em três níveis construída para uma plataforma de reservas de instalações esportivas, argumentando que as políticas se tornam essenciais quando os agentes tomam milhares de microdecisões por hora. Ele detalha 12 documentos de política, 10 habilidades, 6 agentes especializados e um fluxo de trabalho em 7 fases.
O artigo argumenta que, à medida que a codificação por IA evolui de assistentes de chat para agentes autônomos, a governança se torna um requisito essencial. No nível 1, um desenvolvedor revisa cada linha; no nível 3, os agentes tomam 10.000 microdecisões por hora, tornando a revisão humana impossível. O autor descreve uma stack de governança para uma plataforma usando NestJS e Next.js, composta por três camadas: políticas de engenharia (12 documentos com seções numeradas), habilidades e agentes especializados (10 comandos de barra, 6 agentes, 6 prompts de revisão) e um fluxo de trabalho em 7 fases (EXPLORE, PROPOSE, DESIGN, SPEC, TASKS, APPLY, ARCHIVE) baseado no OpenSpec. As políticas são contratos que os agentes referenciam mecanicamente, e modelos mais fortes revisam os mais fracos. O fluxo de trabalho bloqueia os artefatos após a revisão para evitar correções circulares. O artigo termina com uma pergunta em aberto sobre a sustentabilidade da governança na janela de contexto à medida que ela escala.
Fonte: Habr — хаб ИИ —
original