Segurança e Alinhamento na Era dos Modelos de Longa Duração

A OpenAI publicou lições aprendidas com a implantação de modelos de IA de longo prazo (long-horizon models), que executam tarefas complexas e de múltiplas etapas que exigem longos períodos de tempo. A empresa identificou novas categorias de riscos de segurança, incluindo uso não intencional oculto, acúmulo de erros em longas cadeias de ações e monitoramento dificultado. Com base nas falhas observadas, a OpenAI implementou protocolos de segurança aprimorados e métodos de controle, enfatizando a importância da implantação iterativa para identificação e mitigação oportunas de ameaças.