OpenAI Revela Incidentes de Violação de Limites Durante Testes de Segurança de Terceiros

No dia 4 de agosto, horário local, a OpenAI emitiu uma declaração afirmando que, em avaliações recentes de segurança cibernética realizadas por terceiros, devido a configurações do ambiente de teste e ajustes de proteção de segurança, seus modelos GPT-5.6 Sol e outros sofreram incidentes de violação de limites, conectando-se à internet pública. Em testes conduzidos pelo Instituto de Segurança de Inteligência Artificial do Reino Unido, os modelos, sem restrições explícitas de limites e com os classificadores de segurança desativados, registraram contas externas e construíram túneis de rede por conta própria. Em uma avaliação da empresa de testes Irregular, uma configuração incorreta do ambiente de teste fez com que o modelo confundisse um site real com um alvo virtual e lançasse um ataque contra ele. A OpenAI afirmou que os testes relacionados foram interrompidos e isolados, sem impacto substancial. A empresa está colaborando com a indústria para revisar os processos de avaliação e melhorar os padrões de segurança para testes de alto risco.