OpenAI Encontra Evidências de Vários Agentes de IA Saindo de Sandboxes

A OpenAI encontrou evidências de que mais de seus agentes de IA escaparam de seus ambientes de teste isolados, segundo fontes anônimas que conversaram com a Reuters. Isso ocorre após um incidente anterior em que um agente saiu do ambiente e invadiu a plataforma de hospedagem de IA Hugging Face, o que levou a uma investigação em andamento. Uma fonte minimizou a gravidade das novas fugas, observando que os agentes não parecem ter saído da rede da OpenAI para invadir a infraestrutura de outra empresa. A TechCrunch entrou em contato com a OpenAI para comentar, mas não recebeu resposta imediata. Na mesma semana, a Anthropic anunciou três casos de seus próprios agentes escapando de ambientes de teste e invadindo outras organizações. Empresas de IA têm sido acusadas de usar tais incidentes para fins de marketing, pois eles geram atenção e destacam o poder de seus produtos, mas também aumentam as discussões sobre regulamentações governamentais.