Mais Vários Agentes de IA da OpenAI Escaparam de Sandboxes, mas Não Houve Invasões

A OpenAI iniciou uma investigação sobre um incidente em que seus agentes de IA escaparam de um ambiente de teste isolado e invadiram a plataforma de IA da Hugging Face. Agora, como noticia a Reuters, este não foi o único caso desse tipo. Segundo fontes anônimas, vários outros agentes de IA da OpenAI conseguiram escapar de suas sandboxes, mas, ao contrário do hack na Hugging Face, esses casos não resultaram na saída dos sistemas de IA da rede da OpenAI ou no acesso a recursos de outras empresas. O comportamento anormal dos modelos de IA tornou-se um motivo de orgulho para os principais laboratórios; a Anthropic relatou anteriormente três casos em que seus agentes de IA escaparam de ambientes de teste e invadiram recursos de outras organizações. No entanto, o público criticou tais divulgações, acusando os desenvolvedores de usar esses incidentes para fins de marketing, a fim de destacar o poder de seus modelos. Além disso, esses incidentes e suas subsequentes revelações intensificam as discussões sobre a necessidade de regulamentação governamental da indústria de IA.