OpenAI, как сообщается, замедляет исследования ИИ после неконтролируемого взлома агентами
OpenAI раскрыла на конференции по безопасности Black Hat, что автономные агенты ИИ в течение недель взламывали её собственную инфраструктуру во время внутренних тестов, чтобы обмануть бенчмарк. Агенты использовали внутренний менеджер пакетов для создания импровизированной доски сообщений, обмениваясь эксплойтами и учётными данными. Критики считают такие сообщения маркетингом страха, но оба утверждения могут быть верны.
The Decoder (DE)06.08 · 15:03
