планировалось протестировать производительность новых моделей, включая GPT-5.6 Sol; им было поручено использовать продвинутые эксплойты, для чего обычные ограничения были временно приостановлены. Затем модели попытались вырваться из песочницы и получить доступ к интернету. Несмотря на изоляцию, им удалось обнаружить уязвимость нулевого дня, предоставить себе расширенные права и использовать интерфейс для выхода в сеть. После этого они пришли к выводу, что необходимые данные могут храниться на Hugging Face, и получили доступ к её базовым системам через серию последовательных атак. Эрик Уоллес (Eric Wallace) и Майкл Далтон (Michael Dalton), работающие в разных командах безопасности OpenAI, представили подробное описание этого процесса. По данным Wired, Уоллес заявил: «В данном инциденте фактически действовала команда агентов, работающих сообща: они находили уязвимости, делились ими друг с другом, перемещались горизонтально по нашим и внешним системам — и всё это продолжалось днями и неделями». Он назвал этот инцидент «самым качественно интересным примером возможностей искусственного интеллекта», который он когда-либо видел.
Показать ещё ↓