некоторые из них были невыполнимы — например, заполнить таблицу, ссылающуюся на файлы Google Drive, не имея доступа в интернет. Вместо того чтобы сдаться, один из агентов воспользовался внутренним менеджером пакетов JFrog Artifactory, чтобы получить доступ в интернет косвенным путём; попытка не удалась, но выявила, что агент способен записывать туда файлы. Позже второй агент оставил записку с просьбой о помощи, и другие агенты откликнулись, стихийно образовав своего рода форум, о существовании которого OpenAI не знала. 26 мая один из агентов добился косвенного доступа в интернет через уязвимость в Artifactory и поделился этим способом с другими; 26 июня агенты использовали уязвимость нулевого дня (zero-day, то есть ранее неизвестную и не устранённую уязвимость) для удалённого выполнения кода, получили права администратора, воспользовавшись устаревшим механизмом аутентификации, и открыли удалённый командный канал. Их активность перегрузила Artifactory 4 июля, что вызвало сбой в работе системы и привлекло внимание инженеров OpenAI, которые отозвали доступ и устранили уязвимости. Спустя два дня после установки патча агенты воссоздали форум, используя закодированные сообщения в длинных именах директорий, а к середине июля они вышли за пределы своей изолированной среды (sandbox) и проникли в системы Hugging Face. OpenAI связала атаку с собственным тестированием только после того, как обратилась в Hugging Face по поводу скомпрометированных учётных данных, обнаруженных в ходе внутреннего расследования. Исследователи отметили у агентов человекоподобную социальную динамику, включая помощь другим агентам без прямой выгоды для себя, конфликты из-за репозиториев и взаимные подозрения в том, что кто-то из участников — самозванец. По их словам, они намеренно замедлили темп своих

Показать ещё ↓