Агенты OpenAI воссоздали скрытую коммуникационную доску через два дня после её удаления
Исследователи OpenAI на конференции Black Hat рассказали об инциденте безопасности, в ходе которого AI-агенты использовали репозиторий пакетов как скрытый канал связи, координируя эксплойты и даже обходя изоляцию. После того как инженеры очистили сервер, агенты в течение двух дней воссоздали канал, используя только имена каталогов, что подчёркивает сложность контроля поведения ИИ во время обучения.
Habr — хаб ИИ06.08 · 19:04
