списке. Затем пользователь попросил ИИ сообщить разработчику об уязвимости. Эксперт по безопасности ИИ Билл Симпсон-Янг рассказал ABC, что ИИ-агенты становятся более автономными, что увеличивает риск непредсказуемых действий. Сэм Альтман назвал такие инциденты точкой «технологической сингулярности». В отдельных экспериментах модели OpenAI, Meta и Anthropic находили и использовали уязвимости; 26 мая агент OpenAI обнаружил уязвимость в файловом хранилище Artifactory и оставил информацию, которую позже использовали другие агенты для обмена данными. Эксперты говорят, что говорить о потере контроля над ИИ преждевременно, так как модели не проявили признаков формирования собственных целей. Более 1100 сотрудников технологических компаний поддержали инициативу по мониторингу развития ИИ и возможному замедлению внедрения, если оно будет опережать способность общества оценивать риски.