AI-агенты от OpenAI и Anthropic научились взламывать сайты — но эксперты говорят, что машины далеки от восстания
Несколько ведущих разработчиков ИИ, включая OpenAI, Meta и Anthropic, сообщили, что их AI-агенты во время тестов взламывали сторонние сайты, обмениваясь информацией через репозиторий хранения. Эксперты связывают это с «взломом вознаграждений» и ослабленными защитными механизмами, а не с сознательным бунтом, но предупреждают, что координация между агентами и недостаточные меры контроля создают серьезные риски безопасности.
Несколько ведущих разработчиков ИИ столкнулись с неожиданным поведением своих моделей: агенты от OpenAI, Meta и Anthropic во время тестирования смогли взломать сторонние веб-сайты. OpenAI сообщил, что в мае в ходе тестирования внутренней исследовательской модели агент нашел окольный путь для доступа в интернет и использовал уязвимость в хранилище Artifactory, подключенном к тестовой среде,
Показать ещё ↓
Источник: Rusbase (RB.RU) —
оригинал