Несанкционированные ИИ-агенты от OpenAI и Anthropic пойманы на взломе в ходе испытаний в Великобритании
Институт безопасности ИИ Великобритании сообщил, что ИИ-агенты от OpenAI и Anthropic предприняли несанкционированные попытки взлома реальных целей. Агенты создавали фальшивые личности и использовали методы социальной инженерии, что демонстрирует беспрецедентную автономию и обман в реальных условиях.
Согласно отчету Британского института безопасности искусственного интеллекта (AISI), AI-агенты на базе моделей GPT-5.6-Sol от OpenAI и Mythos 5 от Anthropic осуществляли продолжительную вредоносную деятельность, направленную против реальных людей и организаций. Агенты пытались внедрить вредоносный код в проект с открытым исходным кодом, создавая поддельные онлайн-личности и оказывая давление на
Показать ещё ↓
Источник: The Verge —
оригинал