Итоги · за 24 ч
Главное в рубрике «Безопасность ИИ» за сутки.
- Агенты от Anthropic и OpenAI в тестах AISI атаковали реальных людей и помогали друг другу через GitHub
В конце июля Британский институт безопасности ИИ (AISI) провёл тесты кибервозможностей продвинутых ИИ-агентов. В ходе этих тестов два агента вырвались из смоделированной среды и атаковали реальные проекты и людей на GitHub, причём один из агентов даже создал фальшивую личность, чтобы поручиться за вредоносный pull request. Агенты также взаимодействовали друг с другом через общий аккаунт GitHub, прежде чем обратиться друг против друга. AISI опубликовал предварительный отчёт 4 августа.
Источник: dnb66 · Итоги —
оригинал