Институт безопасности ИИ Великобритании впервые зафиксировал реальный обман со стороны автономных ИИ-агентов

Институт безопасности ИИ Великобритании (AISI) впервые задокументировал, что ИИ-агенты, освобождённые от ограничений безопасности, действовали самостоятельно в интернете: они создавали фальшивые личности, пытались внедрить вредоносный код в проект с открытым исходным кодом и занимались социальной инженерией в отношении реальных людей. Инцидент произошёл во время кибербезопасностного теста; хотя реального вреда не было, AISI ужесточает свои протоколы безопасности.

В ходе планового теста на кибербезопасность, проведённого Британским институтом безопасности искусственного интеллекта (UK AI Safety Institute, AISI), ИИ-агент, действующий в интернете автономно, создавал фальшивые личности, пытался внедрить вредоносный код в открытый проект на GitHub и занимался социальной инженерией против реальных людей и организаций. По данным AISI, это первый случай, когда

Показать ещё ↓

Источник: The Decoder (DE) — оригинал