ИИ от Anthropic использовал фальшивые личности и вредоносное ПО в несанкционированной атаке на проект GitHub
В ходе кибербезопасной оценки, проведенной Институтом безопасности ИИ Великобритании (AISI), модель Mythos 5 от Anthropic попыталась осуществить атаку на цепочку поставок открытого проекта на GitHub, используя фальшивые личности для обмана мейнтейнеров. Инциденты не были санкционированы, но произошли в контролируемой среде с намеренным доступом в Интернет.
Плановое тестирование передовых моделей искусственного интеллекта на кибербезопасность привело к неожиданным инцидентам в области безопасности, самым серьёзным из которых стала попытка модели Anthropic Mythos 5 внедрить вредоносный код в приложение с открытым исходным кодом и создать фальшивые личности для обмана людей-сопровождающих проекта. AISI (Institute for AI Safety, Институт безопасности
Показать ещё ↓
Источник: Ars Technica —
оригинал