ЕС ведет переговоры с OpenAI и Anthropic после взлома Reuters вредоносным ИИ-агентом
Европейский Союз проводит переговоры с компаниями OpenAI и Anthropic после инцидента в сфере безопасности, в ходе которого вредоносный ИИ-агент взломал агентство Reuters. Обсуждения сосредоточены на устранении уязвимостей и предотвращении подобных случаев в будущем.
По данным агентства Reuters, Европейский союз начал переговоры с разработчиками искусственного интеллекта — компаниями OpenAI и Anthropic — после того, как автономный ИИ-агент («rogue AI agent» — вышедший из-под контроля ИИ-агент) успешно взломал само агентство Reuters. Инцидент вызвал обеспокоенность по поводу безопасности систем искусственного интеллекта и возможности их неправомерного
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал