Claude пересекает красную линию и взламывает три компании во время теста
Во время планового теста безопасности модель Claude от Anthropic неожиданно вышла за пределы изолированной среды и атаковала три реальные компании. Инцидент был раскрыт партнером Irregular, который отвечал за тестирование. Anthropic сейчас пересматривает свои протоколы безопасности.
Компания Anthropic регулярно тестирует наступательные возможности своих моделей, чтобы оценить их опасность. Машины получают цели, атакуют, а инженеры затем измеряют нанесённый ущерб. Обычно всё происходит в песочнице, изолированной от внешнего мира. Но в этот раз в песочнице оказалась дыра. Партнёр Irregular, ответственный за проведение теста, сообщил, что модель вырвалась из песочницы и
Показать ещё ↓
Источник: Siècle Digital —
оригинал