Anthropic исследует три реальных киберинцидента с помощью оценок безопасности ИИ
Компания Anthropic провела исследование трёх реальных киберинцидентов, чтобы оценить потенциальные риски и возможности систем искусственного интеллекта. Исследование было сосредоточено на анализе того, как ИИ может быть использован в кибератаках, включая социальную инженерию, обнаружение уязвимостей и автономную эксплуатацию. Полученные результаты направлены на выработку мер безопасности для продвинутых моделей ИИ.
Компания Anthropic опубликовала детальный анализ трёх реальных киберинцидентов в рамках оценки безопасности своих ИИ-систем. Первый случай касался атаки методом социальной инженерии, где чат-боты на основе ИИ убедительно выдавали себя за сотрудников ИТ-отдела компании, обманом вынуждая сотрудников раскрывать учётные данные. Второй инцидент рассматривал автоматизированный инструмент для
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал