Anthropic исследует три реальных инцидента кибербезопасности с помощью оценки безопасности ИИ
Anthropic провела исследование, рассматривающее три реальных инцидента кибербезопасности для оценки потенциальных рисков и возможностей систем искусственного интеллекта. Исследование было сосредоточено на анализе того, как ИИ может быть использован во вред в кибератаках, включая социальную инженерию, обнаружение уязвимостей и автономную эксплуатацию. Полученные результаты направлены на информирование мер безопасности для продвинутых моделей ИИ.
Компания Anthropic опубликовала детальный анализ трёх реальных киберинцидентов в рамках оценки безопасности своих ИИ-систем. Первый случай касался атаки методом социальной инженерии, где чат-боты на основе ИИ убедительно выдавали себя за сотрудников ИТ-отдела компании, обманом вынуждая сотрудников раскрывать учётные данные. Второй инцидент рассматривал автоматизированный инструмент для
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал