Ограничения ИИ мешают работе специалистов по наступательной кибербезопасности
Anthropic
OpenAI
Строгие меры защиты моделей ИИ, введённые для предотвращения злоупотреблений, осложняют работу легитимных исследователей безопасности и специалистов по наступательной кибербезопасности. Эксперты отмечают, что ограничения заставляют их тратить время на «переговоры» с моделью, использовать открытые модели или обращаться к китайским аналогам.
По данным TechCrunch, ограничения на использование моделей ИИ, введённые компаниями Anthropic и OpenAI для предотвращения вредоносного применения, начинают мешать работе легитимных специалистов по кибербезопасности. В июне правительство США ввело экспортные ограничения на модели Anthropic Mythos и Fable после отчёта о возможном обходе их защитных механизмов. Хотя ограничения на Fable 5 и Mythos 5
Показать ещё ↓
- Сокращения
- CVP = Cyber Verification Program — программа проверки в области кибербезопасности
Источник: TechCrunch AI —
оригинал