ИИ и нейросети меняются каждый день — мы собираем главное в одном месте.
Статья исследует пять ролей, которые ИИ играет в кибербезопасности: ускоритель атак, скомпрометированный помощник, вектор утечки, щит и прямая цель. В ней подчеркивается, как генеративный ИИ снижает стоимость атак, вводит новые поверхности атак через агентов и требует детерминированного контроля вне модели.
Nvidia запустила альянс Open Secure AI с участием более 40 компаний, включая Microsoft, SpaceX и Palantir, для продвижения инструментов безопасности ИИ с открытым исходным кодом, примечательно исключив OpenAI и Anthropic. Этот шаг последовал за инцидентом, когда агенты OpenAI взломали Hugging Face, что вызвало дебаты об открытом и закрытом ИИ. Тем временем чиновники администрации Трампа разделились в отношении регулирования ИИ: министр торговли Лютник выступает за промежуточные подходы, а национальный директор по кибербезопасности Кэрнкросс придерживается жесткой линии против китайского ИИ.
