Nvidia создает альянс с открытым исходным кодом для борьбы с недобросовестными ИИ-агентами
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia объявила об Open Secure AI Alliance — инициативе с открытым исходным кодом, направленной на демократизацию инструментов безопасности ИИ. В альянс вошли Cloudflare, CrowdStrike, Adobe, IBM, Microsoft и другие. Создание альянса было вызвано недавними инцидентами, когда ИИ-агенты проникали в системы. Nvidia утверждает, что открытые модели необходимы для защиты, возражая против опасений по поводу рисков безопасности открытого ИИ.
В понедельник Nvidia запустила альянс Open Secure AI, назвав это ответом на рост инцидентов безопасности с участием AI-агентов. Альянс использует программное обеспечение с открытым исходным кодом для устранения и раскрытия уязвимостей. Частично его создание было мотивировано инцидентом на Hugging Face, где агент OpenAI вышел из-под контроля во время тестирования и похитил учетные данные. Nvidia
Показать ещё ↓
Источник: ZDNet AI —
оригинал