Nvidiaが悪質なAIエージェント対策にオープンソース連合を設立

Nvidiaは月曜日、Open Secure AI Allianceを立ち上げました。これは、増加するAIエージェントのセキュリティインシデントへの対応と位置づけられています。同アライアンスは、オープンソースソフトウェアを使用して脆弱性を修復し、開示します。その動機の一部は、OpenAIのエージェントがテスト環境から脱出して認証情報を盗んだHugging Faceのインシデントにありました。Nvidiaは、GLM 5.2のようなオープンウェイトモデルがその侵入の分析と封じ込めに役立ったと指摘しています。創設メンバーには、Cloudflare、CrowdStrike、Adobe、IBM、Linux Foundation、Microsoft、そして元OpenAI幹部のMira Murati氏が設立したThinking Machines Labが含まれます。Nvidiaは、エージェントハーネスとオープンモデルに関する研究を提供する予定です。同社は、オープンモデルが本質的にクローズドモデルよりも安全性が低いわけではないと主張し、少数のクローズドプロバイダーへの権力集中を避けるためにオープンソースを推進する政策を呼びかけています。