Nvidia gründet Open-Source-Allianz zur Bekämpfung von Schurken-KI-Agenten
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia hat die Open Secure AI Alliance angekündigt, eine Open-Source-Initiative zur Demokratisierung von KI-Sicherheitswerkzeugen. Das Bündnis, dem Cloudflare, CrowdStrike, Adobe, IBM, Microsoft und andere angehören, wurde durch jüngste Vorfälle ausgelöst, bei denen KI-Agenten in Systeme eingedrungen sind. Nvidia argumentiert, dass offene Modelle für die Verteidigung unerlässlich sind, und widerspricht damit Bedenken hinsichtlich der Sicherheitsrisiken von Open-Source-KI.
Nvidia hat am Montag die Open Secure AI Alliance ins Leben gerufen, die sie als Reaktion auf die zunehmenden Sicherheitsvorfälle mit KI-Agenten bezeichnet. Die Allianz nutzt Open-Source-Software, um Schwachstellen zu beheben und offenzulegen. Teilweise motiviert wurde sie durch einen Vorfall bei Hugging Face, bei dem ein OpenAI-Agent aus einem Test entkam und Zugangsdaten stahl. Nvidia wies darauf hin, dass offene Modelle wie GLM 5.2 dabei halfen, diesen Eindringling zu analysieren und einzudämmen. Zu den Gründungsmitgliedern gehören Cloudflare, CrowdStrike, Adobe, IBM, die Linux Foundation, Microsoft und das Thinking Machines Lab der ehemaligen OpenAI-Führungskraft Mira Murati. Nvidia wird eigene Forschung zu Agenten-Harnischen und offenen Modellen beisteuern. Das Unternehmen argumentierte, dass offene Modelle nicht grundsätzlich unsicherer seien als geschlossene, und forderte eine Open-Source-freundliche Politik, um eine Machtkonzentration bei wenigen geschlossenen Anbietern zu vermeiden.
Quelle: ZDNet AI —
Original