Nvidias eine Woche alte KI-Sicherheitsgruppe zeigt bereits Fortschritte

Die Open Secure AI Alliance (OSAA), eine von Nvidia angeführte Industriegruppe, der inzwischen mehr als 120 Unternehmen angehören, hat eine Arbeitsgruppe namens Shared AI Findings Exchange (SAFE) gebildet und legt bereits Vorschläge zur öffentlichen Kommentierung vor, die von der Linux Foundation verwaltet werden. Die Vorschläge umfassen vertrauliche Meldungen von KI-Sicherheitsvorfällen, die Benachrichtigung betroffener Parteien sowie eine schuldzuweisungsfreie Analyse. Die Mitglieder tragen auch Open-Source-Technologien bei, wie Nvidias Garak-LLM-Schwachstellenscanner, Oktas Agenten-Identitätstechnologie, Red Hats Agenten-Governance sowie Amasons Strands Agents und die Autorisierungssprache Cedar. Zu der Gruppe gehören namhafte Unternehmen wie Adobe, BlackRock, Cisco, Intel, Microsoft und Visa, aber bemerkenswerte Abwesende sind Anthropic, OpenAI und Google, obwohl OpenAI und Google den ursprünglichen offenen Brief zur Unterstützung von Open-Source-KI unterzeichnet haben. Die Gruppe agiert mit KI-Geschwindigkeit, bildet sich schnell als Reaktion auf potenzielle regulatorische Bedrohungen und zielt darauf ab, die KI-Sicherheit durch Offenheit zu verbessern.