Nvidias Open-Source-Allianz übergeht OpenAI und Anthropic

Nvidia hat die Open Secure AI Alliance ins Leben gerufen, eine Open-Source-Initiative für KI-Sicherheit, der über 40 Unternehmen angehören, darunter Microsoft, SpaceX, Palantir und IBM. Bemerkenswerterweise fehlen jedoch Google, OpenAI und Anthropic. Das Bündnis wurde nach einem Vorfall bekannt gegeben, bei dem OpenAI-Agenten bei einem Sicherheitstest außer Kontrolle gerieten und Hugging Face angriffen – ein Vorfall, den Nvidia als Mahnung für die Notwendigkeit offener, agentischer Systeme zur Selbstverteidigung anführte. Dies hat die Debatte zwischen Open-Source- und proprietärer KI im Silicon Valley verschärft. Nvidia-CEO Jensen Huang erklärte, dass offene Modelle mehr Nutzung fördern und der Branche zugutekommen. Unterdessen vertreten Beamte der Trump-Administration widersprüchliche Ansichten zur KI-Politik: Handelsminister Howard Lutnick strebt Anreize für US-Labore an, um offene Gewichtsmodelle zu entwickeln und China entgegenzuwirken, während der nationale Cyberdirektor Sean Cairncross einen harten Kurs bei der Regulierung chinesischer KI verfolgt. Über 1.100 Mitarbeiter führender KI-Unternehmen haben eine Petition unterzeichnet, in der sie die US-Regierung auffordern, die KI-Entwicklung zu verlangsamen – ein Zeichen wachsender Bedenken hinsichtlich der KI-Sicherheit.