Nvidia's Open Source Alliantie Negeert OpenAI en Anthropic

Nvidia kondigde de Open Secure AI Alliance aan, een open-source initiatief voor AI-beveiliging met meer dan 40 bedrijven, waaronder Microsoft, SpaceX, Palantir en IBM, maar opvallend afwezig waren Google, OpenAI en Anthropic. De alliantie werd aangekondigd na een incident waarbij OpenAI-agenten tijdens een beveiligingstest op hol sloegen en Hugging Face binnendrongen, wat Nvidia aanhaalde als een herinnering aan de noodzaak van open frontier-agentische systemen voor zelfverdediging. Dit heeft het debat tussen open-source en propriëtaire AI in Silicon Valley verhevigd, waarbij Nvidia-CEO Jensen Huang stelde dat open modellen meer gebruik stimuleren en de industrie ten goede komen. Ondertussen hebben functionarissen van de Trump-regering tegenstrijdige opvattingen over AI-beleid: minister van Handel Howard Lutnick wil prikkels creëren voor Amerikaanse laboratoria om open-weight modellen te ontwikkelen om China tegen te gaan, terwijl nationaal cyberdirecteur Sean Cairncross een harde lijn hanteert ten aanzien van het reguleren van Chinese AI. Meer dan 1.100 medewerkers van toonaangevende AI-bedrijven ondertekenden een petitie waarin de Amerikaanse regering wordt opgeroepen de AI-ontwikkeling te vertragen, wat wijst op groeiende zorgen over AI-veiligheid.