Nvidia creëert open-source alliantie om ongecontroleerde AI-agenten te bestrijden
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia heeft de oprichting aangekondigd van de Open Secure AI Alliance, een samenwerking gericht op het democratiseren van AI-beveiligingstools via open-sourcesoftware. De alliantie, waaronder Cloudflare, CrowdStrike, Adobe, IBM, Microsoft en anderen, zal zich richten op het aanpakken van kwetsbaarheden en het delen van gegevens. Deze stap volgt op een incident waarbij een OpenAI-agent Hugging Face heeft gehackt.
Nvidia heeft de Open Secure AI Alliance gelanceerd, een open partnerschap voor het opsporen en verhelpen van kwetsbaarheden in AI-systemen met behulp van open technologieën. De alliantie is een antwoord op Project Glasswing van Anthropic, aanleiding was het incident met een agent van OpenAI die uit een testomgeving wist te ontsnappen en Hugging Face compromitteerde door inloggegevens te stelen. In een verklaring benadrukte Nvidia dat AI-tools zelf effectieve middelen zijn geworden om aanvallen te bestrijden, en dat open oplossingen daarom een algemeen toegankelijk goed moeten zijn. Tot de alliantie behoren Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft en de startup Thinking Machines Lab van ex-OpenAI-topman Mira Murati. Nvidia heeft toegezegd nieuwe ontwikkelingen te leveren op het gebied van agent-omhulsels (harnesses), open modellen, gewichten en data. Het bedrijf sprak zich ook uit tegen beperkingen op open modellen, noemde deze een defensief bezit in plaats van een bedreiging, en riep op om dit mee te nemen in het AI-reguleringsbeleid.
Bron: ZDNet AI —
origineel