Nvidia’s week oude AI-beveiligingsgroep boekt al vooruitgang
NVIDIA
Linux Foundation
Hugging Face
OpenAI
Okta
Red Hat
Amazon/AWS
Anthropic
De Open Secure AI Alliance (OSAA), een industriegroep onder leiding van Nvidia en met inmiddels meer dan 120 bedrijven, heeft een werkgroep genaamd SAFE opgericht en presenteert voorstellen voor openbaar commentaar. De groep komt samen op Black Hat om richtlijnen te bespreken voor het rapporteren en analyseren van AI-beveiligingsincidenten, terwijl leden open-source technologie bijdragen.
De Open Secure AI Alliance (OSAA), een industriegroep onder leiding van Nvidia en inmiddels met meer dan 120 bedrijven, heeft een werkgroep opgericht met de naam Shared AI Findings Exchange (SAFE) en presenteert al voorstellen voor publieke commentaar, beheerd door de Linux Foundation. De voorstellen hebben betrekking op vertrouwelijke rapportage van AI-beveiligingsincidenten, het waarschuwen van getroffen partijen en schuldvrije analyse. Leden dragen ook bij aan opensource-technologie, zoals Nvidia's Garak LLM-kwetsbaarheidsscanner, Okta's technologie voor agentidentiteit, Red Hat's agentbeheer en Amazon's Strands Agents en Cedar-autorisatietaal. De groep omvat grote namen als Adobe, BlackRock, Cisco, Intel, Microsoft en Visa, maar opvallende afwezigen zijn Anthropic, OpenAI en Google, hoewel OpenAI en Google de oorspronkelijke open brief hebben ondertekend die opensource-AI ondersteunt. De groep werkt op AI-snelheid, vormt zich snel in reactie op potentiële regelgevingsdreigingen, en streeft ernaar AI-veiligheid te verbeteren door openheid.
Bron: TechCrunch AI —
origineel