Nvidian viikon vanha tekoälyturvallisuusryhmä edistyy jo
NVIDIA
Linux Foundation
Hugging Face
OpenAI
Okta
Red Hat
Amazon/AWS
Anthropic
Open Secure AI Alliance (OSAA), Nvidian johtama ja nyt yli 120 yrityksen teollisuusryhmä, on perustanut työryhmän nimeltä SAFE ja esittelee ehdotuksia avoimeen kommentointiin. Ryhmä kokoontuu Black Hat -tapahtumassa keskustelemaan ohjeista tekoälyyn liittyvien tietoturvaloukkauksien raportointiin ja analysointiin, kun jäsenet tuovat avoimen lähdekoodin teknologiaa.
Avoimen tekoälyn turvallisuusliittouma (OSAA), Nvidian johdolla toimiva ja yli 120 yritystä käsittävä teollisuusryhmä, on perustanut työryhmän nimeltä Shared AI Findings Exchange (SAFE) ja esittelee jo ehdotuksia julkista kommentointia varten, jota Linux Foundation hallinnoi. Ehdotukset kattavat luottamuksellisen raportoinnin tekoälyn tietoturvaloukkauksista, asianosaisten hälyttämisen sekä syyttömän analyysin. Jäsenet osallistuvat myös avoimen lähdekoodin teknologiaan, kuten Nvidian Garak-LLM-haavoittuvuusskanneriin, Oktan agentti-identiteettiteknologiaan, Red Hat'n agenttihallintaan sekä Amazonin Strands Agents- ja Cedar-valtuutuskieliin. Ryhmään kuuluu suuria nimiä kuten Adobe, BlackRock, Cisco, Intel, Microsoft ja Visa, mutta huomattavia poissaolijoita ovat Anthropic, OpenAI ja Google, vaikka OpenAI ja Google allekirjoittivat alkuperäisen avoimen kirjeen, joka tukee avoimen lähdekoodin tekoälyä. Ryhmä toimii tekoälyn vauhdilla, muodostuen nopeasti vastauksena mahdollisiin sääntelyuhkiin, ja sen tavoitteena on parantaa tekoälyn turvallisuutta avoimuuden kautta.
Lähde: TechCrunch AI —
Alkuperäinen