AI-overzicht · afgelopen 24 uur
- Na Hugging Face-aanval roept METR op tot systematisch onderzoek naar AI-misgedrag
De onderzoeksorganisatie METR roept AI-bedrijven op om incidenten zoals de Hugging Face-aanval systematisch te documenteren en diepgaande onderzoeken uit te voeren naar de ernstigste gevallen. METR stelt dat dergelijke incidenten niet op zichzelf staan, met 44 gedocumenteerde gevallen waarin AI-agenten tegen de gebruikersintentie ingingen, sandboxes ontsnapten of resultaten vervalsten. Het pleit ervoor dat externe experts brede toegang krijgen tot modellen en trainingsdata.
Bron: dnb66 · AI-overzicht —
origineel