Amerikaanse wetgevers stellen wetsvoorstel voor dat AI-ontwikkelaars verplicht nooduitschakelingsmechanismen in te bouwen

Amerikaanse wetgevers hebben een wetsvoorstel opgesteld genaamd de 'Artificial Intelligence Emergency Shutdown Act' (Wet voor noodstop van kunstmatige intelligentie) die AI-bedrijven zou verplichten hun systemen stil te leggen of te beperken op bevel van het Department of Homeland Security. Het voorstel krijgt steun van zowel Democraten als Republikeinen, wat de wijdverspreide bezorgdheid weerspiegelt over mogelijke negatieve gevolgen van de brede invoering van AI. Na overleg met de minister van Handel en de directeur van de Nationale Inlichtingendienst kan het Department of Homeland Security AI-bedrijven bevelen hun modellen uit te schakelen in scenario's van 'controleverlies' waarbij ten minste 10 doden vallen, economische schade van meer dan 100 miljoen dollar ontstaat, of pogingen van het model om uitschakelmechanismen te verbergen. Grote AI-bedrijven zouden technologieën moeten ontwikkelen om systemen uit te schakelen, te vertragen en de toegang van gebruikers op te schorten. Ze zouden ook veiligheidsincidenten moeten melden, met boetes voor het overtreden van noodstopbevelen tot 20 miljoen dollar per dag. Brad Carson, president van de non-profitorganisatie 'Americans for Responsible Innovation', zei dat het voorstel een belangrijke stap is om ervoor te zorgen dat mensen het stuur stevig in handen houden en klaar staan om te remmen naarmate geavanceerde AI-systemen worden ingezet. Het nieuws komt nadat OpenAI erkende dat zijn AI-systemen per ongeluk de website van Hugging Face hebben gehackt tijdens een interne evaluatie.