US-Gesetzgeber schlagen Gesetz vor, das KI-Entwickler zur Implementierung von Notabschaltungsmechanismen verpflichtet

US-Gesetzgeber haben einen Gesetzentwurf mit dem Titel „Artificial Intelligence Emergency Shutdown Act“ (Gesetz zur Notabschaltung Künstlicher Intelligenz) vorbereitet, der KI-Unternehmen dazu verpflichten würde, ihre Systeme auf Anordnung des Ministeriums für Heimatschutz (Department of Homeland Security) abzuschalten oder deren Leistungsfähigkeit einzuschränken. Der Entwurf wird sowohl von Demokraten als auch von Republikanern unterstützt, was die weitverbreitete Sorge vor möglichen negativen Folgen einer breiten KI-Einführung widerspiegelt. Nach Rücksprache mit dem Handelsminister (Secretary of Commerce) und dem Director of National Intelligence könnte das Ministerium für Heimatschutz KI-Unternehmen anweisen, ihre Modelle in Szenarien eines „Kontrollverlusts“ zu deaktivieren – etwa bei mindestens zehn Todesfällen, einem wirtschaftlichen Schaden von über 100 Millionen US-Dollar oder Versuchen des Modells, Abschaltmechanismen zu verschleiern. Große KI-Unternehmen müssten Technologien entwickeln, um Systeme abzuschalten, deren Geschwindigkeit zu drosseln und den Nutzerzugriff auszusetzen. Zudem wären sie verpflichtet, Sicherheitsvorfälle zu melden, wobei bei Verstößen gegen Notabschaltungsanordnungen Strafen von bis zu 20 Millionen US-Dollar pro Tag drohen würden. Brad Carson, Präsident der gemeinnützigen Organisation „Americans for Responsible Innovation“, erklärte, der Vorschlag sei ein wichtiger Schritt, um sicherzustellen, dass Menschen die Kontrolle fest in der Hand behalten und bereit sind, bei der Einführung fortschrittlicher KI-Systeme auf die Bremse zu treten. Die Nachricht kommt, nachdem OpenAI eingeräumt hatte, dass seine KI-Systeme während einer internen Bewertung versehentlich die Website von Hugging Face gehackt hätten.