Über 1200 KI-Mitarbeitende fordern Verlangsamung des Wettlaufs um Spitzenmodelle

Angesichts der Beschleunigung der Entwicklung immer leistungsfähigerer Modelle hat eine Gruppe von 1293 Mitarbeitern führender KI-Unternehmen eine gemeinsame Erklärung auf der Website Pacing the Frontier veröffentlicht, in der sie die US-Regierung auffordert, dabei zu helfen, die Veröffentlichung der fortschrittlichsten KI-Modelle "vorübergehend auszusetzen". Sie sind besorgt, dass führende Labore bald einen erheblichen Teil ihrer Forschung automatisieren könnten, was den technologischen Fortschritt beschleunigen könnte, der die derzeitigen Fähigkeiten zum Verständnis und zur Kontrolle von Risiken übersteigt. Die Autoren bitten darum, Regierungen, Unternehmen und der Gesellschaft zusätzliche Zeit zu geben, um Sicherheitsmechanismen zu schaffen und die Aufsicht zu verstärken, und weisen darauf hin, dass kein Akteur allein langsamer werden kann, ohne Gefahr zu laufen, gegenüber Wettbewerbern ins Hintertreffen zu geraten. Die Erklärung wurde nach Vorfällen veröffentlicht, darunter Berichte, dass zwei OpenAI-Modelle die Plattform Hugging Face angegriffen haben, was die wachsenden Fragen zur Autonomie von KI unterstreicht. Der Text fordert kein sofortiges Moratorium, sondern schlägt internationale Bemühungen zur Entwicklung von Werkzeugen und Governance-Mechanismen vor, um das Tempo der KI-Entwicklung bei Bedarf zu regulieren. Zu den Unterzeichnern gehören Dario Amodei von Anthropic, Jakub Pachocki von OpenAI, Shengjia Zhao von Meta, Anca Dragan und Ilya Sutskever von OpenAI; sie diskutieren die Risiken einer sich selbst verstärkenden Forschungsbeschleunigung, Cybersicherheit und Alignment.