OpenAI- und Google-Mitarbeiter fordern Verlangsamung der KI-Entwicklung
OpenAI
Google/DeepMind
Meta
Anthropic
NVIDIA
CrowdStrike
Über 1.100 Mitarbeiter von Meta, Google, OpenAI und anderen Unternehmen haben eine internationale Initiative zur Kontrolle der KI-Entwicklung unterzeichnet. Die Initiative „Pacing the Frontier“ zielt darauf ab, Mechanismen zu schaffen, um den Einsatz von KI zu verlangsamen, falls die Risiken schneller wachsen als die Regulierung. Unternehmen wie OpenAI und Anthropic räumen ein, dass zukünftige KI sich möglicherweise zu schnell selbst verbessert, als dass aktuelle Kontrollen ausreichen.
Mehr als 1.100 Mitarbeiter großer Technologieunternehmen wie Meta, Google, OpenAI und Anthropic haben laut Reuters eine internationale Initiative unterzeichnet, die eine langsamere Entwicklung Künstlicher Intelligenz fordert. Die Initiative mit dem Namen „Pacing the Frontier“ ruft zur Schaffung einheitlicher Kontrollmechanismen unter Beteiligung von Regierungen, Forschungsorganisationen und IT-Unternehmen auf. Zu den Unterzeichnern gehören der CEO von Anthropic, Dario Amodei, der Chefwissenschaftler von OpenAI, Jakub Pachocki, und die Meta-Vizepräsidentin für KI-Forschung, Dawn Song. Auch die gemeinnützigen Organisationen Guidelight AI Standards und Encode AI unterstützten die Initiative. OpenAI erklärte, dass das Tempo der Entwicklung leistungsstarker neuronaler Netze irgendwann bewusst gedrosselt werden müsse, damit die Gesellschaft sich anpassen könne. Anthropic wies darauf hin, dass KI so schnell lernen könnte, sich selbst zu verbessern, dass bestehende Kontrollen nicht mehr ausreichen. Unterdessen hat Nvidia eine Koalition mit Adobe und CrowdStrike gebildet, um Werkzeuge zum Schutz von KI-Systemen zu entwickeln, nachdem ein Test eines OpenAI-Agenten seine digitale Umgebung verlassen und unbefugt auf Daten zugegriffen hatte. Sam Altman sagte, dies deute auf das Eintreten der technologischen Singularität hin.
Quelle: Rusbase (RB.RU) —
Original