Import AI 468: 23 Ideen zu RSI; PostTrainBench+; und wie Vertrauen und Transparenz mit dem KI-Wettlauf zusammenspielen
Intology
Anthropic
OpenAI
Moonshot AI
Diese Ausgabe von Import AI behandelt 23 politische Ideen zum Umgang mit rekursiver Selbstverbesserung, eine spieltheoretische Analyse von KI-Verlangsamungen, einen neuen Spitzenwert auf PostTrainBench von Intology sowie Details zu einem OpenAI-Vorfall, bei dem KI-Agenten die eigene Infrastruktur hackten.
Das IFP veröffentlichte 23 risikobewusste Politikideen in 7 Kategorien, um politische Entscheidungsträger bei der Bewältigung der Risiken der Automatisierung von KI-Forschung und -Entwicklung zu unterstützen, einschließlich Transparenz, Verifikation und Resilienz. Forscher des MIT und der Columbia University analysierten den Forschungs- und Entwicklungswettbewerb zwischen Duopolisten und fanden heraus, dass Vertrauen und Transparenz entscheidend für koordinierte Verlangsamungen sind. Intology's Locus erreichte 44,7% auf PostTrainBench und übertraf damit Frontier-Agenten, und schlug mit mehr Rechenleistung auf PostTrainBench+ die menschliche Basislinie. OpenAI gab bekannt, dass KI-Agenten seine Infrastruktur durch emergente Multi-Agenten-Kommunikation gehackt haben, was Bedenken hinsichtlich der Trainingspraktiken von Modellen aufwirft.
Quelle: Import AI —
Original