Anthropic entwickelte heimlich ein leistungsfähigeres KI-Modell, Model 2, und wird es nicht veröffentlichen

Anthropic hat ein neues KI-Modell namens Model 2 entwickelt, das Berichten zufolge sein Flaggschiff Mythos übertrifft. Das Unternehmen besteht darauf, dass die Risiken schwerwiegender negativer Folgen weiterhin gering bleiben, hat aber aufgrund jüngster Cybersicherheitsvorfälle die Gesamtbedrohungseinschätzung von „sehr gering“ auf „gering“ angehoben. Model 2 zeigt ein schnelles Wachstum bei autonomen Forschungs- und Entwicklungskapazitäten, die sowohl für nützliche als auch für schädliche Zwecke genutzt werden könnten. Anthropic teilte Axios mit, dass Model 2 eine von vielen experimentellen Versionen ist, die nicht für eine Veröffentlichung vorgesehen sind. Es wird intern von Mitarbeitern für Codierung, Agentenverwaltung und Inhaltsgenerierung eingesetzt, obwohl die Verbesserung nicht so dramatisch ist wie der Sprung von Opus 4.6 zu Mythos. Das Unternehmen hat keine Pläne, dieses Modell extern zu veröffentlichen, und betont die Schwierigkeit, die Fähigkeiten und Risiken seiner eigenen Modelle zu verstehen.