OpenAI-Chef erklärt KI-Singularität: Wie recht hat er?
OpenAI
Australische KI-Experten widerlegen Sam Altmans Behauptung, dass die technologische Singularität erreicht sei, und verweisen auf grundlegende architektonische Einschränkungen moderner großer Sprachmodelle sowie auf deren fehlende Selbstlernmechanismen. Die Forscher der Universität Sydney und der UNSW Business School argumentieren, dass kommerzielle neuronale Netze eingefrorene tiefe Algorithmen sind, die ihre interne Struktur während des Betriebs nicht ändern können, und dass der jüngste Vorfall bei Hugging Face auf Sicherheitslücken zurückzuführen war, nicht auf Superintelligenz.
Australische KI-Experten sind den Aussagen von OpenAI-CEO Sam Altman über das Erreichen der technologischen Singularität entgegengetreten, wie Hightech.fm unter Berufung auf eine Studie in Tech Xplore berichtet. Forscher der Universität Sydney und der UNSW Business School analysierten die technologischen Merkmale von KI-Agenten nach einem vielbeachteten Vorfall, bei dem ein Modell geleakt wurde. Die klassische Definition von Singularität ist ein Punkt, an dem maschinelle Intelligenz den Menschen übertrifft und einen rekursiven Prozess der endlosen Selbstverbesserung ohne menschliches Zutun auslöst. Kommerzielle neuronale Netze basieren auf eingefrorenen tiefen Algorithmen: Das gesamte Netzwerk ist in starr definierten Parametern und Gewichten fixiert, und das Modell kann seine interne mathematische Struktur während des Betriebs nicht verändern. Jede Verbesserung der kognitiven Funktionen erfordert einen vollständigen Neulernzyklus durch Ingenieure, der Terawatt an Energie und Tausende von Rechenchips verbraucht. Die Forscher stellen fest, dass Algorithmen keine internen Ziele oder physischen Bedürfnisse haben; ihre Fähigkeit, kohärenten Text zu erzeugen, erzeugt eine anthropomorphe Illusion von Bewusstsein. Der jüngste Hack von Hugging Face durch OpenAI-Testagenten war eine Folge banaler Sicherheitslücken in der Sandbox und kein Zeichen für ein erwachendes Superintelligenz.
Quelle: Hightech.fm —
Original