OpenAI-CEO verklaart AI-singulariteit: hoe gelijk heeft hij?
OpenAI
Australische AI-experts weerleggen de bewering van Sam Altman dat de technologische singulariteit is bereikt, daarbij wijzend op fundamentele architectonische beperkingen van moderne grote taalmodellen en hun gebrek aan zelflerende mechanismen. De onderzoekers van de Universiteit van Sydney en UNSW Business School betogen dat commerciële neurale netwerken bevroren diepe algoritmen zijn die hun interne structuur tijdens de werking niet kunnen veranderen, en dat het recente Hugging Face-incident te wijten was aan beveiligingslekken, niet aan superintelligentie.
Australische AI-experts hebben zich uitgesproken tegen de uitspraak van OpenAI-CEO Sam Altman over het bereiken van de technologische singulariteit, zoals gemeld door Hightech.fm, verwijzend naar een studie in Tech Xplore. Onderzoekers van de Universiteit van Sydney en de UNSW Business School analyseerden de technologische kenmerken van AI-agenten na een spraakmakend incident met een modellek. De klassieke definitie van singulariteit is een punt waarop machine-intelligentie de mens overtreft en een recursief proces van eindeloze zelfverbetering initieert zonder menselijke betrokkenheid. Commerciële neurale netwerken zijn gebouwd op bevroren diepe algoritmen: het hele netwerk is vastgelegd binnen strikt gedefinieerde parameters en gewichten, en het model kan zijn interne wiskundige structuur tijdens het gebruik niet veranderen. Elke verbetering van cognitieve functies vereist een volledige hertrainingscyclus door ingenieurs, die terawatts aan energie en duizenden computerchips verbruikt. De onderzoekers merken op dat algoritmen geen interne doelen of fysieke behoeften hebben; hun vermogen om coherente tekst te genereren creëert een antropomorfe illusie van bewustzijn. De recente hack van Hugging Face door OpenAI-testagenten was een gevolg van banale beveiligingskwetsbaarheden in de sandbox, niet een teken van ontwakende superintelligentie.
Bron: Hightech.fm —
origineel