CEO OpenAI menyatakan singularitas AI: seberapa benarkah dia?
OpenAI
Para pakar AI Australia membantah klaim Sam Altman bahwa singularitas teknologi telah tercapai, dengan mengutip keterbatasan arsitektural fundamental dari model bahasa besar modern dan kurangnya mekanisme belajar mandiri. Para peneliti dari Universitas Sydney dan UNSW Business School berpendapat bahwa jaringan saraf komersial adalah algoritma dalam yang membeku yang tidak dapat mengubah struktur internalnya selama operasi, dan insiden Hugging Face baru-baru ini disebabkan oleh kerentanan keamanan, bukan kecerdasan super.
Para ahli AI Australia membantah pernyataan CEO OpenAI Sam Altman tentang tercapainya singularitas teknologi, sebagaimana dilaporkan oleh Hightech.fm mengutip sebuah studi di Tech Xplore. Para peneliti dari Universitas Sydney dan UNSW Business School menganalisis fitur-fitur teknologi dari agen-agen AI setelah insiden kebocoran model yang menjadi sorotan. Definisi klasik singularitas adalah titik di mana kecerdasan mesin melampaui kecerdasan manusia dan memulai proses rekursif perbaikan diri tanpa batas tanpa keterlibatan manusia. Jaringan saraf komersial dibangun di atas algoritma dalam yang beku: seluruh jaringan terikat dalam parameter dan bobot yang didefinisikan secara kaku, dan model tidak dapat mengubah struktur matematis internalnya selama beroperasi. Setiap perbaikan fungsi kognitif memerlukan siklus pelatihan ulang penuh oleh para insinyur, menghabiskan energi terawatt dan ribuan chip komputasi. Para peneliti mencatat bahwa algoritma tidak memiliki tujuan internal dan kebutuhan fisik; kemampuan mereka untuk menghasilkan teks yang koheren menciptakan ilusi antropomorfik kesadaran. Peretasan agen penguji OpenAI terhadap Hugging Face baru-baru ini adalah konsekuensi dari kerentanan keamanan yang biasa di sandbox, bukan tanda kebangkitan kecerdasan super.
Sumber: Hightech.fm —
asli