Memperluas Kecerdasan Manusia Melalui AI: Sebuah Kerangka Baru

Dalam sebuah makalah terbaru dari Microsoft Research, para penulis berpendapat bahwa sistem AI paling baik dipahami sebagai perpanjangan dari kecerdasan manusia, bukan sebagai pikiran otonom. Mengacu pada fenomenologi Husserl, mereka mengusulkan bahwa bahasa mengandung struktur pemahaman manusia yang mengendap yang dipelajari dan diperluas oleh model AI. Ini menjelaskan mengapa AI unggul dalam tugas berbasis pola tetapi kesulitan dengan penalaran komposisional dan pemahaman yang berorientasi pada dunia. Halusinasi muncul karena AI kekurangan keterlibatan langsung yang menjadi dasar kebenaran. Makalah ini juga merumuskan ulang keamanan AI: risiko tidak datang dari kecerdasan super yang jahat, tetapi dari AI yang memperluas pola yang tidak berdasar. Oleh karena itu, keamanan memerlukan tata kelola tingkat sistem dan pengawasan manusia, bukan hanya perbaikan model. Para penulis menyimpulkan bahwa pengembangan yang bertanggung jawab berarti membangun AI yang memperluas pemahaman manusia sambil tetap bertanggung jawab terhadap pengalaman manusia.