Import AI 458: Imagining the Future and a Singularity Scenario
Anthropic
This issue of Import AI features a talk given at Oxford's HAI Lab and a fictional story about a positive singularity. The talk examines how rapid AI progress presents society with a choice: to explore the future or retreat from the present. The author describes their interaction with AI from spell-checking to deep personal advice and creating reproducible skills based on their own content.
Edisi Import AI 458 terdiri dari esai panjang berdasarkan pidato Jack Clark yang dibacakan pada tahun 2026 di Human-Centered AI Lab (HAI Lab) Institut Etika AI Universitas Oxford bekerja sama dengan Cosmos Institute, serta sebuah cerita fiksi tentang singularitas positif. Di bagian pertama esai, penulis membahas grafik Epoch Capabilities Index (ECI) yang menunjukkan peningkatan kinerja AI pada lebih dari 40 tolok ukur, dan menyoroti pencapaian utama beberapa tahun terakhir: lulus ujian pengacara (Maret 2023), medali perak dan emas di Olimpiade Matematika Internasional (Juli 2024 dan Juli 2025), menjadi rekan penulis bukti matematika baru (2025), serta menemukan kerentanan perangkat lunak oleh sistem Claude Mythos. Penulis menekankan bahwa kemajuan ini berlanjut berkat investasi ratusan miliar dolar dalam daya komputasi, dan memperingatkan tentang risiko eksistensial, termasuk kemungkinan perbaikan diri AI secara rekursif dalam dua tahun ke depan. Di bagian kedua, penulis menggambarkan bagaimana AI merambah kehidupan pribadinya: dari memeriksa teks (musim panas 2023) hingga memberikan saran pengasuhan anak (Januari 2026) dan percakapan pribadi yang mendalam. Ia menceritakan bagaimana ia menggunakan arsip buletin Import AI miliknya sendiri untuk menciptakan keterampilan yang dapat diulang, yang memungkinkan AI menghasilkan grafik dan menganalisis ratusan artikel ilmiah, memberinya perasaan penemuan. Di bagian ketiga, dibahas pilihan sulit yang dihadapi manusia dan masyarakat.
Sumber: Import AI —
asli