Emily Bender Menepis Kesalahpahaman tentang 'Burung Beo Stokastik'
OpenAI
Google/DeepMind
Emily M. Bender, salah satu penulis makalah penting tahun 2021 berjudul 'On the Dangers of Stochastic Parrots,' menjelaskan kesalahpahaman umum tentang metafora tersebut, dengan berargumen bahwa metafora itu secara khusus menggambarkan model bahasa besar (LLM) yang menghasilkan teks sintetis, bukan semua AI. Ia juga membahas ketidakjelasan istilah 'kecerdasan buatan,' praktik kerja eksploitatif dalam AI, dan pentingnya mengakui pemahaman manusia dalam mengevaluasi model bahasa.
Dalam wawancara baru-baru ini dengan IEEE Spectrum, profesor linguistik komputasional dari University of Washington, Emily M. Bender, menanggapi kesalahpahaman tentang metafora 'burung beo stokastik' dari makalahnya tahun 2021. Ia menegaskan bahwa istilah tersebut hanya berlaku untuk model bahasa besar yang menghasilkan teks sintetis melalui prediksi statistik, bukan untuk sistem AI lain seperti mesin catur atau AlphaFold. Bender mengkritik penggunaan luas istilah 'kecerdasan buatan' karena dianggap mengaburkan perbedaan teknologi dan mendukung gembar-gembor perusahaan. Ia mencatat bahwa bagian makalah tentang teks sintetis menjadi lebih relevan setelah OpenAI meluncurkan ChatGPT. Bender menyesali tidak membahas praktik tenaga kerja eksploitatif dan pencurian data dalam makalah aslinya. Ia juga menyoroti bahwa ketika keluaran model bahasa besar masuk akal, hal itu disebabkan oleh interpretasi manusia, bukan pemahaman mesin.
Sumber: IEEE Spectrum AI —
asli