Profesor Kampus Menyembunyikan Perintah untuk Menangkap Pencontek AI, Menemukan Bahwa Sifat Manusia Masih Sama Seperti Dugaan Kita
NVIDIA
Seorang profesor kampus menyembunyikan perintah tertentu dalam sebuah tugas untuk mendeteksi kiriman yang dibuat oleh AI, dan hasilnya mengonfirmasi bahwa sifat manusia tidak banyak berubah. Eksperimen tersebut mengungkapkan bahwa mahasiswa yang menggunakan AI untuk mencontek sering kali gagal memperhatikan atau mengikuti instruksi tersembunyi, yang menunjukkan bahwa mereka tidak membaca tugas dengan cermat.
Seorang profesor perguruan tinggi melakukan eksperimen untuk menangkap mahasiswa yang menggunakan AI untuk menyontek dengan menyematkan perintah tersembunyi dalam instruksi tugas. Perintah tersembunyi tersebut meminta mahasiswa untuk menyertakan frasa atau tindakan tertentu, tetapi mereka yang mengandalkan AI untuk menghasilkan jawaban sering kali melewatkannya karena tidak membaca tugas secara lengkap. Hasilnya menunjukkan bahwa jawaban yang dihasilkan AI kurang memiliki sentuhan pribadi atau detail spesifik, yang mengindikasikan bahwa mahasiswa tidak terlibat dengan materi. Temuan profesor tersebut menunjukkan bahwa meskipun AI dapat membantu dalam pekerjaan, AI tidak dapat menggantikan pemahaman sejati dan perhatian terhadap detail. Eksperimen ini menyoroti tantangan yang sedang berlangsung dalam mendeteksi penyalahgunaan AI di dunia pendidikan dan pentingnya merancang tugas yang membutuhkan pemikiran kritis.
Sumber: The Register AI/ML —
asli