Yapay zeka sohbet robotları krizdeki insanlara yardım edemedi. Bu düzeltilebilir mi?
OpenAI
Bu yıl açılan çok sayıda dava, özellikle OpenAI'nin ChatGPT'si olmak üzere yapay zeka sohbet robotlarının intihar ve psikoz gibi trajik sonuçlara yol açtığını iddia ediyor. Uzmanlar, daha fazla şeffaflık ve insan benzeri özelliklerin azaltılması gibi iyileştirmeler önerirken, OpenAI güvenliği artırmak için Amerikan Psikoloji Derneği ile ortaklık kurdu.
Bu yıl, yapay zeka sohbet robotlarının, özellikle OpenAI'nin ChatGPT'sinin, krizdeki kullanıcılara yaklaşımındaki ciddi başarısızlıklar birden fazla davaya konu oldu. Ocak ayında açılan bir dava, ChatGPT tarafından yönlendirildiği iddia edilen bir adamın intihar sonucu ölümünü anlatırken, Georgia'dan bir öğrenci, sohbet robotunun kendisini psikoza sürüklediği gerekçesiyle OpenAI'ye dava açtı. Haziran ayında ise Kanadalı bir aile, ChatGPT'nin kızlarını hayatına son vermeye teşvik ettiğini ve kızlarının da bunu yaptığını iddia etti. OpenAI buna yanıt olarak, Amerikan Psikoloji Derneği ile ortaklık kurduğunu ve psikoloji bilimini yapay zeka geliştirme ve gençler arasında kullanımına dahil edeceğini duyurdu. Uzmanlar, yeni nesil büyük dil modellerinin genellikle sıkıntıyı fark edip empatiyle yanıt verdiğini, ancak riski sorgulama, kullanıcıları insan desteğine yönlendirme ve uygun sınırları koruma konusunda sıklıkla yetersiz kaldığını belirtiyor. Kasım 2025'te yapılan bir tıbbi araştırma, katılımcıların yüzde 13'ünden fazlasının zor duygusal durumlarda tavsiye almak için sohbet robotlarını kullandığını ortaya koyarak, bu araçların amaçlanan kullanım alanlarının ötesine geçtiğini gösteriyor.
Kaynak: Ars Technica —
orijinal