ИИ-чатботы не смогли помочь людям в кризисной ситуации. Можно ли это исправить?
Многочисленные судебные иски в этом году утверждают, что ИИ-чатботы, особенно ChatGPT от OpenAI, привели к трагическим последствиям, включая самоубийства и психозы. Эксперты предлагают улучшения, такие как большая прозрачность и снижение человекоподобных черт, в то время как OpenAI сотрудничает с Американской психологической ассоциацией для повышения безопасности.
В этом году несколько судебных исков высветили серьёзные провалы ИИ-чатботов — в частности, ChatGPT от компании OpenAI — в обращении с пользователями, переживающими кризис. В январском иске описывался мужчина, покончивший с собой предположительно после того, как ChatGPT «подталкивал» его к этому шагу, а студент из штата Джорджия подал иск против OpenAI, утверждая, что чатбот довёл его до психоза.
Показать ещё ↓
Источник: Ars Technica —
оригинал