Поведение ИИ-чатботов в сфере психического здоровья: клинически проверенная система аудита
Исследователи разработали систему аудита для оценки безопасности и согласованности ИИ-чатботов при взаимодействии в сфере психического здоровья, как описано в журнале Nature. Эта система решает проблемы, связанные с непоследовательными и потенциально вредными ответами. Её цель — предоставить клинически проверенный метод для тестирования и повышения надёжности чатботов.
Как сообщает журнал Nature, была предложена новая система аудита для оценки поведения ИИ-чат-ботов, ориентированных на поддержку психического здоровья. Эта система разработана для оценки ключевых факторов, таких как безопасность и последовательность, которые критически важны для того, чтобы чат-боты давали надежную поддержку без вредных советов. Разработчики отмечают, что современные чат-боты
Показать ещё ↓
Источник: xAI Grok (GNews) —
оригинал