心理健康场景下的AI聊天机器人行为：一种经临床验证的审计框架

一项新的审计框架已被提出，用于评估基于人工智能的心理健康聊天机器人的行为，据《自然》杂志报道。该框架旨在评估安全性和一致性等关键因素，这些因素对于确保聊天机器人提供可靠支持而不给出有害建议至关重要。开发者表示，当前的聊天机器人可能表现不一致，有时给出恰当回应，有时则偏离到危险领域，尤其是在危机情况下。审计方法涉及重复测试场景，重点关注自残和自杀意念等敏感领域，以识别潜在问题并改善整体表现。该框架提供了一种系统性的测试方法，开发者与监管机构均可采纳，以更好地保护用户。