Comportamiento de los Chatbots de IA en Salud Mental: Un Marco de Auditoría Clínicamente Validado

Se ha propuesto un nuevo marco de auditoría para evaluar el comportamiento de los chatbots de salud mental basados en inteligencia artificial, según se informa en Nature. El marco está diseñado para evaluar factores clave como la seguridad y la consistencia, que son críticos para garantizar que los chatbots proporcionen un apoyo fiable sin consejos perjudiciales. Los desarrolladores afirman que los chatbots actuales pueden ser inconsistentes, a veces dando respuestas apropiadas y otras veces desviándose hacia un territorio arriesgado, especialmente en situaciones de crisis. El método de auditoría implica escenarios de prueba repetidos, centrándose en áreas sensibles como la autolesión y la ideación suicida, para identificar posibles problemas y mejorar el rendimiento general. El marco proporciona un enfoque sistemático para las pruebas, que podría ser adoptado por desarrolladores y reguladores para proteger mejor a los usuarios.