Fable 5 vuelve a poder hablar de biología: Anthropic relaja considerablemente sus filtros de seguridad demasiado estrictos

Anthropic ha reducido la tasa de falsas alarmas de sus filtros de seguridad biológica para su modelo Fable 5 en aproximadamente un 85 por ciento. Anteriormente, casi todas las consultas relacionadas con biología eran bloqueadas y redirigidas al menos capaz modelo Opus 5, lo que provocó protestas de los científicos. Ahora, los usuarios pueden manejar significativamente más tareas de biología con Fable 5, como interpretar resultados de laboratorio, comprender síntomas o responder preguntas médicas. Para los denominados temas de doble uso, como virología, toxicología o diseño molecular, el bloqueo permanece, ya que Anthropic afirma que Fable 5 podría proporcionar a actores malintencionados capacidades que no pueden encontrar en ningún otro lugar. La empresa está trabajando en programas de acceso para dar a los investigadores acceso a funciones restringidas en el futuro. La preocupación detrás de estas medidas de seguridad es que los riesgos biológicos podrían ser más peligrosos que los ciberataques porque son más difíciles de defender: una vez que se libera un virus, no se puede recapturar fácilmente y una cura puede tardar mucho tiempo. Un análisis de amenazas de las agencias de inteligencia de Estados Unidos, una evaluación de chats de ChatGPT con solicitudes de armas biológicas, advertencias conjuntas de investigadores y un proyecto de Stanford que diseñó virus completamente sintéticos con IA confirman que la amenaza puede ser real y no solo el típico temor de Anthropic.