Fable 5 peut à nouveau discuter de biologie : Anthropic assouplit nettement ses filtres de sécurité trop zélés

Anthropic a réduit d'environ 85 % le taux de fausses alertes de ses filtres de sécurité biologique pour son modèle Fable 5. Auparavant, presque toutes les requêtes liées à la biologie étaient bloquées et redirigées vers le modèle Opus 5, moins performant, ce qui avait suscité des protestations de la part des scientifiques. Désormais, les utilisateurs peuvent traiter beaucoup plus de tâches biologiques avec Fable 5, comme interpréter des résultats de laboratoire, comprendre des symptômes ou répondre à des questions médicales. Pour les sujets dits à double usage, comme la virologie, la toxicologie ou la conception moléculaire, le blocage reste en place, car Anthropic affirme que Fable 5 pourrait fournir à des acteurs malveillants des capacités qu'ils ne trouveraient pas ailleurs. L'entreprise travaille sur des programmes d'accès pour donner aux chercheurs un accès aux fonctions restreintes à l'avenir. La préoccupation derrière ces mesures de sécurité est que les risques biologiques pourraient être plus dangereux que les cyberattaques, car ils sont plus difficiles à contrer : une fois qu'un virus est libéré, il ne peut pas être facilement récupéré, et un remède peut prendre du temps à être développé. Une analyse des menaces menée par les agences de renseignement américaines, une évaluation de conversations ChatGPT contenant des demandes d'armes biologiques, des avertissements conjoints de chercheurs, et un projet de Stanford qui a conçu des virus entièrement synthétiques avec l'IA confirment que la menace pourrait être réelle et non pas simplement une peur typique d'Anthropic.