Fable 5 pode voltar a discutir biologia: Anthropic suaviza de forma significativa filtros de segurança excessivamente rígidos

A Anthropic reduziu a taxa de falsos alarmes de seus filtros de segurança biológica para o modelo Fable 5 em aproximadamente 85 por cento. Anteriormente, quase todas as consultas relacionadas à biologia eram bloqueadas e redirecionadas para o modelo menos capaz Opus 5, causando protestos de cientistas. Agora, os usuários podem lidar com significativamente mais tarefas de biologia com o Fable 5, como interpretar resultados laboratoriais, entender sintomas ou responder perguntas médicas. Para os chamados tópicos de uso duplo, como virologia, toxicologia ou design molecular, o bloqueio permanece, pois a Anthropic afirma que o Fable 5 poderia fornecer a atores maliciosos capacidades que não encontrariam em outro lugar. A empresa está trabalhando em programas de acesso para dar a pesquisadores acesso a funções restritas no futuro. A preocupação por trás dessas medidas de segurança é que os riscos biológicos poderiam ser mais perigosos do que ataques cibernéticos, pois são mais difíceis de defender: uma vez que um vírus é liberado, não pode ser facilmente recapturado, e uma cura pode levar muito tempo. Uma análise de ameaça das agências de inteligência dos EUA, uma avaliação de conversas do ChatGPT com pedidos de armas biológicas, alertas conjuntos de pesquisadores e um projeto da Universidade de Stanford que projetou vírus totalmente sintéticos com IA confirmam que a ameaça pode ser real e não apenas um medo típico da Anthropic.