Fable 5 可再次讨论生物学：Anthropic 大幅放宽过度严苛的安全过滤器

Anthropic已经将其Fable 5模型生物学安全过滤器的误报率降低了约85%。此前，几乎所有与生物学相关的查询都会被屏蔽并转至能力较弱的Opus 5模型，这引起了科学家的抗议。现在，用户可以使用Fable 5处理更多的生物学任务，例如解读实验室结果、理解症状或回答医学问题。对于所谓的双重用途主题，如病毒学、毒理学或分子设计，屏蔽仍然存在，因为Anthropic声称Fable 5可能为恶意行为者提供他们在其他地方无法找到的能力。该公司正在研究访问计划，以便将来让研究人员访问受限功能。这些安全措施背后的担忧是，生物风险可能比网络攻击更危险，因为它们更难防御：一旦病毒被释放，就很难重新捕获，而治愈方法可能需要很长时间。美国情报机构的威胁分析、对包含生物武器请求的ChatGPT对话的评估、研究人员的联合警告，以及斯坦福大学一个使用人工智能设计全合成病毒的项目，都证实了这种威胁可能是真实的，而不仅仅是Anthropic典型的杞人忧天。