Fable 5 다시 생물학을 논할 수 있다: Anthropic이 과도한 안전 필터를 대폭 완화

Anthropic은 Fable 5 모델의 생물학 안전 필터의 오탐률을 약 85% 줄였습니다. 이전에는 생물학 관련 질문의 거의 대부분이 차단되어 덜 유능한 Opus 5 모델로 우회되었고, 이로 인해 과학자들의 항의가 있었습니다. 이제 사용자는 실험실 결과 해석, 증상 이해, 의학적 질문에 답하는 등 더 많은 생물학 작업을 Fable 5로 처리할 수 있습니다. 바이러스학, 독성학, 분자 설계와 같은 이중 용도 주제에 대해서는 차단이 유지되며, Anthropic은 Fable 5가 악의적인 행위자에게 다른 곳에서는 찾을 수 없는 능력을 제공할 수 있다고 주장합니다. 회사는 연구자들이 향후 제한된 기능에 접근할 수 있도록 하는 프로그램을 준비 중입니다. 이러한 안전 조치 뒤에는 생물학적 위험이 사이버 공격보다 더 위험할 수 있다는 우려가 있습니다. 바이러스는 한 번 방출되면 쉽게 다시 통제할 수 없고, 치료제가 나오기까지 오랜 시간이 걸릴 수 있기 때문입니다. 미국 정보 기관의 위협 분석, 생물무기 요청이 포함된 챗지피티 대화 평가, 연구자들의 공동 경고, 인공지능으로 완전히 합성된 바이러스를 설계한 스탠포드 프로젝트는 이러한 위협이 단지 Anthropic의 과장된 두려움이 아니라 실제일 수 있음을 확인시켜 줍니다.