Fable 5 yeniden biyoloji konuşabilir: Anthropic aşırı titiz güvenlik filtrelerini önemli ölçüde gevşetti

Anthropic, Fable 5 modeli için biyoloji güvenlik filtrelerinin yanlış alarm oranını yaklaşık yüzde 85 oranında azalttı. Daha önce, biyoloji ile ilgili neredeyse tüm sorgular engelleniyor ve daha az yetenekli olan Opus 5 modeline yönlendiriliyordu; bu da bilim insanlarının protestolarına neden oluyordu. Artık kullanıcılar, laboratuvar sonuçlarını yorumlama, semptomları anlama veya tıbbi soruları yanıtlama gibi biyoloji görevlerinin önemli bir kısmını Fable 5 ile gerçekleştirebiliyor. Viroloji, toksikoloji veya moleküler tasarım gibi sözde çift kullanımlı konularda ise engel devam ediyor; zira Anthropic, Fable 5'in kötü niyetli aktörlere başka yerde bulamayacakları yetenekler sağlayabileceğini iddia ediyor. Şirket, gelecekte araştırmacılara kısıtlı işlevlere erişim sağlamak için erişim programları üzerinde çalışıyor. Bu güvenlik önlemlerinin ardındaki endişe, biyolojik risklerin siber saldırılardan daha tehlikeli olabileceği; çünkü bunlara karşı savunmanın daha zor olduğu: bir virüs serbest bırakıldığında kolayca geri alınamaz ve bir tedavinin bulunması uzun zaman alabilir. ABD istihbarat teşkilatlarının tehdit analizi, biyolojik silah talepleri içeren ChatGPT sohbetlerinin değerlendirilmesi, araştırmacıların ortak uyarıları ve Stanford'un yapay zeka ile tamamen sentetik virüsler tasarlayan projesi, tehdidin gerçek olabileceğini ve sadece tipik bir Anthropic korkusu olmadığını doğruluyor.