Fable 5 dapat membahas biologi lagi: Anthropic secara signifikan melonggarkan filter keamanan yang terlalu ketat

Anthropic telah mengurangi tingkat alarm palsu dari filter keamanan biologisnya untuk model Fable 5 sekitar 85 persen. Sebelumnya, hampir semua pertanyaan terkait biologi diblokir dan dialihkan ke model Opus 5 yang kurang mumpuni, sehingga memicu protes dari para ilmuwan. Sekarang, pengguna dapat menangani lebih banyak tugas biologi dengan Fable 5, seperti menafsirkan hasil laboratorium, memahami gejala, atau menjawab pertanyaan medis. Untuk topik yang disebut penggunaan ganda seperti virologi, toksikologi, atau desain molekuler, pemblokiran tetap diberlakukan, karena Anthropic mengklaim Fable 5 dapat memberikan kemampuan kepada aktor jahat yang tidak dapat mereka temukan di tempat lain. Perusahaan sedang mengerjakan program akses untuk memberikan akses kepada para peneliti ke fungsi-fungsi yang dibatasi di masa depan. Kekhawatiran di balik langkah-langkah keamanan ini adalah bahwa risiko biologis bisa lebih berbahaya daripada serangan siber karena lebih sulit untuk dipertahankan: begitu virus dilepaskan, ia tidak mudah untuk ditangkap kembali, dan obatnya bisa memakan waktu lama. Analisis ancaman oleh badan intelijen AS, evaluasi obrolan ChatGPT dengan permintaan senjata biologis, peringatan bersama dari para peneliti, dan proyek Stanford yang merancang virus sintetis sepenuhnya dengan AI menegaskan bahwa ancaman tersebut mungkin nyata dan bukan hanya ketakutan khas Anthropic.