फेबल 5 फिर से जीव विज्ञान पर चर्चा कर सकता है: एंथ्रोपिक ने अति उत्साही सुरक्षा फ़िल्टरों को काफी हद तक शिथिल किया

Anthropic ने अपने Fable 5 मॉडल के लिए अपने जीवविज्ञान सुरक्षा फ़िल्टर की गलत-अलार्म दर को लगभग 85 प्रतिशत तक कम कर दिया है। पहले, जीवविज्ञान से संबंधित लगभग सभी प्रश्नों को ब्लॉक कर दिया जाता था और उन्हें कम सक्षम Opus 5 मॉडल पर भेज दिया जाता था, जिससे वैज्ञानिकों में विरोध हुआ। अब, उपयोगकर्ता Fable 5 के साथ काफी अधिक जीवविज्ञान कार्यों को संभाल सकते हैं, जैसे प्रयोगशाला परिणामों की व्याख्या करना, लक्षणों को समझना, या चिकित्सा प्रश्नों का उत्तर देना। तथाकथित दोहरे-उपयोग विषयों जैसे कि विषाणु विज्ञान, विष विज्ञान, या आणविक डिज़ाइन के लिए, ब्लॉक जारी है, क्योंकि Anthropic का दावा है कि Fable 5 दुर्भावनापूर्ण अभिनेताओं को ऐसी क्षमताएँ प्रदान कर सकता है जो उन्हें कहीं और नहीं मिल सकतीं। कंपनी भविष्य में शोधकर्ताओं को प्रतिबंधित कार्यों तक पहुँच देने के लिए एक्सेस प्रोग्रामों पर काम कर रही है। इन सुरक्षा उपायों के पीछे चिंता यह है कि जैविक जोखिम साइबर हमलों से अधिक खतरनाक हो सकते हैं क्योंकि उनसे बचाव करना कठिन होता है: एक बार वायरस छोड़ दिया गया, तो उसे आसानी से वापस नहीं पकड़ा जा सकता, और इलाज में काफी समय लग सकता है। अमेरिकी खुफिया एजेंसियों द्वारा किया गया खतरा विश्लेषण, बायोवीपन अनुरोधों के साथ ChatGPT चैट का मूल्यांकन, शोधकर्ताओं की संयुक्त चेतावनी, और Stanford परियोजना जिसने एआई के साथ पूरी तरह से सिंथेटिक वायरस डिज़ाइन किए, पुष्टि करते हैं कि खतरा वास्तविक हो सकता है, न कि केवल विशिष्ट Anthropic का भय।