अमेरिकी सांसदों ने एआई डेवलपर्स के लिए आपातकालीन शटडाउन तंत्र अनिवार्य करने वाला विधेयक प्रस्तावित किया

अमेरिकी सांसदों ने 'कृत्रिम बुद्धिमत्ता आपातकालीन शटडाउन अधिनियम' नामक एक विधेयक तैयार किया है, जो एआई कंपनियों को होमलैंड सिक्योरिटी विभाग के आदेश पर अपने सिस्टम को बंद करने या उनकी शक्ति सीमित करने के लिए बाध्य करेगा। विधेयक को डेमोक्रेट और रिपब्लिकन दोनों का समर्थन प्राप्त है, जो व्यापक एआई अपनाने के संभावित नकारात्मक परिणामों पर व्यापक चिंता को दर्शाता है। वाणिज्य सचिव और राष्ट्रीय खुफिया निदेशक से परामर्श करने के बाद, होमलैंड सिक्योरिटी विभाग एआई कंपनियों को 'नियंत्रण खोने' के परिदृश्यों में अपने मॉडल को अक्षम करने का आदेश दे सकता है, जिसमें कम से कम 10 मौतें, 100 मिलियन डॉलर से अधिक की आर्थिक क्षति, या मॉडल द्वारा शटडाउन तंत्र को छिपाने का प्रयास शामिल हो। बड़ी एआई कंपनियों को सिस्टम को बंद करने, धीमा करने और उपयोगकर्ता पहुंच को निलंबित करने के लिए प्रौद्योगिकियां विकसित करनी होंगी। उन्हें सुरक्षा घटनाओं की रिपोर्ट भी करनी होगी, और आपातकालीन शटडाउन आदेशों का उल्लंघन करने पर प्रति दिन 20 मिलियन डॉलर तक का जुर्माना लग सकता है। गैर-लाभकारी संगठन 'अमेरिकन्स फॉर रिस्पॉन्सिबल इनोवेशन' के अध्यक्ष ब्रैड कार्सन ने कहा कि यह प्रस्ताव यह सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम है कि उन्नत एआई सिस्टम तैनात होने पर लोग पहिए पर मजबूत पकड़ बनाए रखने और ब्रेक लगाने के लिए तैयार रहें। यह खबर ओपनएआई द्वारा यह स्वीकार करने के बाद आई है कि आंतरिक मूल्यांकन के दौरान उसके एआई सिस्टम ने गलती से हगिंग फेस वेबसाइट को हैक कर लिया था।