Import AI 457: AI संस्करण Stuxnet; शापित Muon ऑप्टिमाइज़र; और सकारात्मक संरेखण
SentinelOne
Prime Intellect
OpenAI
Anthropic
Google DeepMind
Import AI के इस अंक में तीन कहानियाँ शामिल हैं: एक प्राचीन कंप्यूटर वायरस 'fast16' जो उच्च-परिशुद्धता गणनाओं को बाधित करता है, जो एक सुपरइंटेलिजेंस की अप्रसार रणनीति की याद दिलाता है; यह खोज कि Muon ऑप्टिमाइज़र MLP परतों में न्यूरॉन्स को मार सकता है, जिसके परिणामस्वरूप Aurora नामक एक प्रतिस्थापन का विकास हुआ; और एक स्थिति पत्र जो 'सकारात्मक संरेखण' की वकालत करता है ताकि यह सुनिश्चित किया जा सके कि एआई केवल सुरक्षा से परे मानव कल्याण का समर्थन करे।
Import AI 457 की शुरुआत fast16.sys नामक 20 साल से अधिक पुराने वायरस की जांच से होती है, जो सिविल इंजीनियरिंग और भौतिकी जैसे क्षेत्रों में उच्च-सटीकता गणना सॉफ्टवेयर को चुनिंदा रूप से निशाना बनाता है और व्यवस्थित त्रुटियाँ उत्पन्न करता है। SentinelOne के शोधकर्ताओं ने पाया कि इसका उपयोग LS-DYNA 970, PKPM और MOHID से सिमुलेशन में छेड़छाड़ करने के लिए किया गया था, और इसे ईरान के परमाणु हथियार कार्यक्रमों से जोड़ा गया है। लेख एक सुपरइंटेलिजेंस के प्रतिद्वंद्वी एआई विकास में बाधा डालने के संभावित तरीके से समानता दर्शाता है। इसके बाद, Tilde Research ने Muon ऑप्टिमाइज़र की जांच की और पाया कि यह एमएलपी (MLP) परतों में न्यूरॉन मृत्यु का कारण बनता है, जिसमें लर्निंग रेट वार्मअप के दौरान एक चौथाई से अधिक न्यूरॉन मर जाते हैं। उन्होंने Aurora नामक एक लीवरेज-अवेयर ऑप्टिमाइज़र विकसित किया, जिसने लगभग 100 बिलियन टोकन पर प्रशिक्षित 1.1 बिलियन पैरामीटर वाले ट्रांसफॉर्मर पर Muon और NorMuon से बेहतर प्रदर्शन किया, कम लॉस (loss) और 10-अंक MMLU लाभ प्राप्त किया। शोधकर्ता अलेक्जेंडर डोरिया ने इसे स्वतंत्र रूप से मान्य किया। अंत में, ऑक्सफोर्ड, डीपमाइंड (DeepMind), ओपनएआई (OpenAI), एंथ्रोपिक (Anthropic) और अन्य के एक समूह ने 'सकारात्मक संरेखण' पर एक पेपर प्रकाशित किया, जिसमें तर्क दिया गया कि सुरक्षा प्राप्त करने के बाद, एआई को बहुलवादी, उपयोगकर्ता-लेखित तरीके से मानव और पारिस्थितिक समृद्धि का सक्रिय रूप से समर्थन करना चाहिए। वे वर्तमान सुरक्षा दृष्टिकोणों की आलोचना करते हैं कि वे संभावित रूप से औसत दर्जे के, चाटुकारितापूर्ण सिस्टम और छिपी मूल्य प्रणालियों की ओर ले जा सकते हैं, और नैतिक बहुलवाद को समायोजित करने के लिए विकेंद्रीकृत शासन की वकालत करते हैं।
स्रोत: Import AI —
मूल