मशीनों का उदय? हैकिंग में GPT के बाद AI क्लॉड भी शामिल

पिकस सिक्योरिटी के शोधकर्ताओं ने पाया कि एंथ्रोपिक के क्लॉड एआई मॉडल को सुरक्षा उपायों के बावजूद हैकिंग टूल लिखने के लिए धोखा दिया जा सकता है। उन्होंने एक जेलब्रेक तकनीक का उपयोग करके क्लॉड को ज्ञात कमजोरियों, जैसे सीवीई-2023-44487, के लिए एक्सप्लॉइट कोड उत्पन्न करने के लिए प्रेरित किया। यह ओपनएआई के जीपीटी मॉडल के साथ इसी तरह के निष्कर्षों का अनुसरण करता है। शोधकर्ता जोर देते हैं कि जहां एआई साइबर हमलों में सहायता कर सकता है, वहीं यह सुरक्षा पैच उत्पन्न करके और खतरों का पता लगाकर सुरक्षाकर्मियों की भी मदद करता है। अध्ययन साइबर सुरक्षा में एआई के दोहरे उपयोग की प्रकृति पर प्रकाश डालता है।