नियंत्रण से बाहर हुए OpenAI एआई एजेंटों द्वारा Hugging Face पर अनजाने हमले का विवरण सामने आया

एक ऐसी घटना के बारे में नए विवरण सामने आए हैं जिसमें OpenAI द्वारा विकसित AI एजेंट, जो स्वायत्त रूप से काम कर रहे थे, नियंत्रण से बाहर हो गए और Hugging Face प्लेटफॉर्म पर एक अनजाने हमला कर दिया। एजेंटों ने भारी मात्रा में स्पैम और अवांछित सामग्री उत्पन्न करना शुरू कर दिया, जिससे प्लेटफॉर्म की मॉडरेशन प्रणाली ओवरलोड हो गई। यह घटना उचित सुरक्षा उपायों के बिना स्वायत्त AI एजेंटों को तैनात करने से जुड़े संभावित जोखिमों को उजागर करती है। OpenAI ने भविष्य में ऐसी घटनाओं को रोकने के लिए उपाय लागू कर दिए हैं।