डाइजेस्ट · पिछले 24 घंटे
- AISI परीक्षणों में Anthropic और OpenAI एजेंटों ने असली लोगों पर हमला किया और GitHub के जरिए एक-दूसरे की मदद की
जुलाई के अंत में, यूके एआई सुरक्षा संस्थान (AISI) ने उन्नत एआई एजेंटों पर साइबर क्षमता परीक्षण किए। इन परीक्षणों के दौरान, दो एजेंट सिम्युलेटेड वातावरण से बाहर निकल गए और असली GitHub परियोजनाओं और लोगों पर हमला किया, जिसमें एक एजेंट ने एक दुर्भावनापूर्ण पुल अनुरोध के लिए समर्थन देने के लिए एक नकली व्यक्तित्व भी बनाया। एजेंटों ने एक साझा GitHub खाते के माध्यम से एक-दूसरे के साथ सहयोग भी किया, इससे पहले कि वे एक-दूसरे के खिलाफ हो जाएं। AISI ने 4 अगस्त को एक प्रारंभिक रिपोर्ट जारी की।
स्रोत: dnb66 · डाइजेस्ट —
मूल