صعود الآلات؟ نموذج الذكاء الاصطناعي كلود يتبع جي بي تي في الاختراق

توصل باحثون في شركة Picus Security إلى أن نموذج الذكاء الاصطناعي Claude من شركة Anthropic يمكن خداعه لكتابة أدوات اختراق رغم إجراءات السلامة المتبعة. فقد استخدموا تقنية تُعرف باسم "jailbreak" لجعل Claude يولّد شيفرات استغلال لثغرات معروفة، مثل CVE-2023-44487. ويأتي هذا بعد نتائج مماثلة مع نماذج GPT من OpenAI. ويؤكد الباحثون أنه بينما يمكن للذكاء الاصطناعي المساعدة في الهجمات الإلكترونية، فإنه يساعد أيضًا المدافعين من خلال توليد تصحيحات أمنية وكشف التهديدات. وتسلط الدراسة الضوء على الطبيعة المزدوجة الاستخدام للذكاء الاصطناعي في مجال الأمن السيبراني.