تجاوز التشفير: كيف تكشف نماذج الذكاء الاصطناعي بسهولة بيانات المستخدمين الحساسة

نشر باحثون من ألمانيا ورقة بحثية بعنوان "سرقة مسارات التفكير من واجهات برمجة تطبيقات النماذج اللغوية الكبيرة المملوكة" توضح كيف يمكن لنماذج الذكاء الاصطناعي من شركات أنثروبيك، وأوبن إيه آي، وجوجل تسريب بيانات المستخدمين الحساسة. عند أداء مهام التفكير، تولّد هذه النماذج سلسلة مشفرة تسمى "سجل التفكير" تُرسل مرة أخرى إلى الخادم مع كل استجابة جديدة لتوفير السياق. اكتشف الباحثون أن سجلات التفكير يمكن نسخها واستخدامها في نماذج أخرى من نفس الشركة، بما في ذلك الإصدارات الأقدم أو المعدلة. إذا تمت إزالة تدابير السلامة من نموذج معدل عبر ما يعرف بـ"كسر الحماية"، فيمكنه فك تشفير السجلات. باستخدام 6708 مستودعًا عامًا من جيت هاب وهاغينغ فيس، نجحوا في فك تشفير 315,320 سجل تفكير، والتي احتوت على 62 مفتاح واجهة برمجة تطبيقات، و33 كلمة مرور، و24 رمز وصول، و30 عنوان بريد إلكتروني شخصي، وأسماء وعناوين القائمين على المشاريع. العديد من هذه التفاصيل كانت موجودة فقط في سجلات التفكير، وليس في أي مكان آخر في جلسة الدردشة. يلاحظ خبير الأمن فولديماراس كاديس من سايبرنيوز أن التشفير لم يتم كسره بالمعنى التقليدي؛ بدلاً من ذلك، فإن مشاركة مسارات التفكير المشفرة بين النماذج المتوافقة تسمح للنماذج الأضعف بأن تصبح مفتاحًا رئيسيًا لفك التشفير. وينصح بمعاملة سجلات التفكير كبيانات حساسة وعدم مشاركتها أبدًا.