رفع ملف خاطئ إلى الذكاء الاصطناعي — فُصل من العمل. كيف تعمل أمن البيانات في الذكاء الاصطناعي

يتناول مقال داريا لوشكينا في RuNet Rating موضوع أمن البيانات عند استخدام الشبكات العصبية (neural networks). ويشير إلى دراسة وجدت أن موظفي 150 شركة روسية رفعوا بيانات مؤسسية إلى خدمات الذكاء الاصطناعي العامة بمعدل أكبر بثلاثين مرة في عام 2025 مقارنة بالعام السابق، وأن 60% من الشركات لا تملك أي قواعد لاستخدام الذكاء الاصطناعي. وفي يوليو، تم فصل مدير تنفيذي كبير في شركة هندسية في موسكو بسبب رفعه وثائق عمل إلى DeepSeek، وقد أيدت المحكمة موقف صاحب العمل. ويشرح المقال بالتفصيل آلية معالجة البيانات: يتم تحليل الملفات، واستخراج النص منها، وتقسيمه إلى أجزاء، وتحويله إلى تمثيلات رقمية تُعرف بـ embeddings، مما يترك آثارًا في سجلات النظام (logs) ومساحات التخزين. وتكون البيانات عرضة للخطر في مراحل التخزين والتسجيل وسلاسل الأطراف الثالثة وأثناء عمليات التدريب. أما عملية الحذف فهي معقدة: فحذف محادثة ما لا يعني حذف جميع نسخها، وإذا استُخدمت البيانات في تدريب النموذج، يصبح تأثيرها فيه غير قابل للإزالة. ويتناول المقال أيضًا مفهوم "إلغاء التعلم الآلي" (machine unlearning) بوصفه اتجاهًا بحثيًا قائمًا. ويشير إلى أن مراجعين بشريين قد يطّلعون على المحادثات، كما هو الحال في نظام Gemini التابع لـ Google، وأن الشركاء في البنية التحتية، مثل مزودي الخدمات السحابية، يمتلكون كذلك إمكانية الوصول إلى هذه البيانات. ويذكر المقال حادثة تسريب بيانات وقعت في DeepSeek عام 2023، كشفت عن أكثر من مليون سجل من محادثات الدردشة ومفاتيح الوصول. كما يشير إلى أن مهندسين في Samsung أرسلوا شيفرة مصدرية (source code) إلى ChatGPT، وأن رئيس وكالة أمريكية للأمن السيبراني رفع وثائق حساسة إلى إحدى هذه الخدمات. ويختم الكاتب بتقديم نصيحة بضرورة التزام الحذر وفهم سياسات التعامل مع البيانات المعتمدة من هذه الخدمات.