Unggah File yang Salah ke AI — Dipecat. Bagaimana Keamanan Data Bekerja di AI

Artikel karya Daria Lushkina dari RuNet Rating mengkaji keamanan data saat menggunakan jaringan saraf. Artikel tersebut mencatat sebuah studi yang menemukan bahwa karyawan 150 perusahaan Rusia mengunggah data korporat ke layanan AI publik 30 kali lebih banyak pada tahun 2025 dibandingkan tahun sebelumnya, dan 60% perusahaan tidak memiliki aturan penggunaan AI. Pada bulan Juli, seorang manajer puncak perusahaan teknik Moskow dipecat karena mengunggah dokumen kerja ke DeepSeek, dan pengadilan memihak pemberi kerja. Artikel tersebut merinci alur pemrosesan data: file diurai, teks diekstrak, dipecah menjadi fragmen, dan diubah menjadi embeddings, meninggalkan jejak di log dan penyimpanan. Data dapat rentan pada penyimpanan, log, rantai pihak ketiga, dan pelatihan. Penghapusan itu rumit: menghapus dialog tidak menghapus semua salinan, dan jika data digunakan untuk pelatihan, pengaruhnya tidak dapat diubah. Artikel tersebut juga membahas machine unlearning sebagai arah penelitian. Artikel tersebut mencatat bahwa moderator manusia dapat meninjau dialog, seperti pada Google Gemini, dan mitra infrastruktur seperti penyedia cloud memiliki akses. Artikel tersebut menyebutkan kebocoran data DeepSeek pada tahun 2023 di mana lebih dari satu juta baris log obrolan dan kunci terekspos. Insinyur Samsung mengirim kode sumber ke ChatGPT, dan kepala badan keamanan siber AS mengunggah dokumen sensitif. Penulis menyarankan kehati-hatian dan memahami kebijakan data.