AIに間違ったファイルをアップロードして解雇——AIにおけるデータセキュリティの仕組み

RuNet Ratingのダリア・ルシュキナ氏による記事は、ニューラルネットワーク利用時のデータセキュリティを調査している。2025年には、ロシアの150社の従業員が前年比で30倍もの企業データを公開AIサービスにアップロードしたという調査結果や、60%の企業がAI利用規則を設けていないことを指摘している。7月には、モスクワのエンジニアリング企業のトップマネージャーがDeepSeekに業務文書をアップロードしたために解雇され、裁判所は雇用主の主張を認めた。記事では、データ処理のパイプラインを詳述している：ファイルは解析され、テキストが抽出され、断片に分割され、埋め込みに変換され、ログやストレージに痕跡が残る。データは、保存、ログ、サードパーティチェーン、トレーニングにおいて脆弱になる可能性がある。削除は複雑で、ダイアログを削除してもすべてのコピーが削除されるわけではなく、トレーニングに使用された場合、その影響は不可逆的である。また、機械的忘却についても研究分野として取り上げている。人間のモデレーターが対話をレビューする可能性があること（GoogleのGeminiなど）、クラウドプロバイダーなどのインフラパートナーがアクセス権を持つことも指摘している。2023年のDeepSeekのデータ侵害では、100万行以上のチャットログとキーが流出したことに言及している。サムスンのエンジニアがソースコードをChatGPTに送信したり、米国のサイバーセキュリティ機関の長が機密文書をアップロードしたりした事例も挙げている。著者は、注意を払い、データポリシーを理解することを勧めている。