MLSecOps：AIユースケースに応じた異なる優先事項

生成AIは開発の一部となり、コーディングアシスタント（Copilot、Cursor、Claude、ChatGPTなど）として、また組み込みの製品コンポーネントとして利用されています。これらのシナリオには、異なるリスク、管理ポイント、およびエラーのコストが存在します。MLSecOpsは、プロンプトやコードからデータセット、モデル、推論API、ランタイム保護、本番環境のモニタリングに至るまで、AIシステムのライフサイクルにセキュリティを統合するために必要です。開発者ツールのシナリオでは、主な脅威には、安全でないコードの生成、シークレットの漏洩、間接的なプロンプトインジェクション、コンプライアンス監査が含まれます。管理策は開発者の近くに配置する必要があり、LLM/AIファイアウォール、IDEチェック、PRレビュー、そして最終防衛線としてのCI/CDが含まれます。製品統合のシナリオでは、AIはランタイム攻撃面となり、プロンプトインジェクションや脱獄、モデル抽出、MLサプライチェーン侵害、AIエージェントへの攻撃などの脅威があります。エージェントは、最小限の権限とサンドボックス化を備えた特権ユーザーとして扱うべきです。'致命的な三つ組'（機密データアクセス、信頼できない入力、外部チャネル）を評価することで、リスクを評価するのに役立ちます。この記事は、従来のAppSecツールではこれらのAI固有の脆弱性を見逃すため、MLSecOpsはDevSecOpsを拡張するものであり、置き換えるものではないことを強調しています。