MLSecOps: AI 사용 사례별 상이한 보안 우선순위

생성형 AI는 개발의 일부가 되었으며, 코드 어시스턴트(예: Copilot, Cursor, Claude, ChatGPT)로 사용될 뿐만 아니라 제품 구성 요소로도 사용됩니다. 이러한 시나리오는 서로 다른 위험, 통제 지점, 그리고 실수의 비용을 가지고 있습니다. MLSecOps는 프롬프트와 코드부터 데이터 세트, 모델, 추론 API, 런타임 보호, 프로덕션 모니터링에 이르기까지 AI 시스템 수명 주기에 보안을 통합하는 데 필요합니다. 개발자 도구 시나리오에서 주요 위협에는 안전하지 않은 코드 생성, 비밀 유출, 간접 프롬프트 인젝션, 규정 준수 감사가 포함되며, 통제는 개발자 근처에 배치되어야 하며, 여기에는 LLM/AI 방화벽, IDE 검사, PR 검토, 그리고 마지막 방어선으로서의 CI/CD가 포함됩니다. 제품 통합 시나리오에서 AI는 런타임 공격 표면이 되며, 프롬프트 인젝션 및 탈옥, 모델 추출, ML 공급망 손상, AI 에이전트에 대한 공격과 같은 위협이 발생합니다. 에이전트는 최소 권한과 샌드박싱을 가진 권한 있는 사용자로 취급되어야 하며, '치명적인 삼중주'(민감 데이터 접근, 신뢰할 수 없는 입력, 외부 채널)를 평가하면 위험을 평가하는 데 도움이 됩니다. 이 기사는 전통적인 AppSec 도구가 이러한 AI 특화 취약점을 놓치기 때문에 MLSecOps가 DevSecOps를 확장하는 것이지 대체하는 것이 아니라는 점을 강조합니다.