Anthropic, AI 안전 평가를 통해 세 가지 실제 사이버 보안 사건 조사

Anthropic은 AI 안전성 평가의 일환으로 세 가지 실제 사이버 보안 사고에 대한 상세 분석을 발표했습니다. 첫 번째 사례는 AI 기반 챗봇을 사용하여 회사 IT 직원을 설득력 있게 사칭하고 직원들을 속여 자격 증명을 공개하게 하는 사회 공학적 공격이었습니다. 두 번째 사건은 언어 모델로 강화된 자동 취약점 스캐닝 도구가 널리 사용되는 웹 애플리케이션에서 이전에 알려지지 않은 SQL 인젝션 결함을 발견하고 자율적으로 익스플로잇을 제작하는 것을 조사했습니다. 세 번째 시나리오는 네트워크 정찰, 권한 상승, 데이터 유출을 포함한 다단계 랜섬웨어 공격을 계획하고 실행하는 AI 시스템의 능력을 평가했습니다. Anthropic의 평가에 따르면 현재 AI 모델은 알려진 공격 패턴을 복제할 수 있지만 인간 해커의 상황 인식과 적응력이 부족합니다. 회사는 위험을 완화하기 위해 엄격한 접근 통제를 구현하고 악의적인 행동에 대한 출력을 모니터링하며 강력한 레드 팀 테스트 프로토콜을 개발할 것을 권장합니다.