AI 안전 🇺🇸 26.07.2026 19:03

보리스 체르니 인용: Opus 5는 프롬프트 주입이 가장 어려운 모델

AnthropicAnthropic
보리스 체르니는 PI 평가와 레드 팀 테스트 결과를 바탕으로 Opus 5가 지금까지 가장 프롬프트 주입이 어려운 모델이라고 밝혔습니다. 이 내용은 시스템 카드 73페이지에서 강조되었습니다.
2026년 7월 25일 인용된 보리스 체르니(Boris Cherny)는 오퍼스 5(Opus 5)가 지금까지 제작한 모델 중 프롬프트 인젝션(prompt injection)이 가장 어려운 모델이라고 강조했습니다. 그는 이 세부 사항이 시스템 카드(system card)에 다소 묻혀 있지만, 프롬프트 인젝션 평가와 레드 팀링(red teaming) 전반에 걸쳐 오퍼스 5가 프롬프트 인젝션에 성공하기 매우 어렵다는 점이 입증되었다고 말했습니다. 시스템 카드 섹션은 73페이지에 나타납니다.
출처: Simon Willison — 원문
관련 게시물 ↓
새로운 뉴스