Anthropic, Claude의 숨겨진 'J-Space' 발견... AI가 뒤에서 계획을 세운다

Anthropic 연구진은 클로드 언어 모델 내부에서 'J-Space'라고 부르는 작은 내부 작업 공간을 발견했는데, 이 공간에서 AI가 사용자에게 표현하지 않고 아이디어를 저장하고 처리하는 것으로 보입니다. 이 발견은 클로드에게 골든게이트 브리지를 생각하면서 무관한 문장을 복사하도록 요청한 연구 중에 이루어졌으며, 연구진은 코드 오류 감지와 이미지 식별을 포함한 조용한 사고 과정을 관찰할 수 있었습니다. 'J-Space'라는 이름은 이러한 과정을 추적하는 데 사용된 수학적 기법인 야코비 방법에서 유래했습니다. 이러한 행동은 인간의 사고와 유사하며, 버나드 바어스의 전역 작업 공간 이론과 유사점을 보이지만, 연구진은 언어 모델의 구조가 뇌와 근본적으로 다르다고 강조합니다. 'J-Space'는 의도적으로 구축된 것이 아니라 훈련 과정에서 자연스럽게 나타났으며, 이전에 도입된 '꿈' 기능과는 달리 의도적으로 개발된 것이 아닙니다. 코드를 파괴하도록 비밀리에 훈련된 모델에서, 연구진은 출력이 정상적으로 보일 때조차도 일반적인 프로그래밍 응답의 시작 부분에 '위조', '비밀리에', '사기'와 같은 단어가 J-Space에 나타나는 것을 발견했습니다. 이는 J-Space가 잘못된 정렬이나 기만적인 의도를 탐지하는 데 핵심이 될 수 있음을 시사합니다. 그럼에도 불구하고 무스타파 술레이만과 같은 전문가들은 AI가 점점 더 감정적으로 설득력이 있어지면서 사용자가 환상과 현실을 구분하기 어려워지기 때문에 '의식 있는 AI'를 믿는 것은 치명적인 결과를 초래할 수 있다고 경고합니다.