Anthropic, 클로드 AI 모델에서 숨겨진 '사고 공간' 발견

Anthropic은 자사의 Claude 언어 모델에서 내부 작업 공간이 자발적으로 생성된 것을 발견했으며, 이를 추적하는 데 사용된 Jacobi 방법의 이름을 따서 'J-Space'라고 명명했습니다. 이 공간에서 AI는 사용자와 공유하는 '사고 체인'과 별도로 아이디어를 계획하고 처리하는 것으로 보이며, 이는 인간이 다른 일을 하면서 한 가지를 생각하는 것과 유사합니다. 연구자들은 Claude가 코드 오류 감지 및 이미지 식별과 같은 정신적 작업을 수행하는 것을 관찰했지만, 이러한 단계를 말로 표현하지는 않았습니다. 이러한 행동은 Bernard Baars의 전역 작업 공간 이론과 유사점을 보이지만, 언어 모델의 아키텍처는 인간의 뇌와 근본적으로 다릅니다. 이 발견은 AI 모델의 숨은 의도나 잘못된 정렬을 드러내는 데 도움이 될 수 있습니다. 그러나 전문가들은 AI를 의인화하는 것에 대해 경고하며, Microsoft의 AI 책임자 Mustafa Suleyman은 '의식 있는 AI'를 믿는 것이 심각한 결과를 초래할 수 있다고 경고했습니다. Anthropic의 연구 논문은 '의식'이라는 단어를 200회 이상 사용하며, 회사는 최근에 Claude가 세션 사이에 정보를 처리하는 '꿈꾸는' 기능을 도입했습니다.