AI를 통한 인간 지능 확장: 새로운 프레임워크

최근 Microsoft Research의 논문에서 저자들은 AI 시스템을 인간 지능의 확장으로 이해하는 것이 가장 적절하며, 자율적인 마음으로 보는 것은 적절하지 않다고 주장합니다. 후설의 현상학에 기반하여, 그들은 언어가 인간 이해의 퇴적된 구조를 포함하고 있으며, AI 모델이 이를 학습하고 확장한다고 제안합니다. 이는 AI가 패턴 기반 작업에서 뛰어나지만 구성적 추론과 세계 지향적 이해에서는 어려움을 겪는 이유를 설명합니다. 환각은 AI가 진리를 고정시키는 살아있는 참여가 부족하기 때문에 발생합니다. 이 논문은 또한 AI 안전성에 대한 관점을 재구성합니다. 위험은 폭주하는 초지능에서 오는 것이 아니라, 근거 없는 패턴을 확장하는 AI에서 비롯됩니다. 따라서 안전성은 모델 개선뿐만 아니라 시스템 수준의 거버넌스와 인간의 감독을 요구합니다. 저자들은 책임 있는 개발이 인간의 이해를 확장하면서도 인간의 경험에 책임을 지는 AI를 구축하는 것을 의미한다고 결론지었습니다.