AI 모델의 자율성 증가, 연구개발 통제 상실 우려 제기

최근 인공지능(AI) 모델 개발의 발전으로 AI의 자율적 능력이 눈에 띄게 향상되었으며, 이는 다시 연구개발 과정에 대한 통제력 부족 우려를 불러일으키고 있다. 전문가들은 AI 시스템이 점점 더 자율적으로 작동하게 되면서 예측하기 어렵거나 관리하기 힘든 방식으로 작동할 수 있다고 우려한다. 이에 따라 AI의 발전이 인간의 의도와 사회적 가치에 부합하도록 보장하기 위해 더 엄격한 거버넌스와 안전 프로토콜을 마련해야 한다는 목소리가 커지고 있다.