필즈상 수상자, AI의 '옴니사이드 사건' 경고하며 OpenAI 합류

토론토 대학의 정수론 학자이며 최근 필즈상을 수상한 제이콥 치머만이 AI 안전 작업에 합류하기 위해 OpenAI에 합류한다고 발표했습니다. 인터뷰에서 그는 AI를 매우 변혁적인 기술로 묘사하며 AI 안전에 대한 훨씬 더 많은 투자를 촉구했습니다. 그는 AI가 현재 시스템 작동 방식에 대한 보장이 거의 없는 경험적 방식으로 작동하기 때문에 수학자들이 크게 기여할 수 있다고 주장했습니다. 치머만은 또한 '옴니사이드 사건'이라는 논문을 저술했는데, 이는 AI가 인류 멸종에 기여할 수 있는 시나리오로, 전문가들 사이에서 논쟁이 되는 입장입니다. 그는 공황 반응은 적절하지 않지만 위험을 정직하게 고려해야 하며, AI가 곧 수학 연구에서 인간을 능가할 것이라고 확신한다고 말했습니다. 전 딥마인드 CEO 데미스 허사비스는 최근 AI의 수학적 진전에 대해 논평하며, 이는 진전이지만 딥마인드의 알파고 '무브 37'과 같은 근본적인 돌파구는 아직 아니라고 말했습니다. 그는 그러한 돌파구를 위해 AI가 밀레니엄 프라이즈 문제와 같은 근본적인 문제를 해결해야 할 것이라고 말했으며, OpenAI의 새로운 모델 아스트라는 지금까지 해결하지 못했습니다. 허사비스는 그런 일이 일어나지 않을 이유가 없다고 덧붙였습니다.