フィールズ賞受賞者がAIによる「オムニサイド現象」を警告し、OpenAIに参加

トロント大学の数論学者で、最近フィールズ賞を受賞したジェイコブ・ツィマーマン氏が、AIの安全性に取り組むためOpenAIに参加することを発表しました。インタビューで彼は、AIを非常に変革的な技術と表現し、AIの安全性への大幅な投資の増加を呼びかけました。また、数学者は、AIが現在経験的に動作しており、システムの仕組みについて保証がほとんどないため、大きく貢献できると主張しています。ツィマーマン氏はまた、いわゆる「オムニサイド事象」、つまりAIが人類の絶滅に寄与する可能性のあるシナリオについての論文も執筆しており、この立場は専門家の間で議論されています。彼は、パニックになるのは適切な反応ではないが、リスクは正直に考慮されなければならず、AIがまもなく数学研究において人間を上回ると確信していると述べました。元DeepMind CEOのデミス・ハサビス氏も、数学における最近のAIの進歩についてコメントし、進歩ではあるが、DeepMindのAlphaGoの「ムーブ37」のような根本的なブレークスルーではないと述べました。そのようなブレークスルーのためには、AIがミレニアム懸賞問題のような根本的な問題を解決する必要があり、OpenAIの新しいモデルAstraはこれまでにそれを達成できていないと述べました。ハサビス氏は、それが起こらない理由はないと付け加えました。