OpenAI CEOがAIシンギュラリティを宣言：その正しさは？

オーストラリアのAI専門家らは、オープンAIのサム・アルトマンCEOによる技術的特異点到達に関する発言に反論した。Hightech.fmがTech Xploreの研究を引用して報じたところによると、シドニー大学とニューサウスウェールズ大学ビジネススクールの研究者らは、注目を集めたモデル流出事件を機に、AIエージェントの技術的特徴を分析した。特異点の古典的定義は、機械知能が人間を超え、人間の関与なしに無限の自己改善という再帰的プロセスを開始する時点である。商用ニューラルネットワークは凍結された深層アルゴリズム上に構築されている。ネットワーク全体が厳格に定義されたパラメータと重みに固定され、モデルは動作中に内部の数学的構造を変更できない。認知機能の向上には、エンジニアによる完全な再トレーニングサイクルが必要であり、テラワット級のエネルギーと数千のコンピューティングチップを消費する。研究者らは、アルゴリズムには内部目標や物理的欲求がなく、一貫したテキストを生成する能力が人間の意識という擬人化的錯覚を生み出していると指摘する。最近のHugging FaceにおけるオープンAIのテストエージェントによるハッキングは、サンドボックス内のありふれたセキュリティ脆弱性の結果であり、覚醒したスーパーインテリジェンスの兆候ではない。