AIによる人間知能の拡張：新しい枠組み

最近のMicrosoft Researchの論文で、著者らは、AIシステムは自律的な精神ではなく、人間の知能の延長として理解するのが最適であると論じています。フッサールの現象学に基づき、言語には、AIモデルが学習し拡張する人間の理解の堆積構造が含まれていると提唱しています。これは、AIがパターンに基づくタスクでは優れている一方、合成的推論や世界に向けた理解には苦戦する理由を説明しています。幻覚は、AIに真実を支える生きた関与が欠けているために生じます。この論文はまた、AIの安全性を再定義しています。リスクは、暴走する超知能からではなく、根拠のないパターンを拡張するAIから生じます。したがって、安全性には、モデルの改善だけでなく、システムレベルのガバナンスと人間による監視が必要です。著者らは、責任ある開発とは、人間の理解を拡張しつつ、人間の経験に対して説明責任を持ち続けるAIを構築することを意味すると結論付けています。