Import AI 458:未来とシンギュラリティシナリオを理解する
Anthropic
今週のImport AIでは、オックスフォード大学HAIラボでの講演と、ポジティブなシンギュラリティについてのフィクションストーリーを特集。講演は、急速なAIの進歩が社会に、未来を探求するか現在から後退するかの選択を迫ると分析。著者は、スペルチェックから深い個人的アドバイス、自身のコンテンツに基づいた反復可能なスキルの創造に至るまで、AIとの関わりを説明する。
『Import AI』第458号は、ジャック・クラークが2026年にオックスフォードAI倫理研究所の人間中心AIラボ(HAI Lab)にて、コスモス研究所と協力して行った講演に基づく長文エッセイと、ポジティブなシンギュラリティに関する架空の物語で構成されています。第一部では、著者はエポック能力指標(ECI)のチャートについて議論し、これは40以上のベンチマークにおけるAI性能の成長を示しており、近年の主要な成果として、司法試験合格(2023年3月)、国際数学オリンピックでの銀メダルおよび金メダル獲得(2024年7月と2025年7月)、新しい数学的証明の共著(2025年)、そしてClaude Mythosシステムによるソフトウェア脆弱性の発見を挙げています。著者は、こうした進歩が何千億ドルものコンピューティングパワーへの投資によって継続していることを強調し、今後2年以内にAIの再帰的自己改良が起こり得ることを含む実存的リスクを警告しています。第二部では、著者はAIが自身の日常生活にどのように浸透しているかを説明します。テキストの校正(2023年夏)から子育てアドバイス(2026年1月)、深い個人的な会話に至るまでです。彼は自身のImport AIニュースレターアーカイブを利用して、AIがチャートを生成し、何百もの科学論文を分析する再現可能なスキルを作り出した方法を語り、それによって発見の感覚を得たと述べています。第三部では、個人と社会が直面する困難な選択について議論しています。
出典: Import AI —
原文
