Import AI 458: Imagining the Future and a Singularity Scenario
Anthropic
This issue of Import AI features a talk given at Oxford's HAI Lab and a fictional story about a positive singularity. The talk examines how rapid AI progress presents society with a choice: to explore the future or retreat from the present. The author describes their interaction with AI from spell-checking to deep personal advice and creating reproducible skills based on their own content.
Import AI 第458号は、2026年にオックスフォード大学人工知能倫理研究所の人間中心AIラボ(HAI Lab)とコスモス研究所の協力のもとで行われたジャック・クラークの講演に基づく詳細なエッセイと、ポジティブなシンギュラリティに関するフィクション作品で構成されています。エッセイの第一部では、著者がエポック・ケイパビリティ・インデックス(ECI)のグラフについて議論します。このグラフは、40以上のベンチマークにおけるAIの性能向上を示しており、著者は近年の主要な成果として、司法試験合格(2023年3月)、国際数学オリンピックでの銀メダルと金メダル(それぞれ2024年7月と2025年7月)、新しい数学的証明の共同執筆(2025年)、そしてClaude Mythosシステムによるソフトウェアの脆弱性の発見を挙げています。著者は、こうした進歩が数千億ドル規模の計算資源への投資によって続いており、再帰的な自己改善が向こう2年以内に起こる可能性を含む実存的リスクについて警告しています。第二部では、AIが著者の個人生活にどのように浸透しているかを説明しています。テキストの校正(2023年夏)から、子育てのアドバイス(2026年1月)、深い個人的な会話に至るまでです。著者は、自身のニュースレターImport AIのアーカイブを活用して、AIにグラフを生成させ、数百もの科学論文を分析する再現可能なスキルを作り上げた方法を語り、それが発見の感覚をもたらしたと述べています。第三部では、個人と社会が直面する困難な選択について議論されています。
出典: Import AI —
原文
