規制AI安全性 🇺🇸 27.07.2026 14:04

Import AI 456:RSIと経済成長;AI規制への急進的オプショナリティ;ニューラルコンピュータ

MetaMeta KAISTKAIST
このImport AI号では、3つのトピックを取り上げています。AI規制への「急進的オプショナリティ」アプローチの提案、MetaとKAISTによるニューラルコンピュータの概念、そして再帰的自己改良(RSI)が爆発的な経済成長を引き起こす可能性を示す経済モデルです。また、政府が変革的AIに備えるための具体的な推奨事項についても議論しています。
法とAI研究所(Institute for Law & AI)の研究者らは、AI規制に関して「急進的な選択可能性」を提案し、将来の危機において意思決定能力を維持するために、今から政府がツールや制度に投資すべきだと主張している。具体的には、透明性と報告要件、内部告発者の保護、政府内部および政府間の情報共有、柔軟なルール、評価、モデルウェイトのセキュリティ向上、技術人材の採用拡大を推奨している。メタ(Meta)と韓国科学技術院(KAIST)の論文は、学習されたランタイム状態で計算、メモリ、入出力(I/O)を統合する神経システム「ニューラルコンピュータ(Neural Computer, NC)」を紹介し、初期プロトタイプではコマンドラインインターフェース(CLI)とグラフィカルユーザーインターフェース(GUI)を採用している。フォアソート(Forethought)、コロンビア大学(Columbia University)、バージニア大学(University of Virginia)の経済学者らは、AIによる自動化を通じた再帰的自己改良(Recursive Self-Improvement, RSI)が爆発的な経済成長を引き起こす可能性をモデル化し、全セクターで13%の自動化、またはソフトウェア研究開発(R&D)の完全自動化と他セクターでの5%の自動化があれば、約6年以内に経済が特異点に達する可能性があり、ハードウェア研究が支配的なレバーであることを明らかにした。
出典: Import AI — 原文
関連記事 ↓
新着ニュース