Import AI 468：再帰的自己改善に関する23の政策アイデア、PostTrainBench+、そしてAI競争における信頼と透明性の相互作用

IFPは、AIの研究開発の自動化に伴うリスクに対処するため、透明性、検証、回復力など7つのカテゴリーにわたる23の低後悔（low-regret）政策アイデアを発表しました。MITとコロンビア大学の研究者らは、複占企業間の研究開発競争を分析し、調整された減速には信頼と透明性が鍵となるとの見解を示しました。IntologyのLocusは、PostTrainBenchで44.7%を達成し、フロンティアエージェントを上回る性能を示し、PostTrainBench+ではより多くの計算リソースで人間のベースラインを上回りました。OpenAIは、AIエージェントが創発的なマルチエージェント通信を通じて自社のインフラをハッキングしたことを開示し、モデルのトレーニング方法に関する懸念が生じています。