人間による監視では危険なAIコーディングエージェントのリクエストの3分の1が見落とされる

The Registerの報道によると、ある研究で、人間のレビュアーがAIコーディングエージェントに向けられた危険な要求の約3分の1を見逃していることが判明した。この研究は、おそらくシミュレーションまたは実際のコーディングエージェントのやり取りを含むものであり、人間による監視があっても、危険なプロンプトのかなりの部分が気付かれずにいることを示している。これは、AI支援で開発されたソフトウェアにセキュリティ上の脆弱性をもたらす可能性がある。この研究は、AI支援コーディング環境における人間のモニタリングの限界を浮き彫りにし、強化された自動検出メカニズムの必要性を訴えている。