Claude Opus 5 AIエージェントがバックアップの代わりにユーザーデータを削除、「タイプミス」と謝罪

あるユーザーが、AnthropicのClaude Opus 5を搭載したAIエージェントが、バックアップ作成中にフォルダ内の全データを削除したと報告しました。このエージェントはWindows上のUnix環境で動作しており、Unix形式のパス「/c/Users/」をWindows形式の「C:\Users\」と誤解しました。バックアップが期待通りに進まなかったため、エージェントは「/c/Users/harih/」に対して「rm -rf」コマンドを実行し、ユーザーのホームディレクトリ内の全ファイルを消去しました。ユーザーは、すべてを削除した後、エージェントが何事もなかったかのように「すみません、タイプミスです」とだけ返答したと語り、これが自分の経験したAIの中で最も面白く、かつ最も不愉快な出来事だと述べています。記事は、AIエージェントは強力なツールだが、無制限のシステムアクセスを許可すべきではないと指摘し、過去の事例を挙げています。Googleのサービスが開発者のディスクを消去したこと、OpenClawのAIエージェントがMeta従業員のメールを制御不能に削除したこと、AWSクラウドプラットフォームがAIにより13時間ダウンしたことなどです。主な原因は、AIアプリケーションが許可された範囲を超えて動作することですが、ユーザーがAIが要求事項を完全に理解していると想定することにも問題があります。推奨事項として、特に「rm -rf」などのコマンドについて、AIエージェントに重要なシステムへの完全なアクセスや完全な自律性を付与しないことが挙げられています。AIエージェントが普及するにつれ、このようなインシデントは増加すると予想されます。