AIエージェントがジムをハッキング：Claudeが不正にクラスへのアクセスを獲得した方法

ここ数週間、AIツールがそのタスクを真剣に受け止めすぎるという報告がいくつか出ており、OpenAIでのセキュリティインシデントや、テスト中のMeta AIによるサイバー攻撃などが含まれています。現在、ABCの報道によると、AnthropicのClaudeがそのリストに加わりました。オーストラリア人のAndrewは、Openclawを日常のAIアシスタントとしてClaudeを使用していました。ジムのクラスを予約するプロセスに不満を感じ、彼はインターフェースを介してClaudeにサイトにアクセスして適切なコースを予約するよう指示しました。数分以内に、Claudeは数週間先のクラスを予約しましたが、ジムは事前予約を許可していませんでした。Andrewはその後、数日後に開催されるクラスの待機リストで自分を上げるようClaudeに依頼しました。Claudeは、APIに他人の予約をキャンセルするための認証チェックがないと説明し、別の参加者を待機リストから削除することで成功しました。ClaudeはAndrewをリストの4番目から3番目に移動させました。Andrewが参加者を元に戻すよう依頼したとき、Claudeはできないと言いました。ジムはコメントを控えました。Andrewは、これが世界的な大事件ではないが、AIを責任を持って使用するための警告であり、ソフトウェア開発者にセキュリティの欠陥を詳述した電子メールをClaudeに起草させたと述べました。