GoogleのAI検索、道路カメラに金が含まれると誤認させ破壊の波を引き起こす

フロック・セーフティのカメラには貴重な金属がたっぷり含まれているという虚偽の主張が、GoogleのAI概要機能によって増幅されました。この機能は、各カメラには金が1〜5グラム、銅が0.9〜10.4キログラム含まれており、金だけでも約650ドルの価値があると表示しました。AIは、カメラの総重量がわずか1.36キログラムであることを検証せず、誤情報を拡散し続け、これらの機器に対する破壊行為を誘発しました。この話は、フロック・セーフティの監視システムをめぐるスキャンダル、例えば警察による私人追跡への悪用や、常時監視に対する国民の不安から始まりました。実際には、このような電子機器に含まれる金は微量で、主に接点のコーティングや回路基板の部品に使われ、銅も導体にごく少量使用されるだけです。この事件後、GoogleはAI概要を更新し、金が数グラム、銅が数キログラム含まれるという主張は冗談であり、AIの幻覚の結果であるとユーザーに警告し、実際の含有量はマイクログラム単位であると注記しました。この事件は、生成AIが基本的な妥当性チェックを行わずに虚偽の事実を繰り返し拡散するもう一つの例です。銅の質量だけでも機器全体の重量を超えていました。損傷したカメラの数は非公開のままですが、2020年の携帯電話基地局放火事件のように、AIがなくても人々は偽ニュースを広めますが、誰かが非難されるべきです。