AI効果：解決された問題は見えなくなる

この記事はAI効果について述べている。AI効果とは、あるタスクが解決されると、それがもはや知能を必要とするものとは見なされなくなる現象のことである。この効果はラリー・テスラーに由来し、1950年にチューリングによって記述された。この効果にはいくつかのメカニズムがある。知能が無知によって定義されること、モラベックのパラドックス（人間にとって困難なタスクは知的と見なされる）、そして成功したコンポーネントが分岐して独自の名前を得ることである。著者は典型的なEコマースのスタックを順に説明し、かつては研究テーマだったものが日常的な機能になったことを示している。スペル修正と検索のランキング（現在は単に「検索」）、協調フィルタリング（現在は「レコメンドブロック」）、テキスト分類（現在は「フィードマッピング」）、エンティティ解決（現在は「オファー統合」）、車両ルーティング（現在は「配送プランナー」）、不正検出（現在は「アンチフラウド」）。逆のプロセスも起こる。マーケティングや資金調達のために「AI」というラベルが付されることもある。改名の影響は深刻である。専任の管理者の喪失、品質監視（可用性のみ）、ポストモーテム、説明責任の喪失。規制要件（GDPR、レコメンドシステムの透明性）は後から登場するが、規制当局に論理を説明する者がいない。