すべてにLLMは不要：本番環境ではBoosting、埋め込み、ルールが勝利

UWDC 2026カンファレンス（エカテリンブルク）で、大規模言語モデル（LLM）、古典的な機械学習（ML）、従来の開発の間の選択に関する議論が行われました。参加者であるカミル・シャキロフ氏（DARのAIエンジニア）、ニキータ・オフチンニコフ氏（RUTUBEのMLエンジニア）、ヤン・アニシモフ氏（Yandex PracticumのTech Lead DS/DS+）は、企業は普遍的なモデルを必要とするのではなく、特定の問題を効果的に解決するシステムを必要とすることが多いという点で一致しました。古典的なMLは、予測可能性、決定論性、検証の容易さで勝っています。モデルはビジネスに理解可能な指標でテストできます。一方、LLMは印象的な回答を提供しますが、幻覚を起こし、3ヶ月ごとの継続的な監視と更新が必要であり、推論コストが高くなります。実際には、下位レベルにルールとヒューリスティック、中間レベルにML、上位レベルにLLMを組み合わせたハイブリッドアーキテクチャが、コスト削減と品質向上を実現します。LLM結果の検証は依然として大きな課題であり、手動でのラベリングと追加のツールが必要です。専門家は、MLとLLMを対立させるのは誤りであり、各アプローチはそれぞれのタスクに適していると指摘しました。