
コンビニへ行くのに、F1は出さない。
AIも同じ。SLMで足りる仕事はSLM、難しい仕事だけ上位LLMへ。この振り分けがModel Routing。
■朝・昼・夕方に出る三つの問い
朝、CFOが「この単純処理に毎回高性能モデルが必要か」と聞く。昼、情シスが「このデータを外部へ送ってよいか」と問う。夕方、現場は「もっと速く返してほしい」と言う。この三つの問いが、コスト、データの置き場所、応答速度というモデル選びの条件になる。問題は巨大LLMが悪いことではない。仕事に対してモデルが大きすぎ、原価が高すぎることだ。
■SLMは「小さいLLM」ではない
SLM(Small Language Model:小規模言語モデル)は、LLMより少ない計算資源で動かしやすく、特定の用途や実行環境へ最適化しやすい言語モデルである。「10B未満ならSLM」のような世界共通の境界はなく、Microsoftは14BのPhi-4もSLMに位置づけている。見るべきなのは、対象業務に必要な品質を、許容できる計算資源・速度・コストで満たせるかだ。なお、SLMはモデル、エッジAIはAIをデータの近くで実行する配置・運用であり、別のものである。
■SLMが向く仕事、向かない仕事
SLMの価値が出やすいのは、処理範囲を限定でき、何度も繰り返す仕事である。分類、情報抽出、定型要約、限定領域のFAQ、決められたツールの呼び出しが候補になる。一方、未知の問題への高度な推論、複数分野をまたぐ分析、曖昧な条件を含む例外判断は、高性能LLMが有力だ。2026年のSLMは小型でも力がある。GoogleのGemma 4はE2B/E4B、12B、26B A4B、31Bの5サイズをそろえ、マルチモーダル入力や関数呼び出しに対応する。Qwen3.5-9Bは262K級の長いコンテキストを備える。ただし、長文、多言語、高い正確性が必要な業務では、事前評価が欠かせない。
■安いモデルを選んでも、原価は下がらない
「ローカルSLMなら安い」とは限らない。自社運用にもハードウェア、電力、評価、更新、監視、セキュリティ、障害対応がかかる。そこで見るべきなのが、要求品質を満たして業務を1件完了するまでの総コスト、すなわち業務完了原価(Cost per Successful Task)である。SLMが安くても、上位モデルへの再送や人手確認が増えれば下がらない。Gartnerは2025年4月、2027年までに企業で使われる小型・タスク特化型AIモデルの利用量が汎用LLMの少なくとも3倍になると予測しており、企業AIは用途別の使い分けへ進んでいる。
■Model Routingで振り分ける
SLMかLLMかを一度決めて固定するより、Model Routingで仕事を振り分ける方が再現性が高い。業務タスクをルーターへ渡し、まずSLMで処理する。条件を満たさなければ高性能LLMへ、必要なら人へエスカレーションする。AppleもFoundation Models frameworkで、会話履歴を保ちながらモデルやツールを切り替える仕組みを提供している。上位モデルへ送る条件、人へ戻す条件、失敗の記録方法まで決めて初めて、運用になる。判断の順番は「モデル、ランタイム、チップ/実行場所」であり、業務要件から必要な知能を定義すれば、端末世代が変わっても設計思想は残る。
■まず、最も頻度の高い処理を一つ測る
「一番大きいモデル」ではなく「この仕事に必要なモデル」を選ぶことが、AI原価最適化の出発点である。まず最も頻度の高い処理を一つ選び、SLMで要求品質をどこまで維持できるかを測る。そこが、モデルを大きさではなく仕事で選ぶ最初の一歩だ。
📄 SLMとは?LLMとの違い・主要モデル・企業の使い分けを解説【2026年版】
https://arpable.com/artificial-intelligence/slm-edge-ai-cost-strategy/