小規模言語モデル(SLM)とは、LLM(大規模言語モデル)よりもモデルの規模を小さくし、少ない計算資源でも動くようにした言語モデルのことです。SLMは、Small Language Modelの略です。どこからが「小規模」かに決まった基準はありませんが、一般には、社内のサーバーやパソコン、スマートフォンなどでも動かせる大きさのモデルを指します。
小規模言語モデルには、どんな特徴があるのか?
規模が小さい分、速く安く動き、社内のサーバーや手元の機器でも動かせます。一方で、幅広い知識や込み入った判断では、LLMに及ばないことが多くあります。
- 速く、安く動く
- 計算の量が少ないため、答えが返るまでが速く、たくさんの件数を処理しても費用を抑えやすくなります。
- 手元で動かせる
- 高性能な計算の機器がなくても動くものがあり、データを社外に出さずに使ったり、通信のない場所で使ったりできます。
- 作業に合わせやすい
- 自社のデータで追加の学習(ファインチューニング)をしやすく、分類や情報の取り出しなど、決まった作業の精度を上げやすい面があります。
小規模言語モデルは、どんな業務に向いているのか?
作業の範囲がはっきりしていて、件数の多い業務に向いています。データを社外に出せない業務や、通信の届かない現場で使う場合にも選ばれます。
- 問い合わせやメールの内容の振り分け
- 書類や報告書からの、決まった項目の取り出し
- 決まった形式への変換や、表記のゆれの統一
- データを社外に出せない環境での、文章の要約や分類
- 工場や店舗の機器など、通信が不安定な場所での利用
小規模言語モデルとLLMは、どう違うのか?
違いは、モデルの規模と、それに伴う得意・不得意です。LLMは幅広い作業をこなせ、小規模言語モデルは範囲を絞った作業を速く安く処理できます。
| 比べる点 | LLM | 小規模言語モデル(SLM) |
|---|---|---|
| 向いている作業 | 幅広い作業、込み入った判断 | 範囲を絞った決まった作業 |
| 主に動かす場所 | AIの提供会社やクラウドのサービス | 社内のサーバー、パソコン、スマートフォンなども |
| 速さと費用 | 規模が大きい分、かかりやすい | 抑えやすい |
| 知識の幅 | 広い | 限られる |
小規模言語モデルを選ぶときの注意点は?
作業の範囲を絞れるかどうか、自社で動かす場合の運用の手間、利用条件(ライセンス)の3点を確かめます。
- 作業の範囲を絞れるか
- 何でも聞ける窓口のように、質問の幅が広い業務には向きません。作業を絞り込めるかを、先に確かめます。
- 運用の手間を見込む
- 自社のサーバーで動かす場合は、機器の用意、更新、障害への対応を自社で行います。費用は、利用料だけでなく運用の手間も含めて比べます。
- 利用条件を確かめる
- 公開されているモデルでも、商用での利用や使い道に条件が付いていることがあります。導入の前に、利用条件を確かめます。
トラックファームでは、小規模言語モデルをどう扱っているか?
作業ごとに、必要な答えの質とデータの扱いの条件を確かめ、LLMで足りるか、小規模言語モデルを社内の環境で動かすほうがよいかを選びます。データを社外に出したくない場合は、お客様のクラウド環境の中にAIの仕組みを構築することもできます。
よくある質問
小規模言語モデルは、社内のパソコンでも動きますか?
モデルの大きさによっては動きます。ただ、速さは機器の性能に大きく左右されます。業務で多くの人が使う場合は、社内のサーバーやクラウドで動かすのが一般的です。
LLMと小規模言語モデルは、組み合わせて使えますか?
使えます。たとえば、問い合わせの振り分けは小規模言語モデルで速く処理し、込み入った質問だけをLLMに回す、といった組み合わせ方があります。費用と答えの質の釣り合いを取りやすくなります。
