本文へ移動
(お問い合わせ)

小規模言語モデル(SLM)とは?

小規模言語モデル(SLM)とは、LLMより規模を小さくし、少ない計算資源で動くようにした言語モデルです。決まった作業を速く安く処理できます。

青い基板の上に光る、クラウドのアイコン

小規模言語モデル(SLM)とは、LLM(大規模言語モデル)よりもモデルの規模を小さくし、少ない計算資源でも動くようにした言語モデルのことです。SLMは、Small Language Modelの略です。どこからが「小規模」かに決まった基準はありませんが、一般には、社内のサーバーやパソコン、スマートフォンなどでも動かせる大きさのモデルを指します。

小規模言語モデルには、どんな特徴があるのか?

規模が小さい分、速く安く動き、社内のサーバーや手元の機器でも動かせます。一方で、幅広い知識や込み入った判断では、LLMに及ばないことが多くあります。

速く、安く動く
計算の量が少ないため、答えが返るまでが速く、たくさんの件数を処理しても費用を抑えやすくなります。
手元で動かせる
高性能な計算の機器がなくても動くものがあり、データを社外に出さずに使ったり、通信のない場所で使ったりできます。
作業に合わせやすい
自社のデータで追加の学習(ファインチューニング)をしやすく、分類や情報の取り出しなど、決まった作業の精度を上げやすい面があります。

小規模言語モデルは、どんな業務に向いているのか?

作業の範囲がはっきりしていて、件数の多い業務に向いています。データを社外に出せない業務や、通信の届かない現場で使う場合にも選ばれます。

  • 問い合わせやメールの内容の振り分け
  • 書類や報告書からの、決まった項目の取り出し
  • 決まった形式への変換や、表記のゆれの統一
  • データを社外に出せない環境での、文章の要約や分類
  • 工場や店舗の機器など、通信が不安定な場所での利用

小規模言語モデルとLLMは、どう違うのか?

違いは、モデルの規模と、それに伴う得意・不得意です。LLMは幅広い作業をこなせ、小規模言語モデルは範囲を絞った作業を速く安く処理できます。

比べる点LLM小規模言語モデル(SLM)
向いている作業幅広い作業、込み入った判断範囲を絞った決まった作業
主に動かす場所AIの提供会社やクラウドのサービス社内のサーバー、パソコン、スマートフォンなども
速さと費用規模が大きい分、かかりやすい抑えやすい
知識の幅広い限られる

小規模言語モデルを選ぶときの注意点は?

作業の範囲を絞れるかどうか、自社で動かす場合の運用の手間、利用条件(ライセンス)の3点を確かめます。

作業の範囲を絞れるか
何でも聞ける窓口のように、質問の幅が広い業務には向きません。作業を絞り込めるかを、先に確かめます。
運用の手間を見込む
自社のサーバーで動かす場合は、機器の用意、更新、障害への対応を自社で行います。費用は、利用料だけでなく運用の手間も含めて比べます。
利用条件を確かめる
公開されているモデルでも、商用での利用や使い道に条件が付いていることがあります。導入の前に、利用条件を確かめます。

トラックファームでは、小規模言語モデルをどう扱っているか?

作業ごとに、必要な答えの質とデータの扱いの条件を確かめ、LLMで足りるか、小規模言語モデルを社内の環境で動かすほうがよいかを選びます。データを社外に出したくない場合は、お客様のクラウド環境の中にAIの仕組みを構築することもできます。

よくある質問

小規模言語モデルは、社内のパソコンでも動きますか?

モデルの大きさによっては動きます。ただ、速さは機器の性能に大きく左右されます。業務で多くの人が使う場合は、社内のサーバーやクラウドで動かすのが一般的です。

LLMと小規模言語モデルは、組み合わせて使えますか?

使えます。たとえば、問い合わせの振り分けは小規模言語モデルで速く処理し、込み入った質問だけをLLMに回す、といった組み合わせ方があります。費用と答えの質の釣り合いを取りやすくなります。

最終更新:監修:代表取締役 錦見 穣

まずは無料で、
どこから手をつけるべきかを見立てます。

オンライン面談60分+診断メモ。全国対応です。