「社内のデータを、外部のAIのサービスに送りたくない」という声は、情報システム部門や法務からよく上がります。実際には、自社の環境の中でAIを動かす方法はいくつかあり、さらに、外部に送るデータそのものを減らす設計もできます。この記事では、方法ごとの違いと選び方の目安をまとめました。
自社の環境の中でAIを動かすには、どんな方法があるのか?
大きく分けて、自社のクラウドの契約の中でAIのサービスを使う方法と、公開されているモデルを自社のクラウドやサーバーで動かす方法の2つがあります。
| 方法 | 内容 | 向いている場合 |
|---|---|---|
| 自社のクラウドの中で、AIのサービスを使う | Azure OpenAI、Amazon Bedrock、Vertex AIなど、大手のクラウドのAIのサービスを、自社のクラウドの契約と権限の中で使う | 社内のシステムがすでにクラウドにあり、性能の高いモデルを使いたい場合 |
| モデルを自社のクラウドやサーバーで動かす | 公開されているモデルを、自社で管理する計算機の上で動かす | データを一切外部のサービスに渡したくない場合や、ネットワークを外とつなげない場合 |
なぜ、自社の環境の中でAIを動かしたいのか?
多いのは、個人情報や機密を扱う、社内のセキュリティの審査を通しやすくしたい、社内のシステムとつなぎたい、使われ方の記録を自社で持ちたい、という理由です。
- 顧客の個人情報や、取引先との契約などの機密を扱う
- 社内の審査で、データの保存場所や管理者を説明する必要がある
- 社内のデータベースや文書の置き場所と、同じ環境の中でつなぎたい
- 誰が、いつ、何を入力したかの記録を、自社で管理したい
クラウドのAIのサービスと、自社で動かすモデルは、どう違うのか?
クラウドのAIのサービスは始めやすく、性能の高いモデルを使えます。自社で動かすモデルは、データを外に出さずに済む一方で、計算機の用意や運用の手間がかかります。
どちらが向いているかは、扱うデータの重要さと、求める答えの質によって変わります。性能の差や費用は時期によって変わるため、実際の業務のデータでPoCをして確かめるのが確実です。
| 比べる点 | クラウドのAIのサービス | 自社で動かすモデル |
|---|---|---|
| 始めやすさ | クラウドの設定から始められる | 計算機の用意と、モデルの準備が要る |
| 使えるモデル | 大手の会社の、性能の高いモデルを選べる | 公開されているモデルの中から選ぶ |
| 費用のかかり方 | 使った量に応じてかかる | 計算機の費用が、使う量にかかわらずかかる |
| 運用の手間 | モデルの更新は提供する会社が行う | モデルの更新や、計算機の管理を自社で行う |
| データの行き先 | 自社のクラウドの契約の中で処理される | 自社で管理する計算機の外に出ない |
外部に送るデータを減らすには、どう設計するのか?
AIに送るデータを必要なものだけにしぼり、AIを使わなくて済む処理はシステムの中で行います。環境をどこに置くかと同じくらい、何を送らないかを決めることが大切です。
製造業の見積・請求の事例では、お客様の社名や住所、担当者名はAIに送らず、送るのは件名と明細、単価だけにしました。似た見積を探す処理も、外部のサービスを使わずシステムの中で行っています。
運送業の健康管理の事例では、紙の健診結果の読み取りをサーバーの中で行い、スキャンした画像や個人の値を外部に送らない設計にしました。色分けの判定にもAIは使わず、決まったルールで判定しています。
トラックファームでは、AIを動かす環境をどう決めているか?
入力したデータがAIの学習に使われない契約や設定の環境だけを使います。データを社外に出したくない場合は、お客様のクラウド環境の中にAIの仕組みを構築します。
AIを組み込む前に、AIに任せる業務の範囲、AIに使うデータと使わないデータ、人が確認する工程と担当者を、お客様と一緒に決めます。
よくある質問
自社の環境の中で、AIを動かせますか?
動かせます。自社のクラウドの中でAIのサービスを使う方法と、モデルを自社のサーバーで動かす方法があり、求める安全性と費用で選びます。
自社の環境の中で動かすと、費用は上がりますか?
上がることが多くあります。クラウドの設定やネットワークの構築、記録の仕組みなどが必要になるためです。自社のサーバーでモデルを動かす場合は、計算機の費用もかかります。
自社で動かすモデルでも、業務に使える答えが返りますか?
業務によります。要約や項目の取り出しのように範囲の決まった作業なら十分なこともありますが、難しい文章づくりでは差が出ることがあります。実際の業務のデータで、PoCをして確かめます。
