生成AIは便利な一方で、「社内の情報が外に出ないか」「誤った答えがそのまま使われないか」という心配もつきまといます。禁止するだけでは、社員が個人のアカウントで使ってしまうこともあります。このガイドでは、AIを業務で使うときの主なリスクと、仕組み・ルールの両面からの対策を解説します。
AIを業務で使うときの、主なリスクは何か?
主なリスクは、入力した情報の漏えい、見てよくない人への情報の表示、誤った答えの利用、AIへの指示の乗っ取りの4つです。
| リスク | どんなことが起こるか | 主な対策 |
|---|---|---|
| 入力した情報の漏えい | 顧客の情報や社外秘の資料を、学習に使われる設定のサービスに入力してしまう | 使ってよいサービスと設定を決め、入力してはいけない情報を決める |
| 見てよくない人への表示 | 社内の資料を検索するAIが、権限のない人に人事や経営の情報を答えてしまう | 利用者ごとに、検索できる資料の範囲を分ける |
| 誤った答えの利用 | 事実と違うAIの答えを確かめずに、社外への文書に使ってしまう | 根拠を示させ、社外に出す前に人が確かめる |
| 指示の乗っ取り | 読み込ませた文書やメールに紛れた指示に、AIが従ってしまう(プロンプトインジェクション) | AIができる操作を絞り、重要な操作の前に人の確認を入れる |
仕組みの面では、どんな対策ができるか?
入力したデータが学習に使われない契約や設定で使うこと、AIに渡す情報を必要な分だけにすること、利用者ごとに見られる範囲を分けること、使われ方を記録することが基本です。
たとえば製造業の見積・請求の管理システムでは、お客様の社名や住所、担当者名はAIに送らず、件名と明細、単価だけを送る設計にしました。運送業の健康管理システムでは、健診の結果をそもそも外部のAIに送らない方式を選んでいます。扱う情報の重さに合わせて、AIに渡す範囲を決めることが大切です。
- 学習に使われない環境で使う
- 法人向けの契約やAPIの多くには、入力したデータを学習に使わない条件があります。条件はサービスや契約で違うため、利用規約と設定を確かめてから使います。
- AIに渡す情報を絞る
- 顧客の名前や住所など、答えをつくるのに要らない情報は、AIに送らない設計にします。
- 見られる範囲を分ける
- 社内の資料を検索させる場合は、部署や役職ごとに検索できる資料を分けます。
- 使われ方を記録する
- 誰が、いつ、何を入力し、AIが何を答えたかを記録しておくと、問題があったときにすぐ原因を確かめられます。
ルールと運用の面では、何を決めておくか?
使ってよいサービス、入力してはいけない情報、AIの答えの確かめ方、困ったときの相談先の4つを、社内のAI利用ガイドラインとして決めておきます。
国の指針としては、経済産業省と総務省がまとめた「AI事業者ガイドライン」(2024年)があり、AIを業務で使う会社が気をつける点も整理されています。個人情報の扱いなど法令に関わる点は、内容が改められることもあるため、詳しくは専門家や公的機関の案内を確かめてください。
- 会社として使ってよいサービスと、その設定
- 入力してはいけない情報(顧客の個人情報、取引先から預かった秘密の情報など)
- AIの答えを社外に出す前の、確かめ方
- 誤って入力したとき、困ったときの相談先
AIを導入する前に、何を確かめればいいか?
扱う情報の重さ、サービスの契約と設定、AIに任せる操作の範囲、人が確かめる場面の4点を、導入の前に確かめます。
扱う情報を分ける
AIに使う情報を、公開してよいもの、社内だけのもの、特に慎重に扱うもの(個人情報など)に分けます。
契約と設定を確かめる
使うサービスで、入力したデータが学習に使われないか、どこに保存されるかを、利用規約と設定で確かめます。
AIに任せる操作を決める
読むだけか、メールの送信やデータの更新までさせるのかを決め、必要以上の権限を渡さないようにします。
人が確かめる場面を決める
社外に出る文書や、取り消しのきかない操作の前には、人が確かめる手順を入れます。
トラックファームでは、AIのセキュリティをどう考えているか?
扱う情報に合わせて、AIに渡す範囲と、人が確かめる場面を設計の段階で決めています。生成AIの業務組み込みでは、PoCで回答の質を確かめながら、利用ルールも合わせて整えます。費用の目安は、開発が150万円から(期間は1〜2ヶ月)、PoCは50万円からです。
よくある質問
生成AIの利用を、社内で全面的に禁止したほうが安全ですか?
全面的な禁止は、かえって危ないことがあります。社員が個人のアカウントで使い始め、会社から見えないところで情報が入力されるおそれがあるためです。使ってよいサービスと使い方を決めて、安全に使える場をつくるほうをおすすめします。
社内のデータを、生成AIに使っても大丈夫ですか?
契約と設定を確かめ、扱う情報に合わせて使えば、社内のデータも使えます。入力したデータが学習に使われない環境で使うこと、見られる範囲を分けること、特に慎重に扱う情報はAIに送らないことが前提です。
