AIエージェントは、調べる、まとめる、ほかのシステムを操作するといった作業を、自分で順番に進められます。便利な一方で、任せる範囲を決めずに使い始めると、間違いに気づけないまま業務が進んでしまいます。この記事では、任せきりにしてはいけない業務と、線引きの考え方をまとめました。
AIエージェントに任せきりにしてはいけないのは、どんな業務か?
間違えたときに取り消せない操作、社外に出る内容、人の評価や処遇に関わる判断、理由の説明が求められる判断の4つが代表です。こうした業務では、AIエージェントには下書きや準備までを任せます。
| 業務の特徴 | 例 | 任せきりにしない理由 |
|---|---|---|
| 取り消せない操作 | 支払い、発注の確定、データの削除 | 間違えたあとで元に戻せない |
| 社外に出る内容 | お客様への回答、契約書、公開する文章 | 誤りがそのまま会社の信用に関わる |
| 人の評価や処遇に関わる判断 | 採用の合否、人事評価、取引先の審査 | 判断の偏りが、人に不利益を与えかねない |
| 理由の説明が求められる判断 | 経営の数字の異常の判定、法令に関わる判断 | なぜその結論になったかを、人が説明できる必要がある |
なぜ、AIエージェントに任せきりにしてはいけないのか?
AIはもっともらしい誤りを答えることがあり、AIエージェントはその誤りをもとに次の操作まで自分で進めてしまうからです。一つの間違いが、気づかないうちにいくつもの作業に広がります。
- 事実と違う内容を、もっともらしく答えることがある(ハルシネーション)
- 自分で次の操作に進むため、一つの誤りが後の作業に連鎖する
- なぜその判断をしたのかを、あとから説明しにくい
- 想定していない入力や状況で、思いがけない動きをすることがある
どこまでなら、AIエージェントに任せられるのか?
手順が決まっていて、間違えてもすぐに直せる作業は任せやすく、金額が動く作業や社外に出る作業は、人の確認を挟みます。責任を負う決定は、人が行います。
- 任せやすい
- データの転記、集計、社内向けのレポートの下書きなど、手順が決まっていて、間違えても影響が小さく、すぐに直せる作業です。
- 人の確認を挟む
- お客様へのメールや見積、発注など、社外に出たりお金が動いたりする作業です。下書きまでをAIエージェントに任せ、送る・確定する操作は人が行います。
- 任せない
- 採用や評価、取引の可否など、責任を負う決定です。AIには材料の整理までを任せ、判断そのものは人が行います。
あえてAIを使わない、という判断もあるのか?
あります。誰が見ても同じ結果になり、理由を説明できることが大切な判断は、AIより決まったルールで動かすほうが向いています。
物流業の経営管理の事例では、毎月の経営の数字の「いつもと違う動き」を担当者に知らせる判定に、あえてAIを使っていません。決まったルールと担当者の記録で動かし、どの数字がなぜ知らされたのかを、誰でも説明できるようにしています。運送業の健康管理の事例でも、健診の結果の色分けは、基準値や前回との差といった決まったルールで判定しています。
トラックファームでは、任せる範囲をどう決めているか?
導入の前に、AIに任せる業務の範囲、AIに使うデータ、人が確認する工程と担当者を、お客様と一緒に決めます。重要な判断や社外に出す内容には、必ず人の確認を入れます。
AIエージェントの動きは記録に残し、問題があればすぐに止められるようにします。費用の目安は、開発が100万円から(期間は1〜2ヶ月)、運用が月5万円からです。
よくある質問
AIエージェントに任せてはいけない業務は、何ですか?
取り消せない操作、社外に出る内容、人の評価や処遇に関わる判断は、AIエージェントに任せきりにしません。下書きまでをAIに任せ、決定は人が行います。
人の確認を入れると、AIエージェントを使う意味が薄れませんか?
薄れません。調べる、集める、下書きをつくるといった時間のかかる部分をAIエージェントが進め、人は確かめて決めるところに集中できるためです。
任せる範囲は、あとから広げられますか?
広げられます。最初は影響の小さい作業から始め、記録をもとに誤りの傾向を確かめながら、少しずつ任せる範囲を広げるのが安全です。
