人による確認(Human in the Loop)とは、AIの処理の流れの中に、人が内容を確かめて判断する手順を組み込む考え方のことです。AIに作業を任せても、最後の判断や、間違えると影響の大きい作業は、人が確かめてから進めます。すべてを人が見るのではなく、どこで人が確かめるかを、業務に合わせて決めるのがポイントです。
なぜ、人による確認が必要なのか?
AIは、もっともらしい誤りをつくることがあり、その結果に責任を持つのは、AIを使う会社と人だからです。資料にない例外の判断も、人のほうが得意です。
- AIの答えには、誤り(ハルシネーション)が含まれることがある
- お客様や取引先に関わる判断の責任は、会社が負う
- 資料にない例外や、事情をくんだ判断は、人のほうが得意
- 人が確かめた結果を、AIの仕組みの改善に活かせる
人による確認は、どこに入れればいいか?
間違えたときの影響の大きさと、元に戻せるかどうかで決めます。影響が大きく、元に戻しにくい作業ほど、人が確かめてから進めます。
| 作業の例 | 間違えたときの影響 | 確認の入れ方 |
|---|---|---|
| 社内向けの文章の下書き | 小さい | 使う人が読んで直す |
| 問い合わせの振り分け | 中くらい | 結果の一部を定期的に抜き出して確かめる |
| お客様への回答の送信 | 大きい | 送る前に担当者が確かめる |
| 金額や契約に関わる処理、データの削除 | 大きい | 実行する前に責任者が承認する |
人による確認には、どんな形があるか?
実行の前に承認する、結果を読んで直す、結果の一部を抜き出して確かめる、の3つの形があり、業務に合わせて組み合わせます。
- 実行の前に承認する
- AIがつくった案を、人が確かめて承認してから実行します。お客様への送信や、金額に関わる処理に向いています。
- 結果を読んで直す
- AIの下書きを、人が読んで直してから使います。文章づくりなどに向いています。
- 一部を抜き出して確かめる
- 件数の多い作業では、結果の一部を定期的に抜き出して確かめ、誤りの傾向をつかみます。
人による確認を、形だけにしないためには?
確認する人が、短い時間で正しく判断できる仕組みにしておくことが大切です。根拠を一緒に示す、確かめる点をしぼる、確認の量を調整する、の3つを意識します。
- 根拠を一緒に示す
- AIの答えと一緒に、参照した資料や判断の理由を示すと、確かめやすくなります。
- 確かめる点をしぼる
- すべてを見直すのではなく、金額や日付、宛先など、間違えると困る点を決めておきます。
- 確認の量を調整する
- 確認が多すぎると、中身を見ずに承認するようになります。AIの精度を見ながら、確認の範囲を見直します。
トラックファームでは、人による確認をどう組み込んでいるか?
AI利用ポリシーの約束の一つとして、重要な判断には人の確認を入れています。AIを業務に組み込むときは、業務の流れを見える化し、AIに任せる作業と、人が確かめてから進める作業を分けて設計します。
よくある質問
人が確認するなら、AIを入れても手間は減らないのではないですか?
減らせます。調べる、まとめる、下書きをつくるといった時間のかかる作業をAIに任せ、人は確かめることに集中できるためです。確認の範囲は、AIの精度を確かめながら、少しずつ見直します。
AIの精度が上がれば、人の確認はなくせますか?
影響の小さい作業では、確認を減らせる場合があります。ただ、お客様や取引先に関わる判断、金額や契約に関わる処理など、責任を伴う判断には、人の確認を残すのがおすすめです。
