本文へ移動
(お問い合わせ)

人による確認(Human in the Loop)とは?

人による確認(Human in the Loop)とは、AIの処理の途中に、人が確かめて判断する手順を組み込む考え方です。AIを業務で安全に使うための基本です。

ヘルメット姿で、タブレットを一緒に確かめる2人の作業員

人による確認(Human in the Loop)とは、AIの処理の流れの中に、人が内容を確かめて判断する手順を組み込む考え方のことです。AIに作業を任せても、最後の判断や、間違えると影響の大きい作業は、人が確かめてから進めます。すべてを人が見るのではなく、どこで人が確かめるかを、業務に合わせて決めるのがポイントです。

なぜ、人による確認が必要なのか?

AIは、もっともらしい誤りをつくることがあり、その結果に責任を持つのは、AIを使う会社と人だからです。資料にない例外の判断も、人のほうが得意です。

  • AIの答えには、誤り(ハルシネーション)が含まれることがある
  • お客様や取引先に関わる判断の責任は、会社が負う
  • 資料にない例外や、事情をくんだ判断は、人のほうが得意
  • 人が確かめた結果を、AIの仕組みの改善に活かせる

人による確認は、どこに入れればいいか?

間違えたときの影響の大きさと、元に戻せるかどうかで決めます。影響が大きく、元に戻しにくい作業ほど、人が確かめてから進めます。

作業の例間違えたときの影響確認の入れ方
社内向けの文章の下書き小さい使う人が読んで直す
問い合わせの振り分け中くらい結果の一部を定期的に抜き出して確かめる
お客様への回答の送信大きい送る前に担当者が確かめる
金額や契約に関わる処理、データの削除大きい実行する前に責任者が承認する

人による確認には、どんな形があるか?

実行の前に承認する、結果を読んで直す、結果の一部を抜き出して確かめる、の3つの形があり、業務に合わせて組み合わせます。

実行の前に承認する
AIがつくった案を、人が確かめて承認してから実行します。お客様への送信や、金額に関わる処理に向いています。
結果を読んで直す
AIの下書きを、人が読んで直してから使います。文章づくりなどに向いています。
一部を抜き出して確かめる
件数の多い作業では、結果の一部を定期的に抜き出して確かめ、誤りの傾向をつかみます。

人による確認を、形だけにしないためには?

確認する人が、短い時間で正しく判断できる仕組みにしておくことが大切です。根拠を一緒に示す、確かめる点をしぼる、確認の量を調整する、の3つを意識します。

根拠を一緒に示す
AIの答えと一緒に、参照した資料や判断の理由を示すと、確かめやすくなります。
確かめる点をしぼる
すべてを見直すのではなく、金額や日付、宛先など、間違えると困る点を決めておきます。
確認の量を調整する
確認が多すぎると、中身を見ずに承認するようになります。AIの精度を見ながら、確認の範囲を見直します。

トラックファームでは、人による確認をどう組み込んでいるか?

AI利用ポリシーの約束の一つとして、重要な判断には人の確認を入れています。AIを業務に組み込むときは、業務の流れを見える化し、AIに任せる作業と、人が確かめてから進める作業を分けて設計します。

よくある質問

人が確認するなら、AIを入れても手間は減らないのではないですか?

減らせます。調べる、まとめる、下書きをつくるといった時間のかかる作業をAIに任せ、人は確かめることに集中できるためです。確認の範囲は、AIの精度を確かめながら、少しずつ見直します。

AIの精度が上がれば、人の確認はなくせますか?

影響の小さい作業では、確認を減らせる場合があります。ただ、お客様や取引先に関わる判断、金額や契約に関わる処理など、責任を伴う判断には、人の確認を残すのがおすすめです。

最終更新:監修:代表取締役 錦見 穣

まずは無料で、
どこから手をつけるべきかを見立てます。

オンライン面談60分+診断メモ。全国対応です。