AI
AIエージェント問題集
Q.
影響の大きい操作(メール送信・データ削除・支払いなど)を実行する前に、人間の承認を挟む設計(Human-in-the-loop)の主な狙いはどれか。
解説まとめ
正解はDです。Human-in-the-loop(人間承認)は、取り返しのつかない行動を実行する直前に人の確認を挟む設計です。エージェントの判断が誤っていた場合でも、実行前に人が止められるため、被害を未然に防げます。
ポイント
HITLは「速さ」ではなく「安全」のための仕組みです。すべての操作に挟むのではなく、影響が大きく取り消しにくい操作に絞って挟むのが実務上のコツである点も押さえておきましょう。
ワンポイントアドバイス
どの操作に承認を挟むかは「失敗したら取り消せるか」で線引きしてみましょう。下書き作成は自動でよく、送信・削除・課金は承認を挟む、というように「不可逆な操作」を承認対象にすると過不足が減ります。
解説詳細
なぜDが正解か
Human-in-the-loop は、自律実行の途中で、特に影響が大きい行動を実行する前に人間の承認ステップを入れる設計です。エージェントが誤った判断をしても、人が実行前に却下できるため、誤送信や誤削除といった取り返しのつかない結果を防げます。Dはこの安全上の狙いを正しく表しています。
なぜ他の選択肢が誤りか
Aの回答を長くすること、Bのツールを増やすことは、承認ステップの目的とは無関係です。Cの処理速度の向上はむしろ逆で、承認を挟むと一手間増えるため速くはなりません。HITL はスピードを犠牲にしてでも安全を取るための設計であり、いずれの選択肢も本来の安全目的を捉えていません。