AI
AIエージェント問題集
Q.
自律実行するエージェントに「終了条件」や「最大ループ回数(上限)」を設けない場合に生じやすい問題はどれか。
解説まとめ
正解はCです。終了条件や最大ループ回数がないと、エージェントは「いつやめるか」を判断できず、同じ処理を延々と繰り返したり、無駄なツール呼び出しを重ねてコストが膨らんだりしやすくなります。暴走を止める仕組みとして、終了条件や上限は欠かせません。
ポイント
自律実行は便利な反面、止め方を決めておかないと暴走します。「達成判定(終了条件)」と「保険(ループ・コスト上限)」の二段構えで止める設計を覚えておきましょう。
ワンポイントアドバイス
エージェントを動かす前に「何をもって完了とするか」と「最大何回まで・いくらまで」を必ず決めておきましょう。達成条件と上限をセットにしておくと、想定外の繰り返しが起きても自動で止まり、被害やコストを限定できます。
解説詳細
なぜCが正解か
自律的に反復するエージェントは、放っておくと終わりどきを自分で見失うことがあります。終了条件(目標達成の判定)がないと完了を宣言できず、最大ループ回数やコスト上限がないと反復が止まりません。その結果、無限ループや過剰なツール呼び出し、コスト膨張といった暴走が起きやすくなります。Cはこのリスクを正しく述べています。
なぜ他の選択肢が誤りか
Aは「一度の実行だけで完璧になる」としていますが、上限の有無と一発完成は無関係で、むしろ反復前提のエージェントには当てはまりません。Bのツール定義の自動最適化は、上限を設けないことの帰結ではありません。Dの入力暗号化もループ上限とは無関係の別機能です。いずれも、上限欠如が招く「暴走・コスト膨張」という核心を捉えていません。