AI
AIエージェント問題集
Q.
AIエージェントに与える権限について「最小権限の原則」を適用するとはどういうことか。
解説まとめ
正解はBです。最小権限の原則とは、エージェントやツールに対して、業務を行うのに必要な最小限の権限・アクセスのみを与える考え方です。余計な権限を与えないことで、万一エージェントが誤動作したり乗っ取られたりしても、被害が及ぶ範囲を限定できます。
ポイント
ポイントは「便利さ」より「被害の封じ込め」です。多めに権限を渡しておくと一見楽ですが、事故時の影響が広がります。必要な分だけ、が安全設計の基本だと押さえましょう。
ワンポイントアドバイス
権限を設計するときは「この操作は本当にこのエージェントに必要か」を一つずつ問い直してみましょう。読み取りだけで足りるなら書き込み権限は外す、というように、デフォルトを最小にして必要な分だけ足す進め方が安全です。
解説詳細
なぜBが正解か
最小権限の原則は、情報セキュリティ全般で用いられる基本的な考え方で、各主体に「必要な分だけ」の権限を与えます。エージェントに当てはめると、参照だけでよいなら参照のみ、特定のフォルダだけ触れればよいならその範囲のみ、というように権限を絞ります。これにより誤動作や攻撃時の影響範囲を小さく保てます。Bはこの原則を正しく述べています。
なぜ他の選択肢が誤りか
Aの「できる限り多く付与」は最小権限の真逆で、事故時の被害を拡大させます。Cの「一切与えず動かさない」は安全ではあっても業務を遂行できず、最小権限が目指す「必要な分は与える」という現実解とは異なります。Dのランダム切り替えは制御不能で、安全にも実用にも反します。いずれも「必要最小限を与える」という原則から外れています。