エージェンティックAIの自律性は生産性を飛躍的に向上させる可能性を秘めているものの、従来のアプリケーションセキュリティの前提を覆す、新たな脅威を生み出している。
このような状況を受け、アプリケーションセキュリティの権威であるOWASP（Open Worldwide Application Security Project）は、エージェンティックAIに特化した新たなリスクのトップ10を公開し、警鐘を鳴らしている。それらは従来のLLMにおけるプロンプトレベルの課題とは一線を画し、AIの自律的な振る舞いに起因する脅威となる。
パロアルトネットワークス 提供資料
OWASP エージェンティックAI トップ10 サバイバルガイド
＞ ＞ 資料の閲覧はこちら
10大リスクを緩和する戦略とは?
例えば、攻撃者がエージェントの目標を乗っ取る「ゴールハイジャック」や、動的な権限委譲に起因する「IDと特権の悪用」、汚染されたデータによってエージェントの記憶が歪められる「メモリとコンテキストのポイズニング」など、これまでの対策だけでは防ぐことが困難な問題が指摘されている。
このような脅威に対処するには、個別の脆弱性への対応だけでなく、AIの意図を理解した上で、エージェントが取得する内容、使用するツール、試みるアクションを監視・制御し続けることが求められる。
* * *
リンク先のコンテンツでは、OWASPが提唱する「エージェンティックAI トップ10」の各リスク項目について、その詳細とリスクを緩和する戦略について整理している。自社の対策状況を自己診断できるチェックリストも提供しているので、ぜひ活用してもらいたい。
資料のご案内
パロアルトネットワークス 提供資料
OWASP エージェンティックAI トップ10 サバイバルガイド
＞ ＞ 資料の閲覧はこちら
[PR]提供：パロアルトネットワークス