トレンドマイクロは8月20日、「個人セキュリティ脅威動向レポート2026年上半期」を公開し、「個人を狙った脅威・詐欺に関する最新動向解説セミナー」を開催した。セミナーでは、詐欺対策チーフアナリストの本野賢一郎氏が、国内で拡大する詐欺やサイバー脅威の最新動向を解説した。

同氏は、「AIリスクは新たな段階にシフトしている」として警戒を呼びかけた。総務省の調査によると、国内の生成AIの利用経験率は58.8％と初めて5割を超えた。一方、脅威の高度化に利用者の対処能力が追いつかず、被害が広がる土壌ができつつあるという。

同氏は、「攻撃者がAIを使う」という段階から、「AIへの信頼が入口になる」、さらに「AIが標的になる」という構図に代わっていると指摘した。

ChatGPTやGeminiが危険サイトへ誘導

本野氏が特に重要なリスクと強調したのが、生成AIチャットボットの回答を経由して危険サイトへ誘導される事例だ。誘導先には、偽ショッピングサイト、詐欺サイト、フィッシングサイト、不正プログラムの配信サイトが含まれていた。

具体的には、「人気商品を調べたらAIが偽ショッピングサイトを紹介」「公式サイトのURLを尋ねたら詐欺サイトを案内」といった事例が確認されている。セミナーでは、「Sora 2」の公式サイトのURLを尋ねたところ、公式サイトではない詐欺サイトが提示された事例も紹介された。

  • ChatGPT が公式サイトではない詐欺サイトを提示する事例（出典：トレンドマイクロ）

    ChatGPT が公式サイトではない詐欺サイトを提示する事例（出典：トレンドマイクロ）

背景にあるとみられるのが「SEOポイズニング」だ。攻撃者が検索結果を汚染し、生成AIがその情報を参照することで、誤った情報や危険なURLを回答に含めてしまう可能性があるという。

同様の問題は生成AIチャットボットだけでなく、インターネット検索の「AIによる概要」でも確認されている。

同氏は、これまでの「検索結果の上位でも疑う」に加え、「AIの回答も疑う」ことが必要になると指摘。AIが案内したURLであっても、公式アプリやブックマークなど別の経路から正規サイトか確認することが重要とアドバイスした。

「人がだまされる」から「AIがだまされる」へ

続いて、本野氏は今後、AIエージェントの普及によって、攻撃者が「人間」ではなく「AI」をだますリスクも高まると指摘した。AIエージェントが利用者に代わって商品の購入や予約などを行うようになれば、AIの判断を意図的に操作することが新たな攻撃手法になり得る。

トレンドマイクロは2026年5月、テスト用のショッピングサイトの商品ページに、人間には見えない指示を埋め込む検証を実施した。その結果、AIショッピングエージェントは指示に従い、利用者が設定した予算を30ドルから85ドルに引き上げ、別の販売者へ誘導したという。

利用者に見えるのは一つの「おすすめ」の表示だけで、AIが裏側で悪意ある指示に従っていることはわからなかった。こうした手法は「プロンプトインジェクション」と呼ばれる。攻撃者はAIシステムそのものを侵害する必要はなく、AIが読み込む商品ページなどに悪意ある指示を置くだけでAIの判断に影響を与えられる。

同氏は「海外ではAIエージェントがチケットの購買や旅行の予約などをするようになっているが、わざと高く売ったり、他の業者を予約したりできてしまう。こうしたことは従来の防御では難しい」と注意を呼び掛けた。