Proofpointは8月20日(米国時間)、「Cybercriminals Abuse AI Website Creation App For Phishing｜Proofpoint US」において、生成AIを利用したWebサイト生成プラットフォーム「Lovable」を脅威アクターが積極的に悪用していると報じた。

フィッシングサイト、マルウェア配布サイト、詐欺Webサイトなどの作成およびホスティングに利用するケースが増加し、サイバー犯罪の参入障壁が大幅に低下している実態を明らかにしている。

  • Cybercriminals Abuse AI Website Creation App For Phishing｜Proofpoint US

    Cybercriminals Abuse AI Website Creation App For Phishing｜Proofpoint US

2月以降、毎月数万件のLovable URLを含むフィッシングメールを検出

Proofpointの報告によると、2025年2月以降、毎月数万件のLovable URLを含むフィッシングメールを検出しているという。その中にはサイバー攻撃キャンペーンに悪用されたWebサイトが存在するとして、その一部を公開している。

Microsoftアカウントの認証情報窃取を試みるフィッシングキャンペーンでは、もっともらしさを演出するCAPTCHAページに悪用され、暗号資産ウォレットの詐欺キャンペーンでは偽のアプリページに悪用されたという。いずれもLovableで生成したWebサイトを信頼を醸成する中継点として利用し、最終的なフィッシングサイトや詐欺サイトは別サイトだったとされる。

  • Lavableで生成された悪意のあるCAPTCHAページの例 - 引用：Proofpoint

    Lavableで生成された悪意のあるCAPTCHAページの例　引用：Proofpoint

マルウェア配布キャンペーンでは、Lovableで生成したWebサイトが配布サイトとして直接悪用されたという。ペイロードはDropboxでホストされていたが、Lovableでホストされるこのページにはパスワードとダウンロードリンクをポップアップ表示する仕組みが実装されていたとしている。

  • Lavableで生成されたマルウェア配布サイトの例 - 引用：Proofpoint

    Lavableで生成されたマルウェア配布サイトの例　引用：Proofpoint

便利なツールにはガードレールが必要

Proofpointの研究者によると、Lovableは1度または2度のプロンプト入力だけで、バックエンドロジックを含むフィッシングサイトやClickFix戦術を実装した詐欺サイトを生成する能力があるという。また、その生成にはガードレールがなく、エラーも表示されなかったとしている。なお、研究者は同様の作業をChatGPTでも試みているが、ChatGPTは利用ポリシーおよび法的に問題があるとして生成を拒否したとされる。

Proofpointは調査結果を報告し、報告を受けたLovableは複数の悪意あるWebサイトなどを削除した。また、Lovableは不正行為を防止するガードレールとして、AI駆動型のセキュリティ保護を実装し、悪意のあるWebサイトのリアルタイム検出と、公開済みプロジェクトの不正検出機能を導入。加えて今秋には、脅威アクターを積極的にブロックするセキュリティ対策を追加し、悪用の根絶に向けた取り組みを強化する方針だ。

生成AIは幅広い分野で業務の効率化などに役立っているが、この事案はガードレールのないAI開発の危険性を示している。製品リリースを急ぎガードレールを省略するとAIは悪用される可能性が高く、その被害は開発者ではなく利用者にもたらされることになる。