AIが作る悪意にAIで対抗、Appleが挑む「App Store」防衛最前線

生成AIの進化で、スマホアプリはプログラミングの知識がない人でも作れるようになりました。斬新なアプリが多数リリースされる反面、金銭や個人情報を盗む悪意のあるアプリ（マルウエア）もAIで作れるようになり、ユーザーにとって脅威となっています。

その状況を受け、Appleは専門家による目に加え、AIや機械学習を組み合わせた防御システムをApp Storeに導入。マルウエアなどの不正なアプリや海賊版アプリ、正規版を改変したアプリなどを高い精度で検出し、App Storeへの登録を却下したり削除する体制を整えています。あわせて、不正な評価やレビューを検出して削除する対策も実施していました。

• 

アプリ本体だけでなく、レビューも不正なものを検知して削除

Appleが5月20日、2025年のApp Storeの不正対策の実績を発表しました。22億ドル（約3500億円）以上の不正取引を阻止した、といった数字が踊っていますが、特に目を引いたのがAIと専門家による審査を組み合わせた多層的な防御を導入していること。この背景には、生成AIの普及や高性能化があります。

昨今、生成AIを用いたアプリ開発が可能になり、誰でもプログラミングの知識なくアプリが作れるようになりました。喜ばしい反面、内容が乏しいアプリや、バグが残る不完全なアプリなど、質の低いアプリも増えているのが実情です。

特に懸念されるのが、金銭や個人情報を盗む悪意のあるアプリ（マルウエア）も簡単に作れるようになったこと。さらに、当初はパズルゲームや計算機アプリといったよくある内容でアプリストアへの登録がなされ、審査後に金融詐欺を目的としたアプリに改変する「おとり商法」アプリや、隠された機能や文書化されていない機能を含むアプリもあるなど、手口が巧妙化しています。

そこでアップルはAIや機械学習を用いて、人間では見逃しがちな複雑な悪意のあるパターンや、不正行為の可能性を迅速かつ正確に特定できるシステムを導入。人間の審査担当者は、最も重要な部分で専門知識を活かせるようにしています。

多くの人がアプリのダウンロードや購入の際に参考にする評価やレビューですが、不正に高くした評価やレビューが横行しています。Appleは、評価やレビューでもAI検知を組み込むことで、1年間に13億件以上の評価とレビューのなかから1億9500万件近くの不正なものをブロックして表示されないようにしたほか、不正なレビューを実施したアプリはApp Storeの検索結果やランキングに表示されないようにし、誠実なデベロッパーの努力が報われるようにしています。

• 

Appleは、App Storeを「ユーザーがアプリを見つけるための安全で信頼できる場所」、さらに「デベロッパがビジネスを成長させる活気ある市場」にすることにお金とリソース、テクノロジーを惜しみなく使っていることが分かりました。Apple以外の企業が運営する代替アプリストアも利用できるようになりましたが、App Storeの優位性は当分続きそうです。