子どもの「自画撮り」被害をAIが防ぐ　トーンモバイルが格安スマホ

SNSで知り合った人の求めに応じて子どもが自分の裸の写真を送ってしまい、バラまくぞと脅されてさらに過激な写真を送ることに――。このような「自画撮り」の被害が増えていることを受け、トーンモバイルが裸などの不適切な画像を判別して撮れないようにする独自機能を搭載した格安スマホを発表しました。独自のAI技術を用いて実現した機能で、大手キャリアでも採用例がない機能を備える格安スマホとして、子どもを持つ親に注目を集めそうです。

• 子どもの自画撮り被害を防ぐ独自機能を搭載した格安スマホ「TONE e20」をトーンモバイルが発表。機能の縛りを破られないトーンモバイルならではの特徴も健在だ

AIが裸を検出すると画像を破棄、親にも通知

トーンモバイルが発表したのが、格安スマホ「TONE e20」。6.26インチの大きな液晶ディスプレイや超広角撮影対応のトリプルカメラを搭載し、顔認証と指紋認証のどちらでもロック解除ができる使い勝手のよい製品に仕上がっています。充実した内容ながら、価格は税別1万9800円とお手ごろです。

• ベゼルが狭いトレンドのデザインを採用した大画面スマホ「TONE e20」

• 背面は、1枚のガラスから切り出したようなスッキリとしたデザインに仕上げられている

TONE e20の特徴となる自画撮り被害防止は、独自機能「AIフィルター」を搭載したカメラアプリ「TONEカメラ」で利用できます。

AIが撮影した写真の被写体を分析し、撮影したのが人物の裸だと判断した場合は警告が現れ、写真は端末に保存されずに破棄されます。合わせて、保護者のスマホに不適切な写真を撮影したことが通知され、そのような写真を撮ろうとしたことを親が認識できます。「こういう写真を撮ったら親に通知が行く、ということで抑止効果も期待できる」とトーンモバイルの石田宏樹会長は自信を見せます。

• 不適切画像の例として用意した下着姿の女性のポスター

• シャッターボタンを押して撮影しようとしても、「不適切な内容のため撮影できません」と警告が表示されて撮影できない

• 警告の表示とともに、保護者のスマホには不適切画像を撮影しようとしたことが通知される。保護者のスマホはiPhoneも対応する

AIによる不適切画像の検出はすべて端末内で処理され、クラウドサーバーにアップロードはせずに処理されます。

• 画像の判別は端末内で実行し、クラウドには送らないため、外部に漏えいする心配もない

裸の検出は、単純に肌色の比率で判定しているわけではなく、多くのサンプルをもとにAIが多角的に判断しているそう。レジャーなどで撮影した水着の写真は問題なく撮影でき、下着や露出が大きすぎる水着はNGと判断されます。裸は男性でもNGとなります。

• 女性だけでなく、男性の裸も基本的に撮影NGとなる

• 単純に肌色の面積で判断しているわけではないので、家族と一緒に写った写真は撮れる

裸の検出はTONEカメラのみで有効となり、ほかのカメラアプリでは機能しません。ペアレンタルコントロール「TONEファミリー」の設定で、カメラアプリはTONEカメラのみ起動可能にすることで、ほかのカメラアプリを使う抜け道を防ぐことができます。

• SNSにまつわる児童のサイバー被害は年々増えつつある。特に、2019年は2000件を超えるなど増加のペースが高まった

• 児童ポルノの検挙件数や被害児童数も右肩上がりで増えている

LINEなどのスーパーアプリ、個々の機能を制限できるように

もう1つ、TONE e20で加わった安心機能が、1つのアプリでさまざまな機能を持つスーパーアプリへの対応です。

大手企業が提供する人気アプリは、1つのアプリにさまざまな機能を搭載する「スーパーアプリ」へと進化を続けています。LINEの場合、本家のメッセージ機能だけでなく、不特定多数がチャットできるオープンチャットSNS、キャッシュレス決済、ゲーム、マンガなどの機能を含んでいます。

• スーパーアプリの代表格といえるLINE。1つのアプリにこれだけの機能が盛り込まれている

1つのアプリからいろいろな機能を呼び出せるのが便利ですが、困るのが一部の機能だけ子どもの利用を制限したい場合。「LINEのメッセージ機能は使わせたいが、オープンチャットSNSは禁止したい」というケースでは、OSのフィルタリング機能でLINEのアプリ利用を制限してしまうと、メッセージをはじめすべての機能が使えなくなります。その結果として、フィルタリング機能を利用しないまま使わせる、という困った状況が発生しているわけです。

• オープンチャットSNSを制限しようとOSレベルでアプリを利用禁止にしてしまうと、メッセージなどの機能も使えなくなってしまう。この点が、これまでのペアレンタルコントロールの悩ましい点だった

その悩ましい状況を防ぐべく、TONEファミリーをアプリ内の機能を個々に制限できるように改良しました。当初はLINEのみの対応となりますが、今後対応アプリは増やしていくとのことです。

• TONEファミリーでは、アプリ内の個々の機能を制限できるようになった