米Appleは8月28日 (現地時間)、「Improving Siri’s privacy protections (Siriのプライバシー保護機能を強化)」という声明を公表した。プライバシー保護を徹底するために、Siriの音声認識の品質評価において、録音した音声サンプルをコントラクターの人間が分析するプロセスを廃止した。

GoogleやAmazonの音声アシスタントの改善において、委託を受けた業者の人間が音声アシスタントとの会話の録音を聞いてレビューすることへの批判が広がる中、プライバシー保護の徹底を掲げるAppleも同様のレビューを行っていたことがコントラクターの告発で明らかになった。報道を受けてAppleは、同社がグレーディングと呼ぶSiriのクオリティ評価プロセスを一時的に停止していた。

録音した音声サンプルはSiriの音声認識の改善のみに使用され、やり取りの内容を分析したり、他の目的に利用することはない。例えば、iPhoneのボタンを押さずに「Hey Siri」と呼びかけるだけでSiriを呼び出せる方が、ずっと便利にSiriを活用できるが、そのためにはSiriがユーザーからの呼びかけに正確に反応できるようになければならない。Siriへの呼びかけを聞き分け、適切に動作するように学ばせる機械学習プロセスにおいて音声サンプルとコンピュータが生成した書き起こしを用いてきた。

音声サンプルは、0.2%未満と小さく、Apple IDとは紐付けられていない。しかしながら、プライバシー侵害の可能性の懸念が広がったことでAppleは評価プロセスを見直し、その結果、同社のプライバシー保護ポリシーに従ったプロセスではないと判断、声明の中で「we realize we haven’t been fully living up to our high ideals, and for that we apologize」と謝罪している。対策として、以下の変更を行い、それらに対応するソフトウェアアップデートの提供を開始した上で、秋にプライバシー保護に基づいたグレーディングを再開する。

  • デフォルト設定では、Siriとユーザーのやり取りの音声録音を保持しない。コンピュータが生成した書き起こしはSiriの改善のために今後も使用する。
  • オプトイン (ユーザーが協力を希望する)形式で、リクエストの音声サンプルをSiriの改善に利用することを許可するオプションを用意する。
  • 改善プログラムへの参加をオプトインした場合、Siriとのやり取りの音声サンプルを聞ける範囲をAppleの従業員に限定する。