小売業が生成AI導入時に考慮すべき責任とは？一部の人を置き去りにしない

最近、Simple Mindsの“Don’t You (Forget About Me)～私を忘れないで～” を聴いていたのですが、その時、年老いた両親と海外旅行に出かけたときのことを思い出しました。旅行中に深く考えたことは、かつて次世代のテクノロジーとされていたものが、急速に日常的な存在になってしまう現在、社会全体がより広くデジタルを理解し続けていかなければならない時代が来た、ということでした。

もし、年老いた両親が昔から好んで使っていたブランドや小売業者とコミュニケーションする方法が突然利用できなくなったり、置き換えられてしまったらどうなるでしょうか？彼らは、他の人たちが恩恵を受けているサービスや製品を利用できなくなってしまうのでしょうか？Simple Mindsの歌詞を言い換えると、“do my parents get forgotten ？（私の両親は忘れ去られてしまうのでしょうか？）”ということになります。

デジタル格差が生む課題とは？

私たちは「デジタル格差」を、AIや機械学習のバイアスの文脈で語ることがあります。「なぜプログラムされたアルゴリズムが特定のアクションを取ることがあるのか」「そこには、どのような文化的、社会的、あるいはその他の要因がインテリジェンスの根拠となるロジックに影響を及ぼすのか」という文脈で「デジタル格差」を語ることもあるかもしれません。

しかし、「デジタル格差」にはもう一つ、見過ごされがちな側面があります。それは技術の進化の速さによって、デジタルに精通していない人たちが特定のサービスや製品から、意図せず排除されてしまうことです。つまり、その技術的な進歩についていけない一部の人々が取り残されてしまうのです。

この問題は、技術提供者が社会の利益を考えて推し進めたサービスや製品の副産物です。具体的には、それらのサービスが正確ではなかったり、時期尚早だったり、まだ準備が整っていない市場に投入されたりする場合に、こうした問題が発生する場合があります。

ここで求められるのは、常に進歩、革新、進化に対する需要があることは認識しつつ、社会全体が取り残されないようにする配慮を怠らないという責任感です。

イギリスでは人間によるレジを戻す署名活動が

イギリスの簡単な例を紹介しましょう。最近の話ですが、国内大手のスーパーマーケットに対して、セルフレジを人間の店員によるレジに戻すことを求める署名活動があり、10万人を超える顧客が署名しました。

その署名活動の背後にある不満は、生成AIに対するものではありませんが、新たなデジタルプラットフォームを導入する際に、小売業者やブランドが直面する可能性のある課題の一例と言えるでしょう。セルフレジ自体は新しいものではありませんが、デジタルリテラシーの問題や人間との交流への願望から、その導入には反対の意見もあるのです。

しかし、良い事例もあります。一部のブランドや小売業者はこの問題を認識し、対策を講じています。例えば、昨年、オランダのスーパーマーケット「Jumbo」が対人での接客を望む買い物客のために、200店舗で”チャット式のレジ”を配置することを発表しました。これは多くの買い物客に歓迎されるサービスになるかもしれません。

事例から学ぶ生成AIがもたらす課題

こうした「デジタル格差」は、GPT4や他の生成AIが私たちの生活を変革することを確信しているこの時代に重要な検討事項となります。生成AIは社会のあらゆる側面、そしてさまざまな人々にとって、大きな良い影響をもたらす可能性を秘めています。新たに出現する知的技術は、利便性を向上し、日常生活を快適にし、有益な影響を及ぼす可能性があり、そういう事例もすでに出てきています。

最新の事例を探り、よりスマートな接客対応を模索している消費者向けのブランドや小売業者も増えています。Coresight Researchの調査によると、アメリカの人口の17.8％がAIを活用した音声操作で日々の買い物を済ませているという結果が出ています。

Coresightは、この傾向が2025年までに27.7％に、2030年までに76.0％に達すると予測しています。現在では、Carrefour（カルフール）がChatGPTと生成AIを使って顧客向けのコンテンツ制作や問い合わせへの対応を行うサービスを試験的に導入し始めています。

しかし、こうしたイノベーションが人々に興奮を与えるものである反面、小売業者や消費者向けブランドが生成AIの使い道を探求する際は、特定の人々を意図せずに阻害してしまわないように徹底する責任があります。生成AIがより一般的になり、そして人同士の接触が限定的なものになればなるほど、一部の人々が取り残されてしまうリスクがあるのです。

生成AI導入において大切なことは「バランス」

しかし、そのバランスをとることは容易ではありません。具体的には、顧客体験を改善し、よりアクセスしやすくしつつ、その一方で特定の人々を孤立させるリスクを冒さないこと。そして“人間が意思決定から外されるような「自動化」”ではなく、人の意思決定をサポートするように設計することも大切です。

ここで、MITのリサーチサイエンティストであるRenée Richardson Gosline氏の言葉を引用します。彼女はHarvard Business Reviewで、“good friction（良い衝突）”の概念について言及しています。「良い衝突」とは、「人間を意思決定から外した自動化ではなく、人間が主体的に、そして自主的に、より良い選択をするために、ゴールに向けて設けられた接触点（タッチポイント）」だと表現しています。

これこそ、私たちが生成AIをどう活用していくべきかについて、端的に示した素晴らしい説明だと思います。案内役(guiding force)、助手(sidekicks)、または副操縦士(co-pilot)という、生成AIのあるべき役割をとてもうまく表現しています。

結局のところ、小売業者やブランドが適切なバランスをとって無意識のデジタル格差から身を守る唯一の方法は、顧客をより深く、より広く、より密に理解することです。現在の顧客層は皆さんとどのように関わっていますか。

重要なことは、「なぜその顧客が皆さんと関わりを持っているか」ということです。生成AIの文脈で考えると、自動化はどの時点で導入することがよいのでしょうか。そしてその能力はすべての人に開放すべきでしょうか？それとも特定の顧客層に焦点を当てる方がよいのでしょうか。