今後のAIは「公正・説明責任・透明性・倫理性」が重要

大手IT企業は現在、AI(人工知能)や機械学習といったAI技術を利用するアプリケーション・サービス展開に積極的だが、それはMicrosoftも同じである。

今回訪日したMicrosoft Research CVPのJeannette M. Wing氏は、「計算論的思考(Computational Thinking)」の提唱者として、カーネギーメロン大学のコンピューター科学 顧問教授など、コンピューター科学分野で多くの実績を残してきた人物だ。2013年1月からはMicrosoft Research(以下、MSR)へ在籍し、世界各国にあるMSRの拠点を監督する役割を担っている。

Microsoft Research CVPのJeannette M. Wing氏

Wing氏が「Web検索やWindows 10を使っていればAIに触れている」と述べるように、我々は既にAI技術の恩恵を受けている。MicrosoftのWeb検索システム「Bing」やパーソナルアシスタント「Cortana」には多くのAI技術が使われているからだ。

Microsoftの研究機関であるMSRは1991年9月にRichard Rashid氏が設立し、多くの基礎研究を行っている。その成果物は、WindowsやOfficeといった製品の細かな機能として実装されてきた。身近な例を一つ挙げると、Windows XP時代に液晶ディスプレイの文字を見栄えよく映し出すClearTypeがある。

2016年9月にMicrosoftは、MSRとAI関連部門を統合した「The Artificial Intelligence&Research(AI&R)」部門を設立し、これまで以上にAI分野の基礎研究に邁進(まいしん)している。2016年10月に日本マイクロソフトは、音声認識技術の中間目標を公式ブログで報告しているが、これもAI&R部門の成果だ。

今回、Wing氏はMSRがAI分野で重要視する箇所として、「Foundation(基礎)」「Task Completion(タスク完了)」「Trusted AI(信頼されるAI)」と3つのキーワードを並べた。まずFoundationから説明しよう。

MSRは基本的な研究所として、「AIや機械学習、深層学習といった最新鋭の技術を用いてIT業界を主導している」(Wing氏)。また、各大学などと連携して、音声認識や機械翻訳といった研究結果を製品に組み込んでいる。「Skype Translator」などはその一例だ。

英語や中国語など(日本語は除く)8言語の音声通話をリアルタイム翻訳する「Skype Translator」

これらの研究は約10年前に着手済みという。製品として我々が使えるまでには、実際かなり待つことになるが、「長期的な研究に対するリターンは必ずある」(Wing氏)と、基礎研究の重要性を語る。また、現在は英国の医療関係者とともに、X線による乳がん診断にAI技術を用いるプロジェクトを進行中だ。AI技術を生かして、実世界を変えるシナリオを多数用意しているそうだ。

「Task Completion」についてWing氏は、Cortanaのアシスタンスシステムを例に、次のように語った。「Cortanaはメールやカレンダーのデータにアクセスし、ミーティング時間や指定時間までにすべきことを気付かせてくれる」(Wing氏)。

Cortanaのリマインド機能は便利に使っているが、その大元をたどると、約10年前にカーネギーメロン大学の博士号を取った学生(現在はMSRの研究員)が生み出した研究結果に行き着く。先のSkype Translatorも同じだが、いつ実用化されるか分からないまま、MSRの研究員はさまざまな研究を続けている。基礎研究とはそういうものだろう。

「Cortana」のリマインド機能。画面はカレンダーの予定表を元にアクションをうながしている

最後の「Trusted AI」。文字どおり「信頼できるAI」と訳すが、誰しもコンピューターを使う際は、セキュアで信頼性が高く、プライバシー保護を求めているが、Wing氏は「AIの世界においては新しい信頼の概念が必要」と強調する。

「公正(Fairness)であり、説明責任(Accountability)が取れている。そして透明性(Transparency)と倫理性(Ethical)である。我々はこれらの頭文字を取って『FATE』と呼んでいる。このFATEを新しい概念として重要視することが、今後のAI技術に必要な要素である」(Wing氏)。

例えば、公正性については、機械学習モデルを作成する際に大量のデータを用いてトレーニングを行う。ここでデータに偏見が含まれると、学習結果に悪影響を及ぼすことは明らかだ。説明責任は標的型広告を例に「差別的だと感じた場合、誰に指摘していいか分からない。それはアルゴリズムを作った人なのか、AIなのか。だからこそAI技術を用いた結果に対する説明責任を明確にしなければならない」(Wing氏)。

我々が生きている間は心配する必要がない

機械学習はこの10年で大きく進歩し、それまで実現不可能だと思われていた課題を次々と解決してきた。だが、機械学習モデルが抱える問題の一つに「理解できない」がある。「予測結果に至った理由を科学者として説明できないため、透明性をAI技術の課題として取り入れなければならない」(Wing氏)。

倫理性についても、AI技術を利用する国々の文化に寄り添う姿勢が必要だとした。人々の価値観はその国々で異なり、日本人の習慣も海外からは異様に見えることもある。実世界とAI技術が融合するためには、確かに倫理性も重要だ。

AIといえばシンギュラリティ(特異点)が話題になっているが、Wing氏は「我々が生きている間は心配する必要がない。(会場に居た日本語通訳担当者を指して、)我々は今も翻訳者に頼っている」と回答し、記者の笑いを誘っていた。確かにAI技術は日々進歩しているが、その道のりは長いとも。

実際にSkype Translatorの利用状況を分析すると、スペインの方々は英語とポルトガル語を交ぜることが多く、他方で同じ綴(つづ)りの単語がドイツ語なのか英語なのか判断に悩む場面も少ないそうだ。これらの状況を踏まえて、「(AI技術がシンギュラリティを起こすような)一般的知能にたどり着くのはまだ先」(Wing氏)と説明していた。

AIという研究分野が発展し、それがビジネスを変えて、我々の日常が変化する。前述したように、AI技術は既に身の回りの製品・サービスに組み込まれている。各社が注力するAI分野において、果たしてどこがリーダーシップとなるかは分からないが、新しいAI技術が新しいビジネスを生み出すのは間違いない。その流れは今後も変わることはなく、加速していくだろう。

阿久津良和(Cactus)