AIは絶対的に信頼できるものなのか

司会:その点については誰が悪い、文科省が悪いと、何かをやり玉に挙げたところで、それで解決できる問題ではないので、今できることとすれば、例えば親子の間でそういったつながりを育んでいく、という方向性を社会全体で作っていく、という考え方もあるかもしれません。

では、そういう社会を形成していく、という話なったときに、一方でAI社会になるわけですが、あちこちでAIが推論の結果を提示してくれるようになる。そうなったときに、AIを作る側ではなく、使う側として、AIの結果をどこまで信じてよいのか、その根拠となる素養はどこまで育てるべきなのか、その点はどう考えるべきでしょう？

上田:AIをどの分野で活用するかなんですね。例えばセキュリティなんかで使う場合には、RSA暗号などは安全性が理論保証されているわけです。でも、今の深層学習には理論保証というものはなくて、誤差逆伝播法という大昔の技術が、NVIDIAのGPUの演算性能で支えられているだけで、決して技術革新があったわけではない。中はブラックボックスですから、入力と出力のペアを単に学習するだけで、なぜそれがでてくるかは説明できない。これは、今、当たり前のように言われていることですよね。ただ、画像認識とか、音声認識とかはなぜの説明は必要としない。Aさんの声は誰が聞いてもAさんの声だし、なぜとは言わない。分野によって使える使えないは変わります。今の深層学習とビッグデータの組み合わせは頭打ちなんです。おそらく5年も持たない。逆に5年間は技術革新がなくても、価値創造があればいくらでもリードすることができるとも言えます。

手前味噌ですが、科学技術振興機構(JST)から数学と情報が融合するという新しい領域「数学・数理科学と情報科学の連携・融合による情報活用基盤の創出と社会課題解決に向けた展開」の研究総括も拝命しているのですが、そこでは数学・数理科学と情報科学の連携・融合による新たな基盤技術の創出を目指しています。

RSA暗号とか、スパースコーディングとかは欧米で数学の発想を活かした情報技術として生まれたわけで、きちんと理論保証もされている。そういうものを日本は作っていかないといけない。いわゆるデータ駆動のアプローチについては、ダメとは言いませんが、将来的には頭打ちになるので、サイエンスが培ってきたモデルや理論を捨てて、データと深層学習があれば何でもできるという神話を早く崩さないといけないという考えです。

そういう方向性でも数学の重要性がでてきていて、今回の採択者の人が九州大学のマス・フォア・インダストリ研究所に所属していて、この研究所は数学を工学に生かそうと取り組んでおり、大学をあげてかなり成功していると見ています。そういう取り組みとしては、日本は少し、先導とまでは言いませんが、いち早くシフトしていると言えるとは思います。深層学習とかでも数学は重要なわけですけど、それは数学教育という観点ではちょっと違っていて、数学の発想をどう社会に転化させていくか、ということを真剣に考えないといけないということです。そうしないと、今のAI技術における信頼性に対する問題などに十分答えられないわけです。

司会:今、九大での数学の話が出てきましたけど、実際に、数学的なツールとしてMathWorksは提供されているわけで、ツールベンダとしての立場から、こうした方が情報と数学がつながるといったことを伝えたりしてるんですか？

宅島:我々は理論を抑えた上で、しっかり実践してもらえるような方々にツールは使ってもらいたいという思いがあって、そういったことを踏まえると、単に理論だけでもないですし、単に実践だけでもないといったことに偏らないように気をつけているところはあるかなと思います。

これは教育の現場だけではなくて、製造業の現場なんかでも、似たような状況が見られることがあります。製造業の場合は、データサイエンティストという方々と製造業におけるプロセスやラインに精通しているドメインエキスパートの方々がいて、ドメインエキスパートの人たちは、歩留まりを高めるには、このバルブをこのくらいに調整すればよい、といったことを経験と感で理解しているんですが、その理由を理論として説明できないということがよくあるんです。我々としては、このデータサイエンティストとドメインエキスパートの橋渡しになるような道具として使われるようになりたいなと感じてますね。

データサイエンティストは道具を使ってみて、製造工程で起こっていることを見える化していく、あるいはその後のアイデアや発想に生かしていけるという一面がある一方で、ドメインエキスパートは自分がやっている、いわゆる感と経験を、定式化・定量化するとこういうことなんだと分かるような、そういうような観点で我々は話をしていることが良くあります。

誰が何を理解すべきなのか

司会:その辺の話は保科さんも、デザイナーとデータサイエンティストという話でしてましたね

保科:今のお話は、まさに私のビジネス上のテーマですね。データサイエンスの知識と、業界に関する知識の両方を備えていることがアクセンチュアの強みと自負しています。

データサイエンティストが産業の知識を得る方がよいのか、またはその逆が良いのかと考えたとき、アクセンチュアはコンサルティング会社で各業界の専門知識を持っていますので、業界の専門家がデータサイエンスの知識を身につける方がスムーズだと思っています。近い将来、どの業界に携わる人であってもAIの知識を身につけて、使いこなしていかなければならない時代が来ると思います。そのときに、ちょっとした数式が出てきた瞬間にダメ、とならないようにする必要はありますね。高校の数学までの知識があれば、大抵のAI技術は理解できるのではないかと思います。

宅島:そうですね。どちらかが、ということはないのかなと個人的にも思ってますが、やはり、難しい問題であるとも常々感じているところです。