AIにまつわる「よくある誤解」と「正しい理解」

これまでAIの概要や、機械学習の基礎的なところを説明してきました。今回はそういった知識を持っていてもなお勘違いしがちな、AIにまつわる「よくある誤解」について解説したいと思います。

誤解1：汎用的なAIが存在する

初めて「AIを活用しよう」と考える人は、「世の中には業界ごとに既存のAIがあり、それを導入することがAI活用である」と思いがちです。実際に私もよく「〇〇業界で使えるAIについて教えてください」と言われることがあります。

しかしAI活用とは、既存のAIを自身の課題に適応するのではなく、解きたい課題に応じて、その課題を解くためのAIを開発して利用することです。特定の業務で使えるAIが欲しいと思っても、”ピッタリのAI”というものは存在しないため、自身で開発しなければならないのです。もちろん、パン屋の自動レジのように、解きたい課題が同じであれば既存のAIを活用することはできます。ただ、それでも自社のパン向けにコンピュータに学習し直させる必要がありますから、やはり全く同じAIを活用することはあまりありません。

誤解2：複雑なタスクも1つのAIで解決できる

AIと言うと「非常に高度なことができる」という印象を持っている方も多いでしょう。そうしたイメージでAIを想像すると、複雑なタスクも難なくこなせるに違いないと思われるかもしれません。

例えば、「ある書類に誤りがないかを確認し、誤りがあれば修正し、それぞれの書類を適切な部署に送付する」業務があったとします。この業務を1つのAIで処理することはできるでしょうか。

答えは「ノー」です。上記の業務例は、「誤りがないかを確認する」「誤りがあれば修正する」「書類を適切な部署に送付する」と複数のタスクで構成されています。しかし、1つのAIが解決できるタスクは1つなのです。もし、こうした業務を全てAIで処理したいのであれば、業務を一度バラバラに分解して、各タスクごとにAIを開発し、組み合わせることになります。

この例であれば、次の3つのAIを開発して順番に実行することにより、「ある書類に誤りがないかを確認し、誤りがあれば修正し、それぞれの書類を適切な部署に送付する」ことができます。

• 書類に誤りがないかを確認するAI
• 誤りを訂正するAI
• 書類を適切な部署に分類するAI

ユーザーからは、あたかも1つのAIによって一連の業務が遂行されているように見えるかもしれませんが、実際には3つのAIが処理しているのです。

実際に「AIでこの課題を解くにはどうしたら良いですか？」という相談では、複数のタスクがまとまったような課題であるために、1つのAIだけでは解決できないというケースが多くあります。

誤解3：AIの判断はいつも正しい

現在AIと呼ばれているものの多くには、機械学習という技術が用いられています。機械学習とは、大量のデータからルールやパターンなどを自動で抽出し、抽出したルールやパターンに基づいて処理を行うことで、未知のデータに対してもある程度の精度で予測ができる、という技術です。

しかし、機械学習の精度を100％にすることは、基本的には不可能です。それはすなわち、100％の精度で予測できるAIを開発することは不可能だということになります。なぜなら、機械学習への入力は未知のデータであるため、どんな入力がなされるのか、あらかじめ全てを把握することはできません。つまり、入力される可能性のある全てのパターンに対して精度を保証することができないため、「精度が100％である」と断言することはできないのです。もし入力のパターンを全て記述することができるのであれば、その課題を解くために機械学習を用いる必要はなく、全ての入力に対して出力ルールを記述しておけば良いでしょう。

したがって、AIを開発する際は、あくまでもその精度は100％でない（間違っている可能性がある）ことを前提に、AIが出した結果をどのように活用するのかをあらかじめ検討しておく必要があります。

誤解4：作ったAIはずっと使える

AIの開発は、それなりにお金も時間もかかるものです。せっかく作ったのだから、未来永劫ずっと活用したい気持ちはわかります。しかし、AIはそんなに都合の良いものではありません。先述の通り、現在のAIでは多くの場合機械学習という技術が使われており、機械学習は大量のデータに基づいて、ルールやパターンを抽出／活用しています。そのため、AIの予測結果は、開発時にどのようなデータが用いられたかに依存するのです。

開発から時が経ち、AIを開発したときには存在していなかった入力（データ）が出てきた場合、そのままのAIでは精度の高い結果を出すことができなくなるでしょう。新しい入力に対しても適切に予測できるよう、再度データを集め、機械学習をやり直す必要があるのです。

開発時から一切状況が変化しないようなタスクであれば、開発したAIを永久に使うことができるかもしれませんが、世の中にあるタスクのほとんどはそうではないはずです。そのため、AIは1度開発すれば終わり、というものではないのです。

最近はAIの開発コストに関してのご質問をいただくこともありますが、開発コストについて検討する場合は、この再学習のフェーズも念頭に入れておくことが大切です。

誤解5：AIは暴走する

AIは暴走しません。AIが暴走しているように見えるのは、機械学習という技術の特性のためです。機械学習は、大量のデータを基に学習することで、未知の入力に対してもある程度の精度で予測することができます。したがって、その予測結果がどんなに驚くべきものだったとしても、結局は事前に人から与えられた機械学習の手法と学習用のデータに基づく結果に過ぎないのです。

とは言え、機械学習では非常に多くのデータを用いるため、人がそのデータをどれだけ見たとしても、コンピュータが見い出すようなルールやパターンを全て見つけることはできません。そのため、人が想定していない結果をAIが導き出して驚くこともあるわけですが、これはAIが暴走したのではなく、人が機械学習の結果を全て予測できていないだけです。

*　*　*

本連載では、AIや機械学習について、できるだけたくさんの方に、わかりやすくお伝えすることを目指しています。今回ご紹介したような誤解はまだまだ根強く残っているのですが、連載を通じて、少しでも多くの方に正しく理解していただき、AIに親しみを持っていただけるように頑張りたいと思います!