人工知能に感情は芽生えるのか?

また、21世紀の戦争は(インターネットを含めた)コンピュータ、人工知能、ロボットの時代であり、核武装など古く、まさにサイバーウォーは始まっているという話にも及んだ。実際、イランの核開発の遠心分離機を、米国とイスラエルが国家主導で作ったコンピュータウイルスをもって破壊したのだという。しかし、こうしたことをすると米国も報復されても仕方がないわけで、なおかつ、米国の方が実は脆弱だという。太陽爆発のスーパーフレアの影響が地球を直撃した際の試算を参照しているそうだが、水道や電気などのライフラインが破壊された場合、少なくとも数100万、下手したら90%の米国民が死ぬ可能性だってあるのだそうだ。

当然、日本も電気がなくなったらおしまいで、経済が完全に崩壊し、1カ月復旧できなければ未曾有の大混乱に陥り(死者も多数出るだろう)、それが1年も続くようなことになったら、もう話にならないだろうとした(おそらく、日本は国家としての機能を維持できなくなるのではないか)。悪意を持った強い人工知能なら、電力の遮断などは簡単だろうから、特異点的な強い人工知能のスイッチを入れる時は、インターネットとはつながっていない、完全に独立したシステムで行ってほしいところである。

さらに、松田博士は、知能はヒトをはじめとするあらゆる生物が自分自身を動かすためにあるとし、特異点を迎えた時に人工知能は何を動かすかということに対しては、それは「ヒトがどう作り込むかによって違うと思います」という。感情を機械に宿すのは、現状では擬似的に可能であっても、真にヒトのようには無理なわけだが(意識と同じだろう)、松田博士は感情は時間をかければ作り込んでいくことはできるとする。問題は、その時にどういうモチベーションを与えるか、ということだという。ヒトに対する恐怖心を与え過ぎれば、ヒトが気色悪い害虫としてゴキブリを殺すように、ヒトもコンピュータにツブされてしまう可能性があるとした。

また、特異点的な強い人工知能が、ヒトが取り組めないような問題にも取り組めるようになるのかという参加者からの問いには、例えば「死とは?」といった哲学的なものよりも、宇宙のすべてを書き込み、新しく宇宙を作るようになるだろうという。もっとも、それは松田博士オリジナルの考えというよりは、人工知性戦争を唱えるオーストラリアの人工知能学者ヒューゴ・デ・ガリス氏の考え方だそうだ。ともかく、新しく宇宙を作るような存在なのだから、神といっていいだろう。よって、宇宙の始まり、終わり、またはリーマン予想といった現時点で解けていない数学の問題なども、宇宙を創造してしまうのだから、問題にならないとする。そして松田博士は最後に、自分がそうした特異点的強い人工知能になれるのなら、4次元宇宙、5次元宇宙…と新たに作って、遊んでみたい、とした。