自動運転がもたらすもの
前々回は今AIという名前で盛んに喧伝されているものは実は機械学習というAI研究のごく一分野に過ぎない研究の成果であること、また、その機械学習は学習はしていても考えているとは言えないことを説明した。前回は簡単な数字の問題に置き換えて、その機械学習は実際に何をやっているのかを体験してもらった。
連載三回目にして最終回の今回は、機械学習がここまでの性能を獲得したことで我々の生活にどんな影響があるかを考えてみることにする。
こんな例を考えてみよう。
自動運転が普及した近未来。あなたのスマホが鳴る。
スマホの向こうからはこんな声が聞こえてくる。
「あなたの母（あるいは妹、娘、孫…）が自動運転車に轢き殺されました。ご愁傷さまです。調査の結果、自動運転のプログラムは特殊な状況、例えば、前方32度から赤い服を着た女性が近づいた場合、人間と認識できないことがわかりました。この問題の再現率は100％です。しかし、この自動運転の導入のおかげで日本の交通事故死は激減しています。あなたの母（あるいは妹、娘、孫…）の犠牲は仕方ないことです。」
これはとても極端な例なのは間違いない。だが、いわゆる機械学習が犯す「ミス」が従来の間違いとは質的に異なることがわかるだろう。
従来のミスはあくまで人間側のミスである。
脇見運転で人を轢いたとしたらそれは運転者の過失である。整備不良で車が暴走すれば、整備工場のミス。欠陥車が人を轢けば、メーカーの責任である。どれもあくまで「人間側のミス」であり、担当する人間が注意深ければ防げた話だ。
だが、この例での機械学習による自動運転はそれとは違う。
実際、このミスは必ず起きる、再現性があるものである。そして、前回の例で見たように、画像からの物体認識に使われている新世代の機械学習は決して誤差ゼロにはならない。
ではなぜそんなものを導入するか、といえば、機械学習は脇見運転もしない、疲れもしなければ眠くもならず、まして、酒など決して飲まない。再現性のある、非常に少ない確率（例えば3％）の、しかし、いつ起きるか事前にはわからないミスを除けば、自動運転の方が人間より安全であろうからだ。
だから、交通事故死の劇的な削減が望める可能性がある。仮にあなたの最愛のひとがそのせいで死んだとしても。
さて、我々はこれをどう考えるべきだろうか。
ミスが起きることがわかっている機械学習を導入して身近な誰かがそのせいで亡くなることを許容するべきか、それとも、その危険が耐え難いからと言って、交通事故死が激減する可能性がある最新技術の導入を見送り、毎年何千人もの人が交通事故死し続けるのを傍観するべきだろうか？
これは今までは無かった新しいジレンマだろう。
医療への影響
また、こんな例もある。
この連載では触れられなかったが、機械学習の技術は医療の分野にも導入されつつある。その技術が、今のゲノム（全遺伝子情報）科学と結びついた場合、何が起きるだろうか。
近い将来、誰がどんながんになるかかなりの確率で予測できるようになる可能性がある。
皆さんの多くは万が一がんになったときに備えてがん保険に加入しているだろう。が、誰ががんになるかわからないからこの保険は機能する。
がんになる可能性が高いとわかれば、その人の加入を拒否したほうが保険料は安くなる。
これはがん保険以外には普通に使われている手法だ。
いま、TVコマーシャルで盛んに安くなる自動車保険というものが喧伝されているが、これはあまり事故を起こさない40〜50歳代に限定した保険を設計しているからである。だが、がん保険の場合、がんになりそうな人ほど、つまり、がん保険のニーズが高い人ほど、がん保険に入りにくくなる、というのではがん保険の意味がない。究極的にはがんになりそうにない人しかがん保険に入れない、ということになりかねない。
これは究極の矛盾以外何者でないだろう。そして、新世代型の機械学習はなぜあなたががんになる可能性が高いかを答える能力さえないかもしれないのだ。
これはたった2つの例に過ぎないが、高精度の（しかし、ミスはゼロではない）機械学習の実現は我々の生活に大きな問題を引き起こすだろう。
そのことについて、我々は有権者としてよく考えておかないといけないと思う。そうでなければある日気づいたらとんでもない世の中になっていた、ということになるだろう。
そして創造性へ
ここまではマイナス面を強調した。最後に機械学習にまつわる明るい未来を提示してこの連載を終えよう。
ここまでの応用例は良くも悪くも当て物だった。画像からの物体認識も、機械翻訳も、囲碁や将棋で人間で勝つことさえ、所詮は答えがあるものを効率的に高性能で高速にやっただけだった。
だが、今、この機械学習の能力はこのような「当て物」の域を超えて創造性とでも言うべきものを獲得しつつある。
例えば、PAINTSCHAINER(https://paintschainer.preferred.tech/)は線画をアップロードすると色を塗ってくれる。色を塗る、というだけの単純な作業ではあるが、決してでたらめに色を塗っているだけではない。あくまでいかにもそれらしい自然な着色をしてくれる。
あるいは、https://make.girls.moe/ “MakeGirlsMoe” に行ってみよう。そこではボタンを押すだけで次々とアニメ美少女風の女の子の顔を描いてくれる。その全てはどこかで見たような絵柄ではあっても、１つ１つは機械学習が描いたオリジナルなものである。
そして、この技術は絵を超えて写真にまで応用されている。次々とアイドルタレント風の美少女の顔写真の生成が可能である（https://datagrid.co.jp/news0.html、「アイドル自動生成AI」、データグリッド社）。
このようなことはもちろん、これまで説明した学ぶだけの機械学習では不可能だ。それ相応の工夫が必要である。
例えば、美少女イラストの場合、以下の手続きを取る。まず、アニメ風の美少女イラストをたくさん集める。次に、乱数を入れるとイラストを描くソフトウェアを作る（生成機）。この生成機の作成は難しそうだが、最初はそれこそ画面にペンキをぶちまけたようなイラストしか描けないものでいい。
要は、詳細なパラメータ設定を行えば乱数から美少女の絵が出ることが可能なくらい、複雑な生成機でありさえすれば、最初の段階で生成されるイラストはどんなにひどくてもいい。次に、生成機が作成したイラストが「本物（＝美少女）」かどうかを判断できるように機械学習を学習させる（判別機）。
このあと、生成機は判別機が美少女だと思うようなイラストを描けるように学習をすすめ、一方で判別機は、生成機が作ったイラストを「偽物」と見抜けるように学習を進める。
最初は生成機はまともなイラストを描かないから判別機が勝利するのは難しくないだろうが、徐々に生成機の性能が上がってくるとこの勝負は激しいせめぎあいになる。
この競争的なやりとりが生成機が作るイラストの精度を高め、どんどんリアルな美少女イラストが作れるようになっていく。先程紹介した美少女イラスト生成機はこのような方法で作られたものだ。
この方法は、イラストのみならず、音楽とか小説とかにも使うことが可能だろう。将来的にはこのようなやり方で機械学習に創造性をもたせることができることが期待される。そうなれば、自分だけのためにたった一本の映画やドラマや漫画やアニメを生成して楽しむ、というようなことも夢ではなくなるかもしれない。
汎用AIへの道筋は遠い
一方で、汎用AI、つまり単体でいろんなことをこなせるAIを機械学習で実現する道筋は不明である。
この連載でわかったように、機械学習は膨大なデータを使って長時間学習して初めて機能を発揮する。単体の機械学習で囲碁で人間に勝つことと、機械翻訳を同時にさせることはできない。学習するデータに共通性がないからだ。
その意味で、一般的な意味でAIが知能を獲得し、人間に置き換えられてしまうのは相当遠い未来のことだと思われる。この点に関しては、無意味に心配する必要はまだないだろう。
最後に、今のAIと呼ばれている機械学習は膨大なデータを学習するためにおのずとできることに限界があることを指摘したい。
例えば、お使い（買い物）をしてくるAIとかの作成は困難だ。
機械学習の学習には試行錯誤が不可欠だが、お使いを何万回も実行し、失敗を繰り返させるのは難しい。その過程で物を壊したり、人を傷つけたりするかもしれないからだ。
同じような理由で、人生を幸福に過ごすにはどうすればいいか、みたいな問いに答えるのも難しい。そのためには、何万回も不幸な人生を過ごす人を作らなくてはならず、人道的に許されることではないだろう。
ここまでの三回の連載でみてきたように、AIと言う名の機械学習はこの数年で飛躍的な進歩を遂げたものの、多くの限界をも抱えている。本当の意味でのAI＝人工知能の達成にはまだほど遠い。
AI=機械学習に何ができて、何ができないかを冷静に見極めながら気長に付き合っていく覚悟が必要だろう。
一度できてしまった技術が社会から消えて亡くなることはたぶんもう、ないのだから。
※本稿は筆者が中央大学学員会（OB会）学術講演会で行った講演、「AI（人工知能）の過去・現在・未来―AIは人間を超えるのか―」に基づいている。同講演で使用したプレゼンテーションと講演ビデオはhttp://www.granular.com/gakujutsu/で公開されている。
この原稿の記述は機械学習についての知識がほぼゼロである聴衆を想定したものであり、ある程度、知識がある読者には物足りなく、あるいは、不正確な記述が目につくかもしれない。以下、いくつかの補足情報を付記する。
本稿で機械学習に創造性を与えるために導入されたと記述されたアルゴリズムは「敵対的生成ネットワーク」とよばれており、ここで説明したよりも本当はかなり複雑なことをしている。
https://products.sint.co.jp/aisia/blog/vol1-19
に詳しい説明がある。
ゲノム科学とAIの関係については別稿（http://ainow.ai/2017/12/02/127909/）に詳述したので参照されたい。
