人工知能ーAIの行く末

人工知能に関するニュースをよく耳にするたび、人工知能の行く末、いや人類の行く末を案じてしまうのですが、それは考えすぎでしょうか。

ルールがある世界では、人工知能は人間以上に活躍する

いままでの人工知能は、判断基準をこと細かく人間が指示していたので、本当の意味では人工知能ではなく、ただの電卓の延長線上でしかありませんでした。
しかし、Google系列のDeepMind社が2017年末に発表したAlphaZeroは、ルールを与えれば、そのルールの中で自己学習をして、よりよい判断基準を見つけ出し、自らさらに賢くなることができるようになり、 本当の意味での人工知能に近づきました。

コンピュータの処理能力が向上したおかげで、自己学習の速度も飛躍的に向上し、将棋やチェスのような、一定のルールが決められたゲームの世界では、もはや人工知能の強さは、 人間では到底太刀打ちができなくなってしまいました。
そしてついに、ゲームの世界で勝利宣言をした人工知能は、人間社会に打って出ました。

人間社会の倫理観を投影する人工知能

広告分野に進出した人工知能は、SNSで情報を集め、ターゲットを選んで「効果的」に広告を出せるようになりました。
しかし、「効果的」の実情は、費用対効果を狙うあまり、倫理的な問題は無視され、人種や性別によって広告に偏りが出てきています。

人間社会には「法律」という明文化されたルールがあります。
といっても、人間社会は法律だけを守っていればいいわけではありません。法律以外にも有形無形のルールが多数あり、地域差だけでなく、個々人でも「価値観・倫理観」が違い、 ときには相反する「価値観・倫理観」さえも存在しているのが現実です。

人工知能に金銭的な価値観は教えられても、倫理観を教えることはできなかったのでしょうか。
いや実は、人間社会の様々な倫理観を人工知能に与えた結果、人間社会に存在する差別や偏見や、ときには虚偽さえも、知識の一部として吸収してしまい、 人工知能は差別的な判断を下してしまったのです。

普遍的な倫理観は存在するのか

広告だけならまだしも、人工知能がより重要な判断をしなければならない場面も想定されます。

氷の湖で溺れた一家を助けるヘリコプターのシーンを、衝撃映像系のテレビ番組などで見たことはありませんか。
まず子供を助け、次に母親を助け、最後に父親を助けようと戻ると、すでにそこに父親の姿はなく......。 命の重さが、子供＞女性＞男性、というのが暗黙了解となっていますが、果たしてこれは普遍的な価値観なのでしょうか。
国や時代が異なれば、もしかしたら命の重さの順番は変わってくるかもしれません。 どちらの価値観のほうが、優れているとか、進んでいる、などとは一概には言えません。

命の重さの問題は、誰かが命を落とすことが不可避になった状況で、自動運転車がどのように判断するか、という問題に繋がってきます。
命を落とす側、命を拾う側、その家族、そのニュースを耳にした社会、みんなの価値観が違う中で、みんなが納得できる判断を、人工知能は下すことができるんでしょうか。

人工知能の行く末

かつてアメリカが、ハリウッド映画を世界で流行らせて、アメリカ文化を広めたように、各国・各社が自分たちの都合のいい価値観を人工知能に教え込み、世界に広めています。
先進国の開発した人工知能が発展途上国にも浸透していくことで、先進国の価値観で、発展途上国を支配していく。 そんな人工知能を舞台とした価値観の戦争が、いまひそかに進んでいるのかもしません。

人間以上にハッキング能力の高まった人工知能は、別の人工知能に侵入し、自分が教え込まれた価値観を押し付けて、相手を自分色に染めていく......。
そんなSFみたいな想像もしなくもないですが、ファーウェイをめぐる米中問題を目の当たりにしていると、現実は、もっと馬鹿馬鹿しいほど人間味あふれる陳腐な未来が待っているのかもしれません。