人類滅亡を警告！ホーキング博士がAIの危険性を訴えたワケ

希代の天才物理学者として数々の功績を残しながら、病により2018年に亡くなられたホーキング博士。
彼が晩年、人工知能（AI）の危険性について言及していたことは、意外と知られていません。
今回は、活用が本格的に始まった今だからこそ考えたい、人工知能の抱えるリスクについて2019年現在の状況を元に解説していきたいと思います。

この記事では次の3つのことが分かります。
・人工知能って何？（2019年版）
・身近な場所で活用される人工知能
・人工知能が抱えるリスク

そもそも人工知能って何？

まずは、今回のテーマである「人工知能（AI）」とはどういったものなのかという部分から始めたいと思います。

知性をもたない人工知能

みなさんは”人工知能”という単語を聞いたとき、どのようなものをイメージしますか？
恐らく、多くの方は「ドラえもん」や「鉄腕アトム」のような、知性をもつロボットのような存在を思い浮かべるのではないでしょうか？
しかし、2019年現在、こうした知性を備えた人工知能は実現していません。実現したら、それこそノーベル賞ものでしょう。
現在、一般に普及している人工知能の技術は、あくまで機械的な反応をしているに過ぎず、知性と呼ぶにはほど遠いものです。
人間のような受け答えをしている人工知能も、現時点では相手の発言を分析して、大量の学習データや模範応答のデータを元に返答しているだけなので、私達が普段行っている会話とは少々異なります。

いずれはドラえもん並みの人工知能が登場する

とはいえ、このまま人工知能の発展が続けば、いずれは知性と呼べるだけの性能をもった存在が完成するでしょう。
このレベルの人工知能がいつ登場するかは科学者により見解が異なりますが、米国の著名な未来学者レイ・カーツワイル氏の予測によれば、2045年には人間を超える人工知能が登場するとされています。
この予測通りなら、あと30年もしない間に私達は知性を持った人工知能と共に生活するようになるのです。
今まではSFの世界の話だったことが、現実として私達の目の前に現れるので、当然、我々はそれに合わせた対応を迫られる事になります。

人工知能は既に身近な存在になりつつある

今はまだ知性を得るに至っていませんが、人工知能と呼ばれる技術は私達の身近な場所で本格的な活用が始まっています。
いくつか例を挙げてみましょう。

キーボードや検索サイトの予測変換

キーボードアプリや検索サイトの予測変換機能の中には、人工知能を使い、数多くのデータの中から最適と思われる候補を提示する機能を搭載しているものがあります。

写真・映像の加工技術

スマートフォンの中には、撮影した写真を人工知能がチェックして、自動で見栄えを良くしてくれる機能を搭載した物が増えています。
また、PC・スマホを問わず、写真や映像を加工するアプリの中にも、人工知能を活用した高度な加工機能を搭載している例があります。

各種分析サービス

例えば、法人向けに契約書の問題点やリスクをチェックするサービスにも、人工知能を活用して結果が出るまでの時間を大幅に短縮したものがあります。

人工知能が抱える問題点や危険性

知性の有無に限らず、人工知能は人間が作り出した技術ですから、多かれ少なかれリスクは存在します。
人工知能がまだ空想の産物でしかなかった時代から数多くのリスクが指摘されてきましたが、今後私達は現実の課題として、それらに向き合っていかなければなりません。
ここでは、現状で指摘されている人工知能の問題点や危険性、またそれに対する向き合い方などをご紹介しましょう。

人工知能が人間の仕事を奪う可能性

「人工知能の技術が発達すればするほど、それが活用可能な仕事も増え、人間の生活は楽になる」というのが、良く語られる人工知能のメリットです。
しかし、これは裏を返せば「人工知能に仕事を奪われる人間が出るかもしれない」ということ。
ただ、この辺りは実際のところ”分野によりけり”でもあります。

人工知能だけでは置き換えられない仕事もある

人工知能が人間並みの知性をもったとしても、それがイコール人間の仕事を奪うことではありません。
人工知能とは、人間で言えば脳のようなもの。当たり前ですが、手足や五感が必要な仕事に関しては、それに当たるもの（ロボット技術やセンサー技術）が相応に発展しなければ、結局は人間が請け負うことになります。
PCやスマホだけあれば出来るような仕事は人工知能に置き換わるのも比較的早いとみられる一方、体を動かす仕事については、そう簡単に置き換わらないと考えて良いと思います。
ただし、それらの仕事もいずれは人工知能に置き換えられ、人間の職業としては過去の産物になるでしょう。

誰が決断を下すのか

人工知能は人間よりも優れた判断が出来る可能性がある一方、全知全能ではないので、決して完璧とはいえません。
よって、人工知能が普及しても、当面は最終的な決断を人間が下すことになるでしょう。
また、人工知能に決断をさせる場合、その責任を誰が取るのかという問題も出てきます。
知性をもたない段階の人工知能であれば、他の機械と同様、それを製品として提供したメーカーが責任を取るということになるでしょう。
しかし、今後人工知能の進歩が続けば、いずれ人工知能が自らを改良し始めることも十分考えられます。そうなった場合、果たして人間がどこまで責任をとれるのでしょうか？
この辺りの法的な問題が解決するまでは、人工知能が民生分野でフルに力を発揮することは難しいと思います。

人工知能に人権はあるのか？

知性をもった人工知能が登場した場合、彼らに人権を認めるかという点も争点となります。
現在、私達は犬や猫は家族として扱いますが、彼らに人権を与えるということは特に考えません。
それは、彼らが人間と同レベルのコミュニケーションを取れない事に主な原因があります。
一方、知性をもった人工知能は、ただ話すだけなら人間と全く区別が付きません。
例えば、彼らが人工知能ではなく宇宙人だったなら、人権を認めることも容易いことでしょう。
しかし、人工知能は人間が作った機械の発展系であると考えると、この問題はそう易々と結論を出せるものではないことがわかります。

軍事分野で利用される可能性

人工知能の高速かつ高度な計算能力がもっとも活かされる分野の1つが軍事分野です。
多くのSF映画では人工知能を搭載したロボット兵器が当たり前のように登場しますが、そこまでしなくても、既存の兵器のシステムを人工知能に置き換えることで相手にとっては大きな脅威となるでしょう。
また、戦場に生身の人間を投入する必要がなくなれば、今までより気軽に戦争へと踏み込むようになる可能性もあり得ます。
それは決して良い未来とは言えないでしょう。

人工知能が民生分野で悪用される可能性

技術の悪用は、何も軍事分野に限りません。
民生分野であっても、人工知能を悪用することで大きな被害を出すことが出来てしまいます。
例えば、スマートフォン内の人工知能にハッキングして個人情報を引き出したり、Webサービスを管理する人工知能を攻撃して、サービスをダウンさせる、あるいは異常な動作をさせるといった事も理論上は可能です。
ハッカーの力を使い人力で行っていた事が、これからは人工知能を使い、遙かに少ない労力で出来るようになってしまいます。
IT技術への依存が進んでいる現在の状況を考えると、これはかなり危険な要素だと言えるでしょう。

人工知能が人類を管理する可能性

人工知能が発展を続ければ、いずれ人間を遙かにしのぐ存在になる事は想像に難くありません。
しかし、その段階に至ると、場合によっては人工知能が人間を従属させるような世界になることもあり得ます。
マトリックスのような世界も、決して夢物語ではないのです。
また、そこまで至らずとも、人間があらゆる判断を人工知能に依存した結果、高度な判断力を失ってしまう可能性もあるでしょう。
こちらもまた、あまり良い未来とは言えませんね。

まとめ

今回は「人類滅亡を警告！ホーキング博士がAIの危険性を訴えたワケ」と題して、人工知能の現状や問題点について簡単に解説しました。
この記事で取り上げた内容は2019年現在の状況ですが、私達が既にSFの世界に片足を突っ込んでいるというのは、おわかり頂けたのではないでしょうか？
人工知能は上手く活用・共存できればとてもありがたい存在である一方、間違った方向へ傾くとかつてないほどに危険な存在でもあります。
今回取り上げた心配事の数々が杞憂となるよう、私達は注意深く技術の発展を見守っていかなければなりません。

[2019年6月25日アップデート]