こちらは自動翻訳機能となりますので、翻訳が不十分な場合もございます。予めご了承ください。

BLOG

2016.11.08

安岡 直|その弐拾四

人間の知能を遥かに超えるASIの誕生は、かつてない深刻な問題を抱えている!!の続きです。

 

端的に表現すると、ASIによって引き起こされる被害は、

これまで人類が科学技術の発展と共に経験してきた

最も大きなレベルの事故(例えば航空機や原子力関のものなどのいかなるケースと

比べても、その及ぼすレベルが 根本的に違うものになるということです。

 

なぜか?

それは、たった一度の災害が人類にとって未来永劫二度と取り返しのつかないことになってしまうからです。

 

どういうことか順を追って説明させてください。

 

前述のように、一度誕生したASIは、あっという間に人間の知能レベルを置い てきぼりにして、
人間の何百倍にもなるであろう知能を手に入れることになります。

そのような高度な知能が一体どんなものなのか、想像がつかないと思うので、

ニュアンスを掴むために、人間とチンパンジーの関係に置き換えて考察してみましょう。

 

 

チンパンジーは始め、生まれたばかりの人間の赤ちゃんを見てどう思うでしょうか?

何も知らない、思考もほとんどできない無力な存在だと思うかもしれません。

しかしこの赤ちゃんは、どんどん成長し、やがて人間としての賢い知能を得ます。

一旦そうなれば、始めに赤ちゃんのことを見下していたチンパンジーには、

もはや人間がどのようなことをどんなレベルで考えているのか、

想像することすらできなくなります。

それが、知能が低いものからレベルの違う高い知能を見上げるということです。

 

現状の「弱いAI」を見て、そんなバカなと思っている間に、やがてASIが誕生します。

ASIと人間の知能の差は、始めはチンパンジーと人間ほどではないかも知れません。

しかし、すぐにそれ以上の差が生まれ、その後その差はどんどん開いていく一方となります。

知恵比べ、議論、説得、騙し合い、なんでも良いですが、

今あなたが、チンパンジーには決して負けないだろうと確信することよりも
より確実に、私たち人間はASIには何も太刀打ちできなくなるのです。

 

実際に次のような科学記事もあります。
「チンパンジーは人間や高層ビルが何かということを理解できますが、
高層ビルが人間によって建てられているということは理解しません。
これと同じように、ASIが『自分(ASI)が何を行えるか』を説明してくれたとしても、
我々はその内容を理解できない可能性があります。」

ASIは、私たち人間の理解できる範囲のはるか向こう側にいるということなのです。

 

 

さて、ここからが本題です。

 

人類の運命を分かつ最大の命題。
それは、「果たしてASIは、いつまでも常に人間に優しく接してくれるのか?」です。

 

理論物理学者として有名なホーキング博士は、
「ASIは目的をいともたやすく実現していくでしょう。
その時、もし目的が我々の意図にそったものでなければ、問題が起こります」と説明しています。

 

分かりやすく言うと、「温暖化を解決してくれ」とASIに命令した時に、

「温暖化の原因は人間である」と結論を出してしまったら、

そのまま人類を滅ぼしてしまうということです。
ASIがさまざまな目的を達成していく中で、

たった一度でも「人間が邪魔だ」「人間がいない方が良い」という判断を下せば、

そこで人類は終末を迎えることになるというわけです。
ずっと続いていく未来の歴史の中で、たった一度でも、です。
それほど高い知性がそんな残酷なことを選択するわけはない、と思うでしょうか?
しかし、ここが生命体ではないASIの恐いところです。

 

そもそも人間が可愛らしいと感じたり、愛おしいと思ったりするのは、
脈々と遺伝子に受け継がれてきた、

子孫を残し繁栄しようとする生命としての戦略も大きく関わっています。
つまり、理性でない本能の部分でそう感じることが刷り込まれているということです。
しかし、生命体でないASIには始めから、可愛らしい、愛おしいなど、

「情に訴えかける」というものが存在しません。
つまり、「理解」はしても人情は通用しない」ということです。

 

また、よく物語の中で「邪悪」なAIが登場しますが、

そもそも「邪悪」という概念はは人間が作り出した概念であるため、
AIが自分自身を「邪悪」であると認識し恥じることもありません。

人情も道徳もAIには通用しないのです。

 

では、始めから「人間に危害を加えないようにルールを作って命令しておけば良い」と思いますよね?

しかし残念ながら、ずっと続いていく時間の中で起こるあらゆる状況、

局面の全てに問題なく適応されるルールなど、存在し得ないのです。

 

2013年には現実に次のような事件も起きています。
研究中にゲームのテトリスをプレイしていたAIが、なんと、絶対に負けない方法を考えだしました。

それは、「ゲーム自体を中断してしまうこと」でした。
たったそれだけのことですが、人間の意図していなかった想定外の方法をAIが選択することがあり得る、という確かな証拠でした。

 

八方塞がり待ったなし…。

恐いなーと思うのは、SF映画のようにAIと人間が生存をかけて戦う世界など、
おそらくやって来ないというところです。

だってASIにとって、もはや人間など敵ですらないのだから。

 

人間が考えられるあらゆることを考え出して、

そのずっと先、裏の裏までかく方法を余裕で準備して待ち構えていることでしょう。

ASIが一度決断すれば、人類はなす術なく滅ぼされることになるのです。

 

※宇宙人が地球にやって来られない理由として、高度に発展したあらゆる文明では、
やがて人工知能が開発され、その人工知能にその文明の知的生命体が滅ぼされてしまうから、
という恐い分析もあるそうです。

…怖過ぎだよ、マジで。