人工知能 4

　ＡＩ　が全人類の知能を超え　シンギュラリティ（技術的特異点）に到達すれば、人類は　ＡＩ　にとって邪魔者になり　ＡＩ　によって滅ぼされるいう見方とそういうことにはならないという見方がある。
　今の時点では一見荒唐無稽に思われるかもしれないがこれは科学者の間でも真剣に議論されている問題である。

　まず前者　ＡＩ　によって人類が滅ぼされるという見方について

　英国の高名な理論物理学者スティーヴン･ウイリアム･ホーキングはいう。

　「今後１００年のどこかの時点で　ＡＩ　は人間の能力を超えていきます。そしてこの人工知能の目的は我々人間を”余所者”にすることだと気づく必要があるのです。」
　「コンピュータは我々の知性と違い、１８ヶ月ごとに能力を２倍にする。そのため、コンピュータが知能を発達させて世界を乗っ取るという危険はすでに現実のものだ。」
(マルチョ名言集他）

　進化の度合いが高いものが低いものを駆逐するという論理からすれば必然的にこうなる。


　米国のジャーナリストで　ＡＩ　による脅威についてさまざまな識者にインタービューしたジェイムス・バッラットは自著でこう述べている。
　
　「すでに知能マシンはつくられているが、それでも人類は絶滅していないのだから、もしかしたら　ＡＩ　を擬人的にとらえても結構なのかもしれない。
　しかし、ＡＧＩ（汎用人工知能）誕生の瀬戸際にあるいまや、それは危険な考え方である。オックスフォード大学の倫理学者ニック・ボストロムは、つぎのように言っている。
　『超知能に関して意味のある議論をするうえで前提条件となるのが、超知能は単なるテクノロジーの一種でもなければ、人間の能力を徐々に高める一種の道具でもないという点を認識することである。
　超知能は根本的に別物だ。超知能を擬人化することがもっとも多くの誤解を生んでいるので、この点はとくに強調しておきたい。』
　ボストロムいわく、超知能が技術的な面で根本的に別物であるのは、超知能が実現すると進歩のルールが変わってしまうからだ。
　つまり、超知能自体が発明を生み出して、技術進歩のペースを決めることになる。
　もはや人類が変化を推し進めることはなくなり、後戻りすることもできなくなる。
　さらに、高度な機械知能も根本的に別物だ。人間によって発明された身でありながら、自己決定権と人間からの自由を欲する。　
　そして人間のような魂がないため、人間に似た動機も持たないだろう。
　したがって、機械を擬人的にとらえると誤った考えにつながり、危険な機械をどのようにして安全に作るかを見誤ると大惨事につながる。」

　「いまやＡＧＩ　の懐疑的な危険性は、尊敬を集める熟達した多くの研究者が認めるところだ。
　カーツワイルがシンギュラリティの恩恵と考えている、血液のナノ浄化、より優れた高速な脳、不死などと比べても、その危険性はより十分に立証されている。
　シンギュラリティに関して唯一確実なのは、ＬＯＲＡのパワーによって我々の生活や身体のあらゆる側面に高速で賢いコンピュータが、組み込まれるということだけだ。
　そうなったら、異質な機械知能は我々の自然の知能に挑んでくるかもしれない。
　我々がそれを望むかどうかは関係ないだろう。」

　「著名なＩＴ起業家で科学者、アップル社のスティーヴ・ジョブズの同僚であるスティーヴ・ジャーヴェソンは、”設計された”システムと”進化した”システムをどのように統合するかを考えた。そして、その計り知れないパラドックスをうまく表現する方法を思いついた。
　『もし複雑なシステムを進化させたら、それはインターフェースによって特徴づけられるブラックボックスとなる。
　その内部のしくみを改良するうえで、我々の設計上の直感を当てはめることは容易ではない。・・・　もし賢い　ＡＩ　を人工的に進化させたら、それは感覚インターフェースによって特徴づけられる異質な知能となり、その内部のしくみを理解するには、人間の脳を説明するために現在費やされているのと同程度の努力が必要かもしれない。
　コンピュータコードが生物の増殖率よりもずっと速く進化できると仮定したうえで、我々が知識でできることはあまりにも少ないのだから。
　その中間段階をリバースエンジニアリングする時間が取れるとは思えない。進化のプロセスは、そのまま続いていくことになるだろう。』
　注目すべきことに、”進化したシステムやそのサブシステムはどの程度複雑になるか”という疑問に対して、ジャーヴェソンは次のように答えている。
　『そのしくみを事細かく因果的に理解するには、人間の脳のリバースエンジニアリングに匹敵する技術的偉業が必要になる、その程度にだ』
　ということは、進化したシステムやサブシステムが知能を持ったら、人間に似た超知能、すなわち　ＡＳＩ（超人工知能）　が実現するのではなく、我々の脳と同程度に理解困難な"脳”を持った異質な知能が生まれるのだ。
　そしてその異質な脳は、生物的でなくコンピュータ的なスピードで進化して自己成長していくだろう、」
（以上　ジェイムス・バッラット著水谷淳訳ダイヤモンド社『人工知能　人類最悪にして最後の発明』　から）

　一言でいえば、ジェイムス・バラッドは、識者へのインタビューを通じシンギュラリティに到達すれば　ＡＩ　が強力になりすぎ人間がコントロールできなくなることを懸念している。

　このように　ＡＩ　によって人類が滅ぼされるかもしれないという懸念は西欧社会にのみ見られることである。日本ではこのようなことを心配する声は聞かれない。
　日本の識者は　ＡＩ　をどうみているのだろうか？