映画ターミネーターでは高度なAIが反乱を起こした未来について語られている。
映画ターミネーターでは高度なAIが反乱を起こした未来について語られている。 / Credit:TERMINATOR WIKI
artificial-intelligence

「人工超知能」が誕生した場合、人間が制御することは不可能… マックス・プランク研究所の検証結果

2021.01.17 Sunday
Max Planck Institute https://www.mpib-berlin.mpg.de/computer-science-superintelligent-machines?c=59062

現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。

>参照元はこちら(英文)

 

 

真面目に危惧されている「人工超知能」の反乱

人工超知能(superintelligent AI)とは、人間をはるかに上回る知性を獲得した人工知能として仮定されているものです。

世界を制御する人工超知能の存在は、単に空想科学小説の中だけの話に聞こえます。

しかし、現在の私たちの生活は、すでに多くのAIによって制御されており、今後ますます彼らに頼る割合は増していくだろうと考えられています。

当然、それに伴ってAIの機能も、日々進歩を続けており、すでにAI研究の中には、開発者がどうやって学んだのか完全に理解できない状況で、重要なタスクを独立して実行できるマシンが登場しています

今回の研究チームの1人であるマニュエル・セブリアン氏は、こうした状況の中で「これらのAIがいつ制御不能になり、人類にとって危険な存在になるかという疑問が生じた」と研究の動機を語っています。

人工知能が世界を覆うとき、それを制御することはできるのか?
人工知能が世界を覆うとき、それを制御することはできるのか? / Credit:canva

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できるようにしたと仮定しましょう。

そのAIがインターネットに接続すれば、おそらくほぼすべての人類のデータにアクセスできます。

そして既存のプログラムを書き換えて、世界中にあるオンラインのマシンすべてを制御できてしまう可能性が出てきます。

そのとき、世界はどうなるでしょうか?

偉大な知性を獲得したAIが、人類に脅威を与えないよう制御することは人間に可能なのでしょうか?

ドイツマックス・プランク人間発達研究所の国際研究チームは、理論計算を使用してその可能性を検証してみました。

彼らの出した結論は、「人工超知能を制御することは基本的に不可能である」ということでした。

次ページ人工超知能を停止させるパラドックス

<

1

2

>

AI・人工知能artificial-intelligence

もっと見る

Special

注目pick up !!