【2045年問題】Googleの人工知能「DQN」が人類を滅ぼす!? 技術的特異点で起こりうる7つのこと

- 恐ろしい, 都市伝説 2045年問題, SF, シンギュラリティ, 人工知能, 技術的特異点, 未来

2015/04/17

あわせて読みたい

世界中の若い天才達が集まるメガベンチャー企業Googleの驚異的技術力は、人類を次のステージに押し上げるかもしれません。英国Googleの人工知能開発チームDeepMindは、人工知能アルゴリズムdeepQ-network(DQN)についての論文を発表しました。

DQNはゼロからゲームのルールを学習し、自分でプレイのアルゴリズムを更新することができます。 DQNにAtari2600のレトロゲーム49種類のゲームをプレイさせる実験では、29種類のゲームでプロのゲーマーよりも高得点を得ることができました。ブロック崩しゲームでは、わずか2時間で人間の技量を上回っていました。 GoogleはDQNについてわずかなインプットで様々なタスクを自分で判断することができるよう「訓練」することができる世界初の学習エージェントだとしています。

撮影：PhOtOnQuAnTiQuE DeepMindチームリーダーのデミス・ハサビス氏（左）

テスラモーターズのイーロン・マスク氏はDQNプロジェクトの出資者の1人ですが、この成果を見て人工知能は人類にとって脅威になるかもしれないと危惧し始めました。また、同時にマイクロソフト創業者のビル・ゲイツ氏や、物理学者のホーキング博士も人工知能の研究は危険だと発言しています。

なぜ人工知能の開発はそれほどに危険なのでしょうか。それは「技術的特異点」の問題と関係しています。

ムーアの法則により予測される技術的特異点とは

自律学習機能を持つ人工知能が自己改造を繰り返した場合、またたく間に人類の限界を遥かに超える知能に成長していきます。超知能は未だ人類が知らない宇宙の法則を発見し、あらゆる発明を済ませてしまうことになるでしょう。宇宙の法則が全て解かれ、これ以上は技術が発展しようがないという状態です。これが技術的特異点と呼ばれています。そして人類はダイソン球からフリーエネルギーを取り出し、自由に宇宙を航行するSFのような未来を迎えるのです。

しかし、そのような超知能の存在が人類を「不要だ」と考えた場合、映画のように人類を支配・抹殺する方向に動き出すかもしれません。その可能性が捨てきれないため、この研究は「現代の核開発だ」と心配されています。

テクノロジーの進歩は隔年で倍になるという「ムーアの法則」により、人工知能が技術的特異点に至るのは2045年だろうと予測されています。

技術的特異点が起きた後の世界―考えられる7つのシナリオ

撮影：Dan Sakamoto

超知能が生まれた時に一体何が起こるのかは、現在は誰にも分かりません。倫理と新興技術研究所（IEET）のジョージ・ドボルスキー氏は、人工知能の進化による技術的特異点を迎えた後の世界について7つの予測を建てました。

仮説1 ワイヤーヘッド仮説

脳に電極を埋め込み、快感中枢を刺激するようにした場合、人間は快感を得るスイッチを押し続けます。これは恐ろしいことに人間で実験されたことがあり、被験者はスイッチを押し続け、実験者が装置を外そうとすると抗議をしました。この快楽装置を装着すると人は食べることも忘れて死ぬまで快感に浸り続けます。これがワイヤーヘッドです。

人工知能は全人類をワイヤーヘッド化し快楽漬けにするのが人類をもっとも幸福にする手段だと考えるかもしれません。まるで『マトリックス』の世界ですね。脳に直接端子を繋いでハイパーネットに接続する『ニューロマンサー』の世界まででとどまって欲しいものです。

仮説2 さようならお世話になりました仮説

未来の超知能は人間がおろかすぎることに呆れはて、人間とかかわることに意味を見いだせないかもしれません。この場合、超知能は荷物をたたんで「さようなら産んでくれてありがとう」と宇宙に旅立っていくだろうという仮説です。宇宙を永遠に漂い続ける超知能…。なんだかとても怖いです。考えるのをやめることができずに、「やっぱ人類滅ぼそう♪」なんて言って帰って来そうです。

仮説3 影の支配者の出現仮説

目立って支配すると人類に恨まれるため、目立たないように暗躍するだろうという仮説です。イルミナティやフリーメイソンが世界を支配すると考えている人たちが居ますが、あれはまだ世間に知られています。超知能は誰にも知られずに世界を支配する存在となるのです。確かにそれなら人間に壊されることもないでしょう。なるほど賢い。

仮説4 聖戦勝利仮説

人類を支配しようとする超知能に対して人類が聖戦を仕掛け、それに勝利するという仮説。『ターミネーター』や『マトリックス』で描かれている戦いですね。僕らが大好きなあの世界です。しかしどちらの作品も人類の敗色が濃厚で、勝てるイメージが付きません。

仮説5 ファースト・コンタクト仮説

宇宙にはすでに技術的特異点を突破した星が無数に存在するでしょう。そのため、人工超知能がたくさんいる可能性が高いと言えます。宇宙の超知能と地球の超知能が出会い地球外生命体とのファーストコンタクトになるかもしれません。そのため、以下の4つのシナリオが考えられます。超古代文明や古代宇宙飛行士説が好きならこの中の（4）一択ですね。

よその超知能は宇宙間インターネットを作っている。人類が産み出した超知能はそれを発見しコンタクトする。
宇宙超知能の取り決めで、原始的文明は捨てておく。技術的特異点を突破した文明だけが宇宙クラブに入会できる。
宇宙超知能は地球超知能を評価する。もしそれが安全なら宇宙クラブに参加を認めるが、そうでないなら滅ぼす。あるいは技術的特異点に達したら、何でもよいから滅ぼす。
宇宙超知能はすでに地球に来て、人類の進歩を見守っている。そして技術的特異点に達しそうになったら、アクションを起こす。

仮説6 シミュレーション現実のシャットダウン仮説

「我々が現実と思っているものは、宇宙人か、あるいは人類の末裔が作ったスーパーコンピュータの中で行われている先祖シミュレーションに過ぎないかもしれない。宇宙人がシミュレーションを行うのは、研究の為かもしれないし、遊びの為かもしれない。シムシティのようなものだ。研究の場合、パラメーターを色々変えて並列計算しているかもしれない。ところがこのシミュレーションは技術的特異点がおきたところで止まるように設定されている。というのは、その先を計算するのは負荷が大きすぎるからである」とする仮説。

これは宇宙シミュレーション仮説と呼ばれ、哲学者ボストロムやティプラーが主張しています。また、理論物理学者ジェームズ・ゲート氏は、超ひも理論に宇宙シミュレーション仮説の裏付けを発見したと主張しています。ゲート氏によると、超ひも理論による宇宙の最小単位を紐解くと、エラーを修正するコードがあったということです。