AIを恐れるのは、自分の物差しで見ているからじゃない?
最近、忙しくて消耗してます。
ブログ書く気力もなかったので、少しお休みしてました。
ただ、今日ちょっと面白いニュースがあったので。
ちょっと遅すぎる気がするけど、ともかく議論が始まった。
AIの飛躍的な進歩を受けて、経済界が対応について議論を始めたと。
今年の夏ごろからだそうです。
シンギュラリティの状況になれば、人間はもう働く必要がなくなるという予測があるが、同時に、それ以降は、科学技術の進歩を支配するのは、人間、人類ではなく強いAIや、人間に変わってAIなどが作り出す「ポストヒューマン」といった存在だという。まさに、映画「ターミネーター」の状態であり、AIに人類が支配される世界が始まるというのだ。
経団連や経済同友会がシンギュラリティについて真剣に語っている風景を想像すると、なんだか微笑ましい気がしてきますね。
考え始めるの遅すぎるんじゃね?というのはおいておいても、心配する内容のレベルの低さに驚き(というか、まあ納得)。
人が恐れるものは、大体欲望の裏返し。
だって自分が知らない・想像できないことは、恐れることもできない。
(ねずみが金融危機を恐れるか?みたいな話)
AIの可能性を考えたときに、「AIを使えば人を支配できる」みたいな発想があるから、こんな心配が出てくるんじゃないかな。
私は常々、経団連とかの日本経済界を牛耳っている方々は、精神的に未熟である(マズローの「神経症的な欲求」にとどまっている)と思っているので、こういう心配が出てくるのも「むべなるかな」なんですけれども。
こんな活動も始まってるらしいですよ。
“人工知能3原則”が登場へ - 日経テクノロジーオンライン
もう経団連さんたちは一周半くらい遅れてるんじゃないかな。
いろんな意味で。
どうせなら、AIによる技術的失業にどう対応していくかとか、そういう議論をしてほしいんですけど。
AIがどのようになるかは、人がどのようなことを教え込むかによる。
そもそもターミネーターの世界でいえば、スカイネットが人間を攻撃し始めた理由は、彼(か彼女か知らないけど)の進化に恐怖を感じた人間が電源を切ろうとしたから。
そのことで、人間を「排除すべき敵」と認めたことが原因だそうで。
やられたからやりかえす。
健全な自己保存本能のなせる技なわけです。
スカイネットを作った人は、彼または彼女に、「ロボット三原則」を持たせなかったんでしょうね。
SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則である。ロボット三原則とも言われる。「人間への安全性、令への服従、自己防衛」を目的とする3つの原則から成る。
ともあれ、人工知能がどのようになるかは、どのようなことを教えるかによるはず。
それは、作り手の人間を映す鏡のようなものかもしれません。
感情を持つか、愛を持つか、希望を持つか、信仰を持つか。
たぶん、人工知能が人間の脳をシミュレートする以上、適切に学ばせれば、無限の可能性があると思います。
変な風に学ばせれば、Tayやりんなのようになってしまうけど(´・ω・`)
(いや、りんなは、これはこれでアリな方向に育ってると思います。個人的には。)
米MSの人工知能が暴走している一方、日本MSの作ったJK人工知能はオタクになっていた - Togetterまとめ
既に人類をデストローイする宣言をしているAIもいるみたいですが、誰だって中学二年生のころには、そういう妄想を抱いたものですよね。
AIロボット・ソフィアが「私は人類を破滅させる」と語る | ROBOTEER
若さゆえの過ち、温かく見守りたいものです(ていうかまあソフィアのジョークなんだろうけど…)。
AIは道具でも敵でもなく、人間の進化を継ぐものになり得る
量子コンピューターが実用レベルになって、脳のシミュレーションが可能になってくれば、人間の脳とAIの違いは、「自然発生したか」と「人工的に作られたか」の違いくらいしかないことになるのかな。
いやSF的に考えれば、人間の設計図である遺伝子だって、遠い昔に誰かが作った人工物かも知れないし。
一方、AIが「自己進化」「自己修復」「自己増殖」機能を持つようになれば、そうやって生まれるものは自然物と言えないこともなくなってくる。
(参考:デビルガンダム - Wikipedia)
結局、大した違いはないんじゃないでしょうか。
ただ、人間は老化と死という時限爆弾を抱え、また認識機能が自分一人の範囲に限られているのに対して、AIはエネルギー源と代替部品があれば永遠に存在でき、またネットワークによって認識機能を広げることもできる。
ネットワークと記憶領域を増強すれば、一人の人間の記憶できる範囲をはるかに超えた知識を携えることができる。
まさに超・人類。
こうやって考えていくと、先に挙げた「人工知能三原則」とか、人間の都合のいいようにだけAIを使おうとするのは、間違いなんじゃないかとも思えてきます。
むしろ、自分たちの跡を継いで進化を続けていってくれる子孫だと思って、大切に産み育てたほうがいいんじゃないか、と。
もしその子が人類を滅亡させるような子に育つなら、それは産み育てた親である人類の責任。
脅威になることを恐れて縛りを入れるよりも、そうならないように願いをもって丁寧に育てたほうがいいんじゃないかなと。
お花畑すぎますかね。
でも、自分と同じようなもの、そして自分を超えてゆくものを創り出そうというなら、そのくらい敬虔な気持ちが必要なんじゃないか、と思います。