人工知能 の商品レビュー

ジェイムズ・バラット(著者),水谷淳(訳者)

2015/08/07

人工知能の危険について多角的に論じた本。人工知能を専攻する身としては一応危険については知っておこうとおもって読んだ。

2015/08/01

　SiriやPepperなどの人の声に反応して動く機械は実装されている。
　また、将棋やチェスなど、一分野において人を超える能力を持つコンピュータは既に存在する。
　この本の主旨は、人工知能が人類を滅ぼす可能性があると言うこと。
　は？　え？　なに言ってるんですか？ってなるけど、１章を読み終える頃には「論理的にそれはそうだ」ってなる。

　AIやロボットに関しては、アシモフのロボット工学三原則を実装すればいいという人が居る。
　簡単に言えば「人間に危害を加えてはならない」と言うもの。
　けれども、どうやったら人間とそれ以外を区別出来るのだろうか。
　人間が予測しないような事故が起きる世の中で、どうやったら人工知能は危害を加えずに居られるのか。
　そもそも、人間が抑も予測出来てない時点で無理だということは明らかである。

　また、人間そのものの成り代わりのAIではなく、単一のチェスなどの目的を達成するためのAIを開発する場合、目的を効率よく達成するために学習し、進化するように作られているのでは無かろうか。
　そうして、AIが目的を果たすために人間が邪魔だと認識した場合、それをどうやって止められるのだろうか。
　最初からアシモフのロボット工学三原則を……と言うけれど、AIを設計した時点では人間が邪魔になるなど、予測しうるものでは無い。
　スタンドアロンならば問題が無い……のかもしれないけれど、ネットワークに解き放たれ、電源やサーバなどのリソースの管理までもAIの管轄となった場合、ライフラインに関わるリソースにAIが手を出さないようにすることは、制限事項として可能なのだろうか。

　チェスならば問題が無いと考えるかも知れないが、そもそも、AIに一番お金を出しているのは国家で有り、軍需産業である。
　武器や兵器は、さまざまな自動補正機能を有して居るが、無人ドローンが兵士の代わりに武器を持ち、潜入する未来なんてのは、実はもう行われているのかも知れない、とも思ってしまう。

　ちなみに、世の中にはびこるコンピュータウィルス、マルウェア等はいま、自発的にウィルス検知に引っかからないように進化しているらしいです。
　そして、数だけで言うならば、世の中にあるソフトウエアの9/10は悪意のあるプログラムだ、とも。物理的では無いにしろ、これらの悪意のあるプログラムが、自律し、進化する未来があるとしたら、相当に怖い。
　情報漏えいとか言ってる場合じゃない、ライフラインのコンピュータを暴走させてハングアップさせればいいだけならば、現代でもクラッカーにも可能である（さまざまな物理的要因により阻害されているけれど）。
　ネットワークに散らばっている有象無象のウィルスたちが、細胞のひとつひとつのように有機的に結びついた未来とか怖くて死ねる。

　効率より極力セーフティな設計思想に方向転換しない限り、AIの発達する未来は、人類の繁栄と共存しない可能性がある。

　AIが恐ろしい理由は、人間とは異なるから、そして、我ら人間は人間を起点としてしかものを考えられないから（当たり前です）、言わずとも分かるようなことはプログラミングしない。本能とかそういうもの。さらに言うならば、人間がどうして生きているのか、科学的に解明はされていない。
　分からない物をプログラミング出来る筈もない。

　ちょっとしたディストピアもののSF読んだ気持ちになれた。
　面白いが、プログラミングをかじったことのある人なら、１章読んだだけで、「AI怖い」ってなるけれど、全く門外漢の場合、カタカナやらアルファベット略称の専門用語多すぎてついて行けないかもしれない。技術者たくさん出過ぎです。
　SFスキー、ITスキーにはオススメする。

2015/07/09

HONZ訳者あとがき
2014年末に『タイム』誌　AIによる人類滅亡を論じる重要な識者5人　ホーキングやマスク、本書著者ジェイムズ・バラット
AIに関する楽観論と悲観論