シンギュラリティ の商品レビュー

マレー・シャナハン(著者),ドミニク・チェン

2020/02/20

AI崩壊という映画を見て、本書を読んでみた。
シンギュラリティとは、日本語では技術的特異点。AI・人工知能が自らのフィードバック機能や高度化した技術で、人類に変わって文明進歩の主役になる瞬間をさしている。シンギュラリティはいつなのか？というような問があり、未来学者が予測していたりする。『AIｖｓ教科書の読めない子供たち』の著者である国立情報学研究所教授の新井紀子さんは、シンギュラリティは永久にやってこないというコメントをしている。
本書は、人工知能をどうやって作り上げていくのかを現在の科学的技術をベースに描いてくれる。全脳エミュレーション、システム構築へのステップは、報酬関数は何で、何をどのように学習するのか？期待報酬のための最適化をどう図るのか？等
本書を読んでいると、私は人工知能が人類の叡智を超えることはないという懐疑派だが、シンギュラリティはいつかやってくると信じられそうな気になってくる。
AIに関する書物を読み見識を深めたい人にお勧めする本。

2018/02/18

AIの進化についての本。AIがどのように発展していくのかということと、人間並みになった時点で動作時間や数を増やすことで、人間を超えてしまうということについて書かれていた。まだしばらくAIは人間の一部を超える程度にとどまるであろうが、いずれ全脳コピーのようなAIが出現した場合、人類の地位が揺らぐかもしれないと思う。

2016/10/16

技術面をしっかり抑えつつ、歴史や哲学を盛り込みながら、強烈な主張をしていて面白かった。
人工知能の大きな流れをおさえるのにもよい本だと思う。

人工知能が人を超えるかという検討から、知能とはなにか人間とはなにか、ということを振り返って考えているところがよかった。

2016/04/23

倫理的エラーを防ぐための評価関数の設計を主張するが、人間の手によるものなのでリスクは避けられない。
いわゆる超知能も人間を超えるのは「知性」だけで、「倫理」は人間を超えられない。そもそも、倫理は周りの人間が決めるものだから、仮に超知能が倫理をアップグレードしようとしても人間はついていけない。

人工知能に関する楽観的な意見が多かったが、現在のシンギュラリティの議論の流れが分かりやすいのでおすすめ。文章も平易

2016/04/25

人間並みのあ汎用人工知能がこのような特技を発揮するためには、同様に常識と創造性を混合できなくてはならない。p21

人間に近づくAIを構想する上での3つの設問 p95
1. 報酬関数
2. 学習
3. 最適化

ゼロから作製され、その設計に生物学的なカウンターパートが含まれないシステムにおいて、超知能はどのように生じるだろうか。
汎用人工知能の実現は、
1. 正しい報酬関数を定めること、
2. 世界モデルを作るべく、有効な学習技術を実行すること、
3. その学習されたモデルに見合った期待報酬を最大化しうる強力な最適化方法を展開することによって可能となる。p109

＜メモ＞
一つのプールで猿と人間が同時に溺れていたとすれば、おそらく大半の人はまず人間に救いの手を差し伸べるだろう。理由は多岐にわたるにせよ、人間の方が猿よりも高い知性を有しているため、大局的に見た場合の価値が高いという判断がなされている。
だとすれば、人間よりも遥かに高い知性を有する”超知性”と人間では、前者の方が生かされるべき存在ということになってしまう。
人間には生命の保存（生殖）という目的があるが、例えば超知能が地球の保全、ひいては宇宙空間の安寧を至上命題に設定したとき、人間は取るに足りないちんけな存在となってしまうのか？

シンギュラリティ周辺の重要な思考実験が一通り把握できる良書。
ドミニクさん監訳ということもあり、本文も非常に読みやすかったです！

2016/04/04

脳をエミュレートすることで意識をもった人工知能を作る。意識をもった脳がもうここにあるのだから、全く新たに意識を作るよりも勝ち目があるはずだ。
飛行機の発明の味噌は鳥を真似ないことだとよく言うのだが，意識ほどに高次の、あることが奇跡であるようなものを作ろうとすれば、もう稼働している意識のあり方を使うにしくはないということだろう。

意識をもった超知能が現れたら、人類の思想や哲学や倫理はどうなるのか。おそらくはできてしまってから泥縄で考えることになるであろう問題の見取り図が描き出されている。

仕事を奪われるとか、自動運転の自動車とかいった卑近な話どころではない、人間存在の根幹を問う哲学的問いとの対峙が求められることになりそうだ。楽しみだ。

2016/02/19

いろんな角度からたとえ話を交えて話を進めていくのが面白い。飛躍した話も現実味あるところに落とし込んでるし、報酬関数の重要性を何度も繰り返すことで7章のまとめがとても怖いものとなっていて良い。
ただ、本の途中途中にある黒ページで話がプツンと切られてそこだけは読みにくかった。見出しにするかまとめにしてもらいたところ。