LIFE3.0 の商品レビュー

マックス・テグマーク(著者),水谷淳(訳者)

2021/06/15

本書で言うライフのバージョンの定義は、以下の様なものらしい。
1.0 生きているうちに自らのハードウェアもソフトウェアも設計し直す事はできない。どちらもDNAによって決まっており、何世代にもわたる進化によって変化するのみ。
2.0 自らのソフトウェアの大部分を設計し直すことができる。（人間）
3.0 自らのソフトウェアだけでなくハードウェアも大幅に設計し直すことができ、何世代もかけて徐々に進化を待つ必要はない。

著者は、マックス・テグマーク氏。MITの教授で、理論物理学者という肩書きを持つ。AIの安全な研究を推進するための非営利団体FLI Future of Life Instituteの共同設立者。肩書きも活動も素晴らしいのだが、本書を読むと逆に何かを感じてしまう。未来予想って、天才の十八番と言うか、自説への誘導みたいなのも感じてしまうのだ…
きっとこの本は、20年後、30年後に評価がはっきりする類いの本だと思う。

対象とする読者は、AI好き、未来予想好きの人かな。500ページ弱の分量を最後まで読み切れるのは。

2021/03/12

2021-03-12
最初の定義ではLIFE3.0は「世代によらないソフトウェアとハードウェアの更新」のはずだったが、いつのまにかハードウェアのことは置き去り。ああ、万能合成能力がそれに当たるのか。
いずれにせよ、「スーパーインテリジェンス」を読んだ時の居心地の悪さはこの本を読むことで解消された。最悪を想定しつつ最善を祈る。うん、共感できるよ。
読む人によっては話がワープしてると感じるかもしれないけれど、自分には地続きだった。後半なんでも「かもしれない」になるのは、仕方なかろう。

2021/03/11

ＡＩの未来に関する議論にはどういうものがあるか知りたい人におすすめ。

【概要】
●ＡＩとともに生きる生命の未来
●ＡＧＩに関するシナリオ
●宇宙の話
●ＡＩと人との目標
●意識とは

【感想】
●訳本は理解しにくい。書かれている日本語の意味が通らない。英文とともに照らし合わせて読むと理解しやすいのだろう。
●ＡＩの暴走の話がよく取り上げられるが、そのようなＡＩを使用しなければよい話だけだと思う。例えば、今の旅客機よりも２倍速い旅客機を開発したが墜落する可能性が何倍も高くなるとしたら、誰もその旅客機には乗らず現用で十分だと思うだろう。
　それと同じであって、危険だとわかっているようなＡＩを開発できたとしても、それを使用せず、危険に至らないレベルのＡＩを使用するにとどめておけばよい話である。と考えるとすべては馬鹿げた議論であり、単に人が食いつきやすい本を売って儲けることが目的ではないかと思えてしまう。

2021/01/08

我々は、以前は自らのソフトウェア、ハードウェアを設計できない、生き延びて複製するだけだったが、人類が生まれた後自らのソフトウェアを改良できるようになって急激に文明を発展させてきた。現在、自らのハードウェアを設計できるようになりつつあるという点で生物としてライフ3.0という段階にあると言える。現在AIについての立場として、デジタルユートピア論者、有益AI運動の活動家、技術的懐疑論者の３つに大別できる。そして、いつか超知能が開発された時、超知能は宇宙をも取り込み、それによってどのようなことが起こるか考えてみると、人類の望まない取り返しのつかない結果になる可能性がある。そのようなことになる前に、人類として、ホモ・サピエンスではなく、ホモセンティエンスとして、どのような取り決めをするかを一体となって考える必要がある。そのためには、意識とは何かという問題を考える必要もある。その問題は大変難しいが、三層的に捉えることができて、一つ目は科学的な検証ができるが、残りはそれすらもわからない。いずれにせよ、意識が宇宙に意義を与えていると言えるので、意識を維持する必要がある。現在、急速に安全性についての合意がなされていて、中心的な研究テーマにもなった。人類として留意の伴う楽観論者になることがよりよい未来を創ってくれる。

まず、やはりマスコミの報道はいつも多数の意見から外れているのだと改めて思わされた。AIの進化は、宇宙をはじめとした物理学とつながり、本質的に人類の中心的な問題、むしろそのものになってくるのだと知った。安全性について、進化の妨げとして自分はあまりいいイメージを持っていなかったが、安全性への合意が進めば、さらによいものが作られるのだと思った。AIに関することでなくても、留意の伴う楽観論者になることは大切だと思った。

2020/12/16

安全なAI。人類の絶滅につながらない明確に定義された究極の目標を、どのように超知能AIに持たせればいいのか。

2020/11/17

タイトルに惹かれて手にとってみた。最初に断っておく必要があると思うのだけど…難しくて半分も理解できなかった…にも関わらず魅力的で凄く気になっている作品。作者は宇宙物理学者でAIの専門家ではないのだけれどAIの安全性というテーマについて国際的な議論をリードしている人らしい。AIに関してはシンギュラリティなどは来ずあくまで道具に過ぎない、という意見もあり自分はそちら側の見方をしているのだけど本作ではAIはかなりの可能性を持っっている、という前提なのだと思う。その前提で将来のシナリオを検討していく、というのが大まかな本作の内容。したがってこんな未来は来ないよな、と思いつつ読み進めていったのだが宇宙を対象に研究されているからか議論のスケールが大きく、億単位の将来にまで論が及ぶので章ごとにどんどんついていけなくなって、という読書体験。しかし分からないなりにページを眺めているだけでも何かとてつもなく重要なことが書かれている気がして気になって仕方がない。行ったり来たりしながら読まないと分からないので電子ではなく紙の本が良いだよろう…とか再読を検討中。もう一回読んでも分からないかもだけど（笑）こういうの一回読んだだけでぱっと分かる人もいるんだろうな…。自分は三回くらい読めばもう少し内容が理解できるかも知れない…。半分も理解できなかったけれど凄く面白かった。

2020/10/30

前半はAIが人間を超えたときのいくつかのシナリオが示されていて面白かった。後半は、超人化したAIが地球規模ではなく宇宙規模で広がり、物理法則の限界と鬩ぎ合う（宇宙に従うだけでなく宇宙を変えようとする）という見方で、やや突飛な話に聞こえた。最終的には悲観よりも楽観であれ、というよくわからないメッセージで終わる。

2020/07/28

人工知能（AI）が人類を超えたときに何が起こるのかシナリオを提示し、人類として何をすべきかを説く本。

恐ろしいシナリオもあれば幸せそうなシナリオもある。そもそもAIが人間を超える時期が来るのかさえも論が分かれるところでもあるが、AI学者の間では、いずれシンギュラリティが到来するという意見が多数のようだ。その状況で、人類がAIに支配されたり絶滅されたりしないように、今から何をすべきかAIの安全性について説明している。AIだけでなく宇宙の視点で生物や意識について説明し、生物を再定義しつつ、そこからAIと人間の関係につなげる。これだけだと突拍子もないことのように思えるが、具体的なシナリオなどが提示されるので、分かりやすい。

簡単な本ではないが、自分や子孫がAIと平和な生活ができるように願っているのなら読んだ方がよい。

2020/02/18

難しすぎてよくわからなかった…。

知能は複雑な目標を達成する能力
知能≠IQ
子供にすすめる仕事
・人と関わり、社会性が高い
・創造性が高く、賢い解決法を必要とする
・予想できない環境に対応する
仕事と関係なく生きる目的を持とう
・友人､同僚
・健康
・敬意、自尊心
・必要とされる
・貢献している

速読ではこのくらいしか拾えなかったけど、熟読しても私にはちょっと難しそう…。
いや、でもタイトルがホントかっこいいよね。

2020/02/15

興味をそそる魅力的なタイトルの本だ。たしかに、プロローグのＳＦじみたＡＩの架空物語は面白いし、前半の方のＡＩや知能に関する歴史・知識やＡＩの安全性を（ＡＩによる知能爆発が起こる前の）現時点で研究しておかなければならないというミッションについてもよく理解できる。また、広い宇宙の中で知的生命体は（地球上の）我々だけかもしれないという考えや、そうであれば我々が存在しない宇宙（つまり、宇宙を観察する意識のない宇宙）は意義のないものではないかとか、人類が太陽系、銀河系あるいは宇宙の果てまで進出すべきでという発想もワクワクする。
しかし、ミクロのレベルでは（ＡＩによる知能爆発により）１つ１つの原子（やクオーク）をコントロールしてあらゆる物質を作ることができるとか、マクロのレベルでダイソン球だのブラックホールからのエネルギー抽出などという話になると、架空を超えて妄想とかＳＦでしかない。たしかに、著者の科学知識は非常に豊富で、チャンドラセカール質量に触れるなど一見科学的だが、（宇宙の）ある地点の星かコロニーを支配するために近くの大きな恒星にチャンドラセカール質量に達するだけの質量を放り込むといって脅す、などというのは荒唐無稽としか言いようがない。
というわけで、そういう無意味な知識のひけらかしのような部分を削って半分くらいのボリュームだったらよかったのに、と思わざるを得ない。