LIFE3.0 人工知能時代に人間であるということ

マックス・テグマーク(著者), 水谷淳(訳者)

• 販売会社／発売会社: 紀伊國屋書店
• 発売年月日: 2019/12/28
• JAN: 9784314011716

商品レビュー

2025/08/07

ー　基本的原理は多数ある。それは驚くことではない。なぜなら、今日まで存続しつづけてきた人間社会の多くが、存続と繁栄を促すという共通の目標に最適化された倫理的原理を持っているからだ。では未来に目を向け、数十億年にわたってこの宇宙全体で生命が繁栄する可能性を踏まえると、その未来に実現してほしいと誰もが願う最小限の倫理的原理とはどのようなものになるだろうか? この議論には誰しもが関わる必要がある。長年にわたって何人もの思索家の倫理観について聴いたり読んだりしてきた私が見るところ、そのほとんどは次の4つの原理にまとめられると思う。

・功利主義：良い意識的経験を最大限に増やし、苦しみを最小限に減らすべきである。
・多様性：たとえ考えうる中でもっとも良い経験が特定されたとしても、その同じ経験が何度も繰り返されるより、多様なタイプの良い経験のほうが好ましい。
・自主性：意識を持つ主体または社会は、最上位の原理に抵触しない限り、自身の原理を追求する自由を持つべきである。
継承性 ：今日の多くの人間が幸福ととらえるシナリオと整合させ、今日のほぼすべての人間が恐ろしいととらえるシナリオとは相容れないようにする。 ー

あらためて、AIがどういうもので、人類がどういう形でAIと共生していきたいのか、良く考える必要がある。
AIは極めて優秀だ。では、優秀ではない組織の力学で果たしてそれがどこまで通用するのか？ロジカルな議論が通じない会社でどこまで有用なのか、良く検証する必要があると思う。

2025/06/25

日本語版が2020年だが古さは感じない。
いよいよAI技術は進み、いつ超知能が現れてもおかしくない。
以前はAIの進歩にさして不安を感じていなかったが、本書を読んで明るい未来は容易くはないのだと知る。
そういう中で「アシロマAI原則」を作ったり署名を募ったりという著者の行動力に敬服する。
意識に関して綴られている8章はとても興味深く読んだ。
これは、AIの課題、ではなくて紛れもなく私たち人間の課題。
AIとどう対峙し、どう生きていくか、が問われている。

2025/01/05

Life1 ハードもソフトも進化する
life 2.0 ハードは進化、ソフトはデザインされる
Life 3.0 ハードもソフトもデザインされる