THE ROBOT'S REBELLION ロボットの反逆 ヒトは生存機械にすぎないのか

キース・E.スタノヴィッチ(著者), 藤田美菜子(訳者), 木島泰三(訳者)

• 販売会社／発売会社: ダイヤモンド社
• 発売年月日: 2025/03/26
• JAN: 9784478116760

商品レビュー

2025/09/17

なんとも啓発された。分厚く、学術用語が多用されるが、訳注が本文見開き内にまとめられており、親切設計。ちゃんと読めば理解できるつくりで、ありがたい。

人間の心が、遺伝子由来の自律的な反応である、システム1 (TASS:The Autonomous Set of Systems、自律的システム群)と、理性的で分析的なシステム2という2つのタイプの認知に分けられるという、「二重プロセス理論」は、『ファスト&スロー』などの行動経済学や進化心理学の本で知ってはいた。
この本で新鮮だったのは、そのシステム1には遺伝子だけでなく、ミームも関係するということ。ある種のミームもまた、そのミーム自身が複製され、生き延びることを最優先し、乗り物である人間の利益を無視することがある。それ故、個人が自分の利益を損なうことにも気づかず、ミームの利益にかなう行動をとることがある（例:喫煙、カルト宗教）。
著者は人間らしさの条件として「メタ合理性」の必要性を主張する。遺伝子やミーム由来の狭い合理性を、価値観や倫理的選好を考慮した別の合理性で批判検証する必要がある。それができて初めて、「人間（個人）の自律」が可能になる。
言い換えると、狭い合理性は手段に関わる。ある目的を達成するために無駄を省き効率的に機能するシステム。実のところそれは機械やアナバチなどの昆虫にもできる。というか人間よりもよほど合理的といえる。
広い合理性は、目的に関わる。今ここだけではなく、未来の自分や、周囲の人々、直接関わらない社会の構成員や自然環境、そういったものの利益を考慮した「合理的」な目的こそ、人間が考えるべきこと。
本書には言及がないが、AIとの付き合い方に思いが至る。AIがどれだけ賢く、早く効率的に答えを出せても、目標設定が邪悪ならどうか？より早く、より広範囲に人を騙し、社会に害を与えることができる。例えばつい最近、chatGPTに相談していた若者が自殺したというニュースを聞いた。
AI時代に人が目指すべきは、より高い知能ではなく、適切な合理的思考能力ではないか？
「第8章　謎なき魂」では、認知心理学の成果を踏まえて、哲学の領域に踏み込んでいく。心の神秘が全て明かされたとしても、人間がほかの動物とは異なる価値や尊厳を持てるとしたら、「人間にのみ独自の方法－すなわち、合理的な自己決定－により、自らの生をコントロールする力」こそがそれを可能にするのだろう。

2025/07/06

読書猿さんのまえがきが、本文に入る前のスムーズなイントロダクションになっている。お手軽に読める本ではなく結構歯応えがあるが、『ファスト＆スロー』を読み切れた人なら興味深く読めると思う。人の行動や振る舞いに着目したい人は読むべき。もう古典と呼ばれる書籍だと感じる。

2025/04/27

不死なのは遺伝子であって、私たち乗り物ではない
私たちが遺伝子に利用される「生存機械」にすぎないのか
短い引き綱で繋がれた自律的なシステム群
人間の内に棲むアナバチ
分析的な制御システム
意識的な指示を無視して強制的に働く
カプグラ症候群は顕著な例
ウォントンという言葉は思慮分別のない人を意味する
第一階の欲求を、ロボットじみた流儀で追求するだけの存在
第一階の選好に対する第二階の価値評価、いわゆる「強い評価」
人間を他の動物から最も明確に区別する認知的な特徴
ディスラショナリアと呼ばれる状態
進化的適応環境
技術化された現代社会の認知的な要求は、EEAのそれと一致しない
脳に組み込まれた基本的な認知バイアス
脱文脈化された状況
戦争を支持するイデオロギーは宿主である人間の生命を犠牲にして自己複製する
広い合理性の概念
真なる信念やミームは多くの目的の実現に役立つ
遺伝子に利用されることに対する乗り物の反逆の唯一の方法
分析的システムが乗り物の長期的な利益に役立つ目的を具体的に設定する
TASSの自動的なアウトプットを監視・監督・制止し、適切な方向転換を行う
認知改革
内なるアナバチ性を認識し、対応策を講じる能力
反逆の可能性は解放の力を秘めている
第一階の選好と高階の選好の間の整合性
合理的な統合と呼ばれるもの
デカップリング
仮説的な状態として捉えることができる記号化能力
志向的レベルの分析
アルゴリズムレベルの分析
不合理な計画では個人の利益を最大化できない
ロボットの反逆
人間という宿主を自己増殖の手段として利用している
自己複製子から乗り物である人間が自律性を獲得する可能性
知覚や動作を司る脳の部分
並列的な処理を行う
ストループ実験は認知的に侵入不可能である証拠
無反省に獲得されたミーム
世界のあり方を正確に反映しているもの