NEXUS 情報の人類史(下) AI革命

ユヴァル・ノア・ハラリ(著者), 柴田裕之(訳者)

• 販売会社／発売会社: 河出書房新社
• 発売年月日: 2025/03/05
• JAN: 9784309229447

商品レビュー

2026/02/28

なかなか難しい内容。上巻は高尚過ぎてお手上げだったが、下巻は自分の専門分野のコンピュータ関連の具体例多く、面白い内容が多かった。
AIをアーティフィシャルインテリジェンス（人工知能）ではなく、エイリアンインテリジェンス（人間のものとは異質の知能）と考えた方が良いほど、AIの判断による人類の破壊の危険性に言及されており、恐ろしかった。
特に具体的にコンピュータコミュニケーションがどの様な流れで人間の想定とは全く異なる事が起こるのか説明されており、可能性として普通にあり得る世界と分かったのが、とても恐ろしかった。

自分や子供が生きている間にどれだけ世界が変わるか、恐れても仕方が無いが、この本の想定を認識した上で、少しでも変化に対応できればと思う。

2026/02/21

アルゴリズムによって決断される物事は決して偏見や感情を含まない公平性が極めて高いものであると思う。ただ正しさは暴力にもなりうる。一個人の幸せという観点から考えると文句の言う余地がないということは私達自身を守る言い訳を失うことを意味する。例えば過去の階級制社会を見てみる。農民などの人々は今の時代よりも幸福度が高かったと言われている。階級制社会によって理不尽にもどれだけの努力を重ねたとしても自分たちは貴族になれないというのに。
そこで人々を守ったのは言い訳であると思う。「しょうがない」と思わせられること、そしていまいる自分を否定しないですむこと、それが彼らから焦燥感や不足感を取り除くことにつながったと思う。

本著が述べているように今後アルゴリズムからの評価に依存すればするほど真っ白なほどに「正しい」評価システムが構築される。アルゴリズムは単一性の誤謬にとらわれることなくどんな指標でも正しく評できるようになるだろう。これは評価対象が物事の場合においては問題はないように思える。しかしこと評価対象が人間になったとき格差、差別、それによる民族浄化に繋がる。人々が全員言い訳の聞かない社会的信用システムに支配されたときそれは監視社会つまりアルゴリズムによる統治が行われるようになりどんな人間でも価値があるなどといった考えは否定されかねない。数値化され、それが可視化された世界において人々は本当に幸せに暮らせるんだろうか。私達人類は倫理的に誤りだらけの残虐な少数の人間ではなく、正しさを武器にしたコンピューターにより人権侵害をされる危機に瀕しているという事実を考えさせられた

2026/02/21

◯ コンピューターはもし力を委ねられたら、現に惨事を招くだろう。なぜなら、コンピューターは可謬だからだ。(147p)

◯ 民主主義の存続にとって、ある程度の非効率性は利点であってバグではない。(161p)

◯ 私たちは話し合いができるかぎり、共有できる物語を見つけて互いに近しくなることができるだろう。(251p)

★上巻で魔女狩りやクラーク狩りの歴史を学んだのは、AIがそれを引き起こす可能性を理解するためだった。

★AIは偏見を持つし、間違う。目標達成のために有機体では考えられない手段を持ち得る。AIに権限を与えてはいけない。人類はグローバルに協力し、AIを規制する機関を設立しなくてはならない。