NEXUS 情報の人類史(下) AI革命

ユヴァル・ノア・ハラリ(著者), 柴田裕之(訳者)

• 販売会社／発売会社: 河出書房新社
• 発売年月日: 2025/03/05
• JAN: 9784309229447

商品レビュー

2026/01/06

AI革命がもたらす人類の未来はユートピアかディストピアか。
AI革命が活字印刷術やラジオ・テレビなどの情報革新をもたらす技術とは決定的に違う点がある。後者はあくまで人間の意思によって成り立つ技術（人間により使われる技術）であるが、AIは人間の意図を介さず情報を処理・生成し、しかもコンピュータ同士が新たな繋がりを持ち始める。これにより、人間の意図しない思いもよらない結果をもたらす危険性があり、これを人間が制御しきれない危険性が想定される（人間の想定する目的と一致しない「アラインメント（一致）問題」）。
AIは政治にどのような影響をもたらすのか。民主社会と全体主義の社会でそれぞれ危惧される点を述べている。民主社会ではAIによる執拗な情報収集からいかに個人のプライバシー領域を保持することを保障できるかがキーである。そして国家・政府などの機関が一方的に国民・市民の情報を把握する一方向性を否定し、国民・市民も国家・政府の情報を知る双方向性を持つことが大切である。これにより、自己修正機能が政治に働き、AIによる政治利用の誤謬を修正することが可能である。全体主義では権力者がAIにより国民を完全にコントロールできる力を得ることが可能になるが。一方、その権力者がAIに権力の維持を脅かされる危険性が増す。全体主義の独裁者は自分の地位を脅かすNO2的存在に最も警戒心を持ち、自分に全ての情報が一元的に上がってくるようなシステムを望む。しかし、その膨大な情報を分析するにはAIに依存せざるを得ない。その結果、AIの判断に従わざるを得ず、結局は最終的な権力行使の判断をAIに委ねてしまう皮肉な事態となる。そのAIが暴走すれば（例えば核兵器の使用に関する判断など）、人類にとって取り返しのつかない結末を迎えることとなる。
また、AIによるネットワークが発達した世界では、戦争は実際に武器を使用するものだけでなく、相手の国にさまざまなハッキングによる攻撃をしかけ、相手国をコントロールしたり、混乱させるようなものも想定される。これを防ぐために、国家体制の違う国の間では相手国とのネットワークを遮断して、独自のネットワークシステムを構築することになる。著者はこれをかつての冷戦の「鉄のカーテン」になぞらえて、「シリコンのカーテン」と呼ぶ。これにより世界が分断されれば、地球的な規模で取り組まなければならない問題（例えば地球温暖化など）を国家体制の違いを越えての国際的協力体制を築くことができなくなってしまう。
しかし、著者は人間には部族や国家、民族の違いを越えて協力しあう力があり（歴史学者である著者は歴史的事実を踏まえて）、必ずしも悲観的な未来ばかりを想定はしていない。決定論的未来像ではなく、人間の可能性にあくまでも希望を抱いている。

2025/12/27

Audible

サピエンス全史(Audible,漫画、子供向け)以来の著者のAIに関する警告と対策の本。

AIがもたらしうるリスクをまず、情報とは何か？という問いから始める。
肉体的にはこれほど脆弱な人間が、他の生物を圧倒できたのは、虚構を信じることができ、そのことが多くの人間を繋げ協力することができたから。

それゆえ、情報は真実でもないし、多くの情報が真実に結びつくこともない。

AIは人類が不可能な量の情報を処理できるだけでなく、創り出すこともできる。アンチロヒンギャのフェイクニュースはAIによりつくられた。人間は憎悪を駆り立てる情報や陰謀論の方を好む＝再生回数が伸びるので、Facebookなども止めない。

既に、この時点で人間は部分的ではあるが、AIに操られていると言える。

AIは絵、音楽、物語だけでなく既に様々なものを生み出しているが、人間の枠を超えつつあり、著者はartificial intelligence ではなく、alien intelligenceと呼んでいる。

2次大戦のように、AIのブロック化で、世界が分断する未来を警鐘しつつ、人類は協力することで発展してきたのだから、協力することで、この危機を乗り越えられるとも提言している。

彼の著書は大変興味深いのだが、主張を構築する情報の質と量が凄すぎて、正気化不良を起こしてしまう。一気に読むのが良いのだろうが、集中力が必要なためなかなか進まず、概要をつかみ切れていない。

2025/12/18

啓光図書室の貸出状況が確認できます
図書館OPACへ⇒https://opac.lib.setsunan.ac.jp/iwjs0021op2/BB50389079
他校地の本の取り寄せも可能です