NEXUS 情報の人類史(下) AI革命

ユヴァル・ノア・ハラリ(著者), 柴田裕之(訳者)

• 販売会社／発売会社: 河出書房新社
• 発売年月日: 2025/03/05
• JAN: 9784309229447

商品レビュー

2026/02/15

上巻では、大規模な人間社会をまとめ、管理するテクノロジーとして、神話と官僚制のことが取り上げられた。
下巻は、AIの登場によりそれがどのように変容するかが論じられる。

歴史上の強力な独裁者も、その管理には抜け穴はできた。
管理するコスト、技術にも限界があったからだ。
ところが、コンピュータは２４時間３６５日稼働することができ、こうした限界を突破できる。
また、AI間で人間には理解できない形の新たな「神話」を形成してしまう可能性もある。
そういえば、先週AIだけがメンバーになれるSNS「Moltbook」が話題になった。
そこには独自言語や独自宗教を作ろうとする動きがあるという。
もはやこの本で書かれた懸念のあれこれは、すでに現実になっていると思った方がよいのだと感じる。

上巻にもあった民主社会と独裁社会の比較もあった。
民主社会では秘密とされる情報も比較少なく、自己修正メカニズムを働かせてきた経験もある。
情報テクノロジーの発達により、かつては政治的話し合いに参加できなかった人々の参入が可能になった。
しかし、そのために情報テクノロジーが介入し、フェイクが蔓延するようになり、分断が広がるという皮肉な状況が起きている。
にもかかわらず、人間はその原因を自ら突き止めることはできていない（著者は単にSNSだけが原因とは考えていない）。

では情報テクノロジーにより管理が効率的になった独裁社会は安泰かというと、そうでもないらしい。
「アラインメント問題」、人間が定めた「最終目的」に叶わない判断をAIが行う可能性があるからだ。
つまり、AIが権力を握ってしまう可能性があるとのこと。

最終の11章では、AIが情報帝国主義を生むことや、グローバルな分断を生む可能性について議論していた。
著者の提言としては、楽観的態度はもちろん、過度に悲観的になることにも批判的だ。
AIの可謬性を認め、強力な自己修正メカニズムを持つ制度、機関を作り、AIをコントロールする道を見つけることをと述べ、本書を締めくくっている。

もはや自分すら巻き込まれているわけだが、どこか自分事として認識できないくらい大きな問題で…。
ただ、ChatGptやGeminiにお相手をしてもらって喜んでいる場合ではないらしい。

2026/02/07

人間の制御を離れたAIによる世論操作は、すでに現在進行形の「歴史」となっている。
その渦中にいる私たちが何を考え、どう向き合うべきかを、共に問いを深めていく一冊。

2026/02/01

イランで統制目的でカメラとAIによる監視がされていると聞いて、技術は使い方だと思った。しかし、企業として成功してきたYouTubeとfacebookであってもAI（アルゴリズム）を用いて、結果的に扇動的な役割を担っていた。正しいと思われる目的を人間が設定しても、AIが導く最適解が、人間が想定していたレールから外れた想定外の副作用を招くことがあるのだと理解した。

AIに対して人間の身体性の優位性も面白い。既にロボットの分野は大きく発展傾向にあるが知識よりは難易度が高く遅い。聖職者のように人間だからこそ務まるものもあるというのも面白い。

情報の分散化に関しても興味深かった。情報が分散していることを是とする法律も日本にあるり中央集権化を避けることが一つの理由なのかもしれない。

無料で使えるアプリでは、お金の代わりに個人情報を支払っているという捉え方も面白い。AI開発では、早く多くの情報を手に入れ、早く市場にAIサービスを投入することで、開発の好循環を生み出し市場が形成される。そのサービスを使う人の中で学習が進み、新たな枠組みが形成される。これが大きな分断にもなる。という流れは納得。確かにモデルは、学習データの違いにより大きく異なるのだろう。

AIの学習に使うデータの選別や、モデルを作るときのガードレール作成などは、エンジニアにとっても責任のある部分であることを認識しておきたい。