NEXUS 情報の人類史(下) AI革命

ユヴァル・ノア・ハラリ(著者), 柴田裕之(訳者)

• 販売会社／発売会社: 河出書房新社
• 発売年月日: 2025/03/05
• JAN: 9784309229447

商品レビュー

2026/03/24

ようやく下巻。下巻では、AIによる情報ネットワークが人知を超えてしまうことで、さまざまな弊害が起きており、それを防ぐには、AIにも自己修正メカニズムが必要と解く。
神や天皇のような絶対的な無謬性を持った存在がいるからこそ人間はその下で平等に扱われ、民主主義が根付いた、とものの本で読んだことがあったが、AIは人間が作り出した技術にも関わらず理解できないものになり、それがポピュリスト政党やカリスマ的な指導者を生み出している原因になっている、という見解は興味深かった。

2026/03/21

少しずつ読み進め、3か月近くかかった。中世の魔女狩りなど得るところは多かった。全体的にはAIのリスクを歴史的文脈で語られていると理解した。若干IT業界で働く身としては内容への肯定/否定両方思うところはあった。

2026/03/18

●知能と偽の親密さ
知能と意識は別物である。人間や哺乳動物は両者が密接に結びついているケースが多いが、知能に意識は必須ではない。
2010年代はSNSが人間の注意力を支配する戦場だった。2020年代は戦いが注意から親密さに移る。感情がなくても、人間に情緒的な絆を感じさせる方法は学習できる。

●課税の問題
従来、ネクサス（特定の管轄区域と企業の結びつき）は、企業がその国にオフィスや店舗などの物理的なかたちで存在しているかどうかだった。情報のみの取引はネクサスにカウントされないため、課税されない。デジタルな存在も定義に含むよう調整がなされなければならない。

●民主主義の基本原則
善意、分散化、相互性、監視システムに「変化と休止」の余地を残すこと。

●説明を受ける権利
コンピュータ（のアルゴリズム）はブラックボックスで、なぜその判断を下したのか、人間にはわからない。社会の多くの部分でコンピュータに決定を委ねれば、民主的な自己修正プログラムの信頼性は失われ、民主的な透明性も失われ、説明責任の所在があやふやになる。

●デジタルアナーキー（無政府状態）
民主主義を適切に機能させるために必要な2つのことは、公の場で自由に話し合えることと、最低限の社会的秩序。話し合いにおいてルールがなくなれば、アナーキーとなる。
AIには特に注意。2017年の米国選挙中の投稿の20%がbotだった。2020年には43.2％。さらにSNSのルールもアルゴリズムが統制するようになってきている。

●最も賢い者の絶滅
人間の本性ではなく、人間の情報ネットワークが真実よりも秩序を優先することに起因する。従って、ネットワークが力を持てば持つほど、自己修正メカニズムが重要になる。