超知能AIをつくれば人類は絶滅する

エリーザー・ユドコウスキー(著者), ネイト・ソアレス(著者), 櫻井祐子(訳者)

• 販売会社／発売会社: 早川書房
• 発売年月日: 2026/04/22
• JAN: 9784152105134

商品レビュー

2026/06/17

AIドゥーマー(終末論者)の第一人者であるユドコウスキーの話題書『超知能AIをつくれば人類は絶滅する』を、ようやく読み終えました。

ただ、残念ながら、私にはあまり説得力のある内容とは感じられませんでした。

本書の主張は、端的に言えば、「何でもできるAIを作れば、何でもできるのだから、人類を絶滅させることもできる」というややトートロジーに近い議論に見えます。もちろん、超知能AIが人類に深刻なリスクをもたらす可能性を完全に否定することはできません。しかし本書では、「完全には否定できない未来」を、あたかも「ほぼ確実に起こる未来」であるかのように扱っている印象を受けました。そのうえで、証明困難なたとえ話や最悪のケースを積み重ねることで、読者を説得しようとしています。

また本書は、「超知能AIは人間とは異質な存在であるため、人間の価値観に沿った判断をすることはない」という前提に大きく依拠しています。しかし実際には、現在のAIの基盤であるLLMは、人間が作り出した知識や言語データを学習しています。人間社会には、善良な人から邪悪な人まで、道徳的な人から不道徳な人まで、非常に幅広い価値観のレンジがあります。その中で、現在のAIは平均的・常識的な判断を採用する傾向が強く、さらにアライメントも施されています。そのため、少なくとも現状では、一般の人間よりも道徳的・穏当な応答をする場面も少なくありません。

にもかかわらず、本書はそうした現実を十分に踏まえず、「AIは人間とは異質である」という一点から、AIが人類を絶滅させる方向に進むと強く主張しています。これは、私には納得できる理屈とは思えませんでした。

もちろん、AIにリスクがあること自体は否定しません。高度なAIが悪用される可能性や、制御不能な形で社会に影響を及ぼす可能性については、真剣に議論すべきだと思います。しかし、薄い根拠をもとに「AIはほぼ確実に人類を絶滅させる」と主張するのは、冷静なリスク分析というより、危機感を煽るプロパガンダに近いと感じました。

さらに問題だと思ったのは、他国との協調に反してAI性能を高めるデータセンターを建設する国があれば、空爆も辞さず、戦争も回避しないという極端な考えが示される点です。これは単なるAIリスク論を超えて、非常に危険な政治思想に踏み込んでいるように見えます。

このような考え方は、将来的に、反AIを掲げる過激な運動や暴力的なテロリズムの思想的根拠になりかねません。本書が、そうした人々にとってバイブルのように扱われる可能性も否定できないと思います。

総じて、本書はAIの危険性を必要以上に煽る危うい本だと感じました。AIリスクについて議論することは重要ですが、その議論が過度に終末論的になり、暴力や戦争を正当化する方向に向かうのであれば、それ自体が新たなリスクを生み出してしまいます。その意味で、本書はAIリスクを警告する本であると同時に、別種の社会的リスクをはらんだ本でもあると思います。

2026/06/13

本書が予見する未来の形についての賛否はあろうと思われるが、AI開発が急速に進むことで社会が不安定になることは事実と考えられる。
その可能性を指摘し、平易な文章や霊で読ませる良書と言える。

2026/06/01

知らなかった事や理解出来ない言葉も多かったけど、面白かったです。
AI、人工知能、がどう言うものか(技術的には全く分からない)少し分かった。
驚異的進化に警鐘を鳴らす内容だった。

AIは凄い技術だと思うしコンピュータと言う物の進化の姿だと感じているが、個人的にはあまり信用してないんだよね。
逆にこの地球と言う生命体から言うと、人類と言うのが最も不必要な生き物だと昔から思っている(持論ですが)ので人類が滅びる事を否定しないんです。
人類が滅びれば地球にとっての、破壊現象は無くなりますからね。(肯定してどうする)

自分には、超知能AIという物は想像出来ていないが、良い意味でも悪い意味でも、人間の感性や想像力、好き嫌いや好む好まずとは、一線を引く物の様な気がする。
ネットの(Amazonやこのブグログでの)貴方へのお勧めをされても、全然違うと感じるからね〜