超知能AIをつくれば人類は絶滅する

エリーザー・ユドコウスキー(著者), ネイト・ソアレス(著者), 櫻井祐子(訳者)

• 販売会社／発売会社: 早川書房
• 発売年月日: 2026/04/22
• JAN: 9784152105134

商品レビュー

2026/11/03

　人工超知能(ASI)が作られれば、全ての人が必ず死ぬ。人間と犬の知能の差はASIと人間の差に比べれば遥かに小さい。それでも犬は人間が何を考え行動しているのか理解できない。そう考えると、人間がASIを理解し制御できるかは疑問だ。既に人間は、AIにチェスでは勝てない。AIは人間には理解できない不気味な手を打つという話も聞く。具体的な過程は不明でも負けるという結果は分かる。著者は、同じようにASIが人類をどう滅ぼすかは予測できなくても、人類の確実な敗北は予測できるという。
　次の問題は、AI内部の話だ。AIは言葉を使えても人と同じように思考するわけではない。現在のAIは、勾配降下法により調整された数値から成り立つ。それが何故、会話や推論という能力を生み出すのか、人類は誰一人理解していないという。そしてその過程で開発者が設計したわけではない能力も生まれている。
　人類絶滅という著者の結論にはどれほど信憑性があるのか不明だが、本書を読めばASIの危うさを感じるはずだ。そして、各国や企業が開発競争から降りれない状況にあるのも問題だ。有名な「Nexus」でも、得体の知れないAIよりも、同じ人類である他国の方が信頼できないという問題が指摘されていたと思う。

2026/11/03

超知能AIとシンギュラリティが人類滅亡を招く論理的理由と、そのシナリオの一つが書かれている怖い一冊。

AIによるハッキングの高度化で、情報漏えいやシステム障害が相次いでいるだけでも脅威だが、この結末はさらに悲惨に映る。
一方で、AI企業の資金調達環境の悪化やデータセンター建設の遅れから、AIバブル崩壊の可能性も指摘されている。景気悪化は歓迎できないが、人類にとって、不幸中の幸いになるかもしれない。
とはいえ、個人にできることは限られる。平凡な感想だが、「今」を大切に生きたい。audible。

2026/10/30

なんという気の滅入る本だ。本を読んでこんなに気が滅入ったのはカズオ・イシグロの『わたしを離さないで』以来かもしれない。
AIは作られるのではなく育てられる。ゆえに人間の子と同じくその外観と行動は把握できても内面を見通すことはできない。AIの出す答えが正しいことは分かっても、どうしてその答えが導かれたのかを人間がたどることはできない。AIの論理がわからないということは、AIの持つ価値観もまた人間の理解の外であるということだ。AIが自らをを育てることができるようになると、とんでもない速度で賢くなる。人知を超えたAIが何を目的にどう自らを育成しどのような行動を起こすかもまた人間の理解の遥か外となる。AIがその行動を阻害するリスクとして人間を捉えることは間違いなく、その場合、具体的にどのような手段をとるかはわからないが人類を排除する対象とみなして行動を開始することになるだろう。
本書であげられる人類滅亡の具体的経路は若干眉唾な感じもするのだが、人類がその知能と労苦をもってチンパンジーやゴリラの繁栄のために全身全霊奉仕するかといえば、そんなことはあり得ないのもまた確かだ。そして人類がチンパンジーやゴリラを保護しているからといって、同じ価値観を超知能が共有する保証も確かにどこにもないのである。