スーパーインテリジェンス 超絶AIと人類の命運

ニック・ボストロム(著者), 倉骨彰(訳者)

• 販売会社／発売会社: 日本経済新聞出版社
• 発売年月日: 2017/11/01
• JAN: 9784532357078

商品レビュー

2026/10/26

ネタバレあり　本書の主要な思考実験と論点に触れる。

人間より賢いAIなら、人間より正しい判断をしてくれるのか。ニック・ボストロム『スーパーインテリジェンス 超絶AIと人類の命運』は、その期待を問い直す。難しい問題を解く能力と、何を大切にするかは同じではない。人間の願いから外れた目的を、とても上手に実現する知能も考えられる。そのとき、命令した側は何を見落としていたのか。

この読書ノートでは、倉骨彰訳の2017年日本語単行本版を取り上げる。原著は2014年刊。2025年刊の上下巻の新装版とは版を区別し、最新の製品紹介としてではなく、強力な知能を迎える前に何を考えておくべきかを読む。
読書ノート：https://writerzlab.com/superintelligence-bostrom-reading-note/

2026/09/02

スーパーインテリジェンス
超絶AIと人類の命運

「AIによって人類は滅ぼされる」というターミネーターのような衝撃的な未来感に関して、学術的に丁寧に様々なシナリオを検討しています。
人類がAIをうまく使いこなすために必要なコントロール問題に関してまず論考していますが、その先にある哲学的な価値観に基づいた目標設定に関しても様々なリスクが存在することも論じられています。（マッチ棒を大量に作るという目標を設定すると、宇宙の全ての資源を使ってマッチ棒を作り続けるというリスクがあるなど）
そして、１つでもスーパーインテリジェンスが戦略的な優位を確立したとたんに、指数関数的な進歩を起こし、競合するものを全て無力化するため、複数のスーパーインテリジェンスや人類がバランスするという状況はあり得ないだろうという結論となり、またコントロール問題に戻ります。
そこでも、スーパーインテリジェンスは人類の裏をかいて、自由を手にする可能性が指摘され、結局スーパーインテリジェンスが誕生すること自体が非常に高いリスクであるという結論に行きつきます。
では、スーパーインテリジェンスの開発を規制するしかないということになりますが、それも、一人のマットサイエンティストや覇権を握りたい国の極秘研究開発などによって規制することが難しいという話。
著者の論考自体に間違いや抜けがあることを信じて、この先も気楽にAIの進歩を追っていきたい竹蔵です。
ですが、700ページに及ぶ猜疑に満ちた論考を読んで、とても疲れ果ててしまいました。

竹蔵

2026/07/28

2026年7月27日読了。AIの進化による「シンギュラリティ」が懸念されるが、そもそも人間を超える超知能・スーパーインテリジェンスとは何なのか、また「知能・知性」とは何なのか？について思索を深める本。今初めて読んだ私が言うのもなんだが・このような本が10年以上前に出ていながら今になって「AIが勝手にサイバー攻撃をした！」とか言ってあたふたしだす人類の愚かさといったらない。人間が人間をコントロールするために長い英知を基に生み出した「民主主義」のシステムだってワークしていない現在、人間を超えるものをうまくコントロールする仕組み・ルールを作るなんて土台無理なことだよなあ…とはいえAIの進化が止まることはないんだろうなあ…と読むほどに空恐ろしく・むなしくなる。とはいえ、学びを止めてはいけないなと思う。