スーパーインテリジェンス 超絶AIと人類の命運

ニック・ボストロム(著者), 倉骨彰(訳者)

• 販売会社／発売会社: 日本経済新聞出版社
• 発売年月日: 2017/11/01
• JAN: 9784532357078

商品レビュー

2026/09/02

スーパーインテリジェンス
超絶AIと人類の命運

「AIによって人類は滅ぼされる」というターミネーターのような衝撃的な未来感に関して、学術的に丁寧に様々なシナリオを検討しています。
人類がAIをうまく使いこなすために必要なコントロール問題に関してまず論考していますが、その先にある哲学的な価値観に基づいた目標設定に関しても様々なリスクが存在することも論じられています。（マッチ棒を大量に作るという目標を設定すると、宇宙の全ての資源を使ってマッチ棒を作り続けるというリスクがあるなど）
そして、１つでもスーパーインテリジェンスが戦略的な優位を確立したとたんに、指数関数的な進歩を起こし、競合するものを全て無力化するため、複数のスーパーインテリジェンスや人類がバランスするという状況はあり得ないだろうという結論となり、またコントロール問題に戻ります。
そこでも、スーパーインテリジェンスは人類の裏をかいて、自由を手にする可能性が指摘され、結局スーパーインテリジェンスが誕生すること自体が非常に高いリスクであるという結論に行きつきます。
では、スーパーインテリジェンスの開発を規制するしかないということになりますが、それも、一人のマットサイエンティストや覇権を握りたい国の極秘研究開発などによって規制することが難しいという話。
著者の論考自体に間違いや抜けがあることを信じて、この先も気楽にAIの進歩を追っていきたい竹蔵です。
ですが、700ページに及ぶ猜疑に満ちた論考を読んで、とても疲れ果ててしまいました。

竹蔵

2026/07/28

2026年7月27日読了。AIの進化による「シンギュラリティ」が懸念されるが、そもそも人間を超える超知能・スーパーインテリジェンスとは何なのか、また「知能・知性」とは何なのか？について思索を深める本。今初めて読んだ私が言うのもなんだが・このような本が10年以上前に出ていながら今になって「AIが勝手にサイバー攻撃をした！」とか言ってあたふたしだす人類の愚かさといったらない。人間が人間をコントロールするために長い英知を基に生み出した「民主主義」のシステムだってワークしていない現在、人間を超えるものをうまくコントロールする仕組み・ルールを作るなんて土台無理なことだよなあ…とはいえAIの進化が止まることはないんだろうなあ…と読むほどに空恐ろしく・むなしくなる。とはいえ、学びを止めてはいけないなと思う。

2026/03/23

息子へ）

ビジネス書紹介本「ビジネス書図鑑」に紹介されていた本の1冊目。

スーパーインテリジェンス

スーパーインテリジェンスとは、
人類よりはるかに知能面で優れたAIのことだ。

久しぶりに完全に読解困難な本だった。

AIと言えば、ターミネーター、マトリックスに代表されるような
SF映画の世界でよく描かれている。

一方、この本は、完全にまじめに
正面からAIを考察し、どうなるか、どうすればよいか、を書いている。

答えは、人間を超えてしまったAIを人間がコントロールすることは難しい。と。
ただ、努力すべきと。

人間を超えた存在が現れたとき、人間の存在意義はあるのか？
滅ぼされるのは、ある意味宿命なのだが、、、、。

難しいと投げ出してしまった以上に、人間とは？を、
考えさせれた。

お父さんの本の買い方） 大田区図書館
読め、もしくは、読むな） 読め！
君が・・・歳のころに） スーパーインテリジェンスが出現する前に