超知能AIをつくれば人類は絶滅する

エリーザー・ユドコウスキー(著者), ネイト・ソアレス(著者), 櫻井祐子(訳者)

• 販売会社／発売会社: 早川書房
• 発売年月日: 2026/04/22
• JAN: 9784152105134

商品レビュー

2026/04/29

本書では、人間の能力を超えるＡSＩが誕生すると人類を破滅に追い込むという未来が予想されています。

現在のＡＩは、作るのではなく、育てる（学習させる）ようになっており、ＡＩがある行動をしたときに、その原因が誰にもわからないという点が問題だと提起されていました。

また、人間の能力を超えるＡＩが出来ると後戻り出来ない、つまり失敗が許されない状況になることも問題です。

誰かが作れば、それで終わりなのです。

また研究者も、差し迫った脅威がない段階で、研究をやめることはなく、競争して研究している状況で、研究を中止するという判断はとても困難です。

本書はSFのようにも読めますし、科学が進歩するときには、このような心配は付き物ですが、色々と考えることも必要だと感じました。

本書は、少しカルト的な感じもあり、また解決策としての提案についても、問題が多いと感じましたが、科学進歩を考える機会になりましたー！

いまクロードミュトスの問題も取り上げられており、タイムリーな問題ですね…