THE COMING WAVE AIを封じ込めよ DeepMind創業者の警告

ムスタファ・スレイマン(著者), マイケル・バスカー(著者), 上杉隼人(訳者)

• 販売会社／発売会社: 日経BP/日経BPマーケティン
• 発売年月日: 2024/09/26
• JAN: 9784296118755

商品レビュー

2026/02/27

テクノロジーの進歩と普及には、普遍の法則がある、次第に価格が下がり、使いやすくなり、広く普及するという。そして、今来たるべき波は、人工知能（AI）と合成生物学の二つ。しかし、これらをはじめとする最先端テクノロジーには、発生確率は低いものの、これまでとは比較にならないほど甚大な損失をもたらすリスクを大規模に広めている。このようなテクノロジーを封じ込めるのは不可能で、テクノ権威主義のディストピアか、オープンネスを保って破滅へ向かうか、どちらかを避けながら隘路を切り抜けるのは相当難しい、というのが主題。

著者はAlphaGoを開発したDeepMindの共同創業者で、Microsoft AIのCEO。

爆発的に普及したテクノロジーの例として、古くは原始時代の石器や骨角器から、活版印刷機、自動車をはじめとする内燃機関。いずれも大きな社会的影響、変化、人口変化ももたらした。また、テクノロジーの同時発生、互いの干渉は不規則で、それらの強度を増す。

ゲノム編集は急速に進展していて、より安価で簡単に、素人でも編集できるようになっているという。そして、編集された強力なウイルスが、漏洩するリスク、それは無意識やよかれと考えた結果であっても、甚大な被害をもたらす。

現代の国民国家は不安定な状態にあり、波を統制する唯一の力である国家は、統制することはおろか、大きな波でその危機的状況がさらに深刻に。著者たちは、国家を超えた、企業や団体を結びつけ、対処を始めているというが、どこまで危機の認識と、目指す形を共有して対処できるのか、不安しかない。

2026/01/08

・ディープマインドの創業者がその開発/進化の歴史とテクノロジー進化の「波」について説明
・火や道具の活用、農業、工業、活版、材料開発などのブレイクスルーは一度起こると「波」になりその波は止められない。価格が下がること、需要が上がることで拡散し続ける
・唯一拡大が抑えられている(様に見えるのは)核兵器。その威力や深刻さによるもの
・AIと生物科学は人類に甚大な影響を与える可能性。民主主義の崩壊、インフラの停止、戦争/犯罪の増加、など
・波を食い止めるのは難しいが10個の方向性あり。安全性/監査/チョークポイント/開発者/企業/政府/同盟/文化/社会運動/各要素の協調
・技術拡散の流れやディープマインドの興りなどとても興味部深い
・AI技術の発達のリスクは何となく想像がつくものが殆どではあったが、専門家が述べると説得力が増す
・解決策はいずれも難易度が高いが、自律的な活動を喚起するという意味では必要と理解した
・内容としては想像の範囲が多かったが、世界屈指の専門家の言葉で読むというところに意味を感じた

2025/11/30

AIと合成生物学という「汎用技術の新波」が、人類に前例のない繁栄と同じ規模のリスクを同時にもたらす。技術は拡散し安価になり、社会構造や権力バランスを一変させる。悲観を避けて楽観だけを見る「悲観論嫌悪」のほうが危険であり、アルゴリズムバイアスからバイオリスクまでをバラバラに議論している限り、波に飲まれるだけだという重い指摘。AIは人の知的単純労働だけでなく、善悪両方の力を増幅する。だからこそ、撤退ではなく「汎用革命に対する汎用コンセプト＝統合的なルールと覚悟」を持てるかどうかが、これから数十年の生存条件