ヒトは軍用AIを使いこなせるか 新たな米中覇権戦争

ジェームズ・ジョンソン(著者), 川村幸城(訳者)

• 販売会社／発売会社: 並木書房
• 発売年月日: 2023/06/07
• JAN: 9784890634354

商品レビュー

2025/02/01

急速な発展を見せるAI技術の軍事利用について世界的な問題提起をしてくれる一冊
専門的な文章であり、細部を理解しながら読むのは難しいが、アウトラインを把握するだけでも意味がある

AIはそれ単体では兵器にはならないが、そのデュアルユース性が特徴であり、センサー類の探知能力向上、マシンラーニングやビッグデータ解析による情報・監視・偵察能力向上、ドローン運用の高度化等により、通常戦力の能力向上が可能になる。
一方でAIは学習データに不備がある場合、内在的に欠陥を持つことになり、あるいはアルゴリズムがブラックボックスであることもセーフティな兵器運用を妨げる懸念がある。

AIで強化された通常戦力により、相手国核戦力の無力化が可能となる場合、相手国としては核戦力を使用するエスカレーションラダーを駆け上がることになる。

またAIそのものの不確実性と敵対国同士のAI使用ドクトリンやAI兵器の能力や用途を誤認すると、これもエスカレーションラダーを駆け上がる結果になる。

またAIによる意思決定支援が実現した場合、AIの内在的欠陥がどのような影響を及ぼすかは現時点では評価できないと思われる。

今すぐ本書が懸念する問題が発生するとは思われないが、デュアルユースであるAIの軍事利用における規制や管理が可能であるのかどうかから、世界のあらゆる知見者が議論を進めるべきという点は非常に共感する。

日本もAIの軍事利用は大なり小なり将来進めると思われるため、国内でも議論が始まることを期待したい。

2024/10/04

ここ数年でAIが安全保障に与える影響について過剰宣伝があったが、本書は想像ではなく具体的なところにフォーカスするという。著者はイギリス人なんだけど、イギリスって戦略とか国際安全保障の優秀な学者がやたら多い気がする。ちなみに中国語にも堪能。なお訳者は陸上自衛官で、防大で後期課程を修了し博士号を持っている。
AIの定義は引き続き明確なものはない。MLに必要な質の高いデータセットの不足や自動検出の技術的限界、ブラックボックス化された問題群など、AIの軍事利用を巡っては制限が多い。
AIはそれそのものが与える影響は少なく、既存の兵器のフォースマルチプライヤーとして戦略的安定性を低下させる。AIによるISRTの増強が、第二撃能力の残存性を低下させ、use or lose（使うか失うか）を強制するから。特に中国の戦略コミュニティでは領域横断的抑止の概念や核戦力と通常戦力が混在している状況でのエスカレーションリスク管理をめぐる理解が不足しているらしい。そしてAIはそれ自体の能力よりも国家がその機能をいかに認識しているかで安定性に影響を与える。
軍用AIの実用化はMLに必要なデータセットの質と量の不足、アルゴリズムの技術的限界、システムの脆弱性などといった問題がある。
軍用AIがもたらす不安定性を避けるインセンティブをいかに作り出すか。研究者や国防コミュニティによる議論、軍事大国が交渉の議題とし履行するための具体的な政策提言とするが、AI追求による先行者の優位性を保持したいアメリカや獲得したい中国間の地政学的緊張は協力を回避するインセンティブを生み出す可能性が高い。核とは違い、AIの場合の軍備管理は広く普及していることや民間部門の深い関与などから困難である。軍用AIは既存の抑止理論を覆しかねない存在であるんだな。

2023/10/23

バカになったのかな。
歳だし。
本気でそう思った。
全く頭に入らない。何言ってるか、殆どわからない。
専門用語が多いからかカタカナが多いからか、文章の掛け受けが倒錯してる気がするし、「かもしれない」が多すぎて、それが推論の過程と、結論と両方に使われてるせいか。

結構評価の高い本なので、きっちり専門的に読み込めば、良い本なのだろうね。サッと読み流せるかと言えば、ぼくには無理でした。

原文だと分かりやすいのかなあ。

AIの問題だけでなく、軍事上の政治的な問題とか人間の判断とか普遍的なものがあって、AIは不完全な上にいろんな非対称性が拡大されたり、スピードアップによって、エスカレーションの過程が手をつけられなくなって。

みたいな話のような気がしたので、ちゃんと検討したい人にはおすすめかもしれない。