ヒトは軍用AIを使いこなせるか の商品レビュー

ジェームズ・ジョンソン(著者),川村幸城(訳者)

2024/10/04

ここ数年でAIが安全保障に与える影響について過剰宣伝があったが、本書は想像ではなく具体的なところにフォーカスするという。著者はイギリス人なんだけど、イギリスって戦略とか国際安全保障の優秀な学者がやたら多い気がする。ちなみに中国語にも堪能。なお訳者は陸上自衛官で、防大で後期課程を修了し博士号を持っている。
AIの定義は引き続き明確なものはない。MLに必要な質の高いデータセットの不足や自動検出の技術的限界、ブラックボックス化された問題群など、AIの軍事利用を巡っては制限が多い。
AIはそれそのものが与える影響は少なく、既存の兵器のフォースマルチプライヤーとして戦略的安定性を低下させる。AIによるISRTの増強が、第二撃能力の残存性を低下させ、use or lose（使うか失うか）を強制するから。特に中国の戦略コミュニティでは領域横断的抑止の概念や核戦力と通常戦力が混在している状況でのエスカレーションリスク管理をめぐる理解が不足しているらしい。そしてAIはそれ自体の能力よりも国家がその機能をいかに認識しているかで安定性に影響を与える。
軍用AIの実用化はMLに必要なデータセットの質と量の不足、アルゴリズムの技術的限界、システムの脆弱性などといった問題がある。
軍用AIがもたらす不安定性を避けるインセンティブをいかに作り出すか。研究者や国防コミュニティによる議論、軍事大国が交渉の議題とし履行するための具体的な政策提言とするが、AI追求による先行者の優位性を保持したいアメリカや獲得したい中国間の地政学的緊張は協力を回避するインセンティブを生み出す可能性が高い。核とは違い、AIの場合の軍備管理は広く普及していることや民間部門の深い関与などから困難である。軍用AIは既存の抑止理論を覆しかねない存在であるんだな。

2023/10/23

バカになったのかな。
歳だし。
本気でそう思った。
全く頭に入らない。何言ってるか、殆どわからない。
専門用語が多いからかカタカナが多いからか、文章の掛け受けが倒錯してる気がするし、「かもしれない」が多すぎて、それが推論の過程と、結論と両方に使われてるせいか。

結構評価の高い本なので、きっちり専門的に読み込めば、良い本なのだろうね。サッと読み流せるかと言えば、ぼくには無理でした。

原文だと分かりやすいのかなあ。

AIの問題だけでなく、軍事上の政治的な問題とか人間の判断とか普遍的なものがあって、AIは不完全な上にいろんな非対称性が拡大されたり、スピードアップによって、エスカレーションの過程が手をつけられなくなって。

みたいな話のような気がしたので、ちゃんと検討したい人にはおすすめかもしれない。