無人の兵団 の商品レビュー

ポール・シャーレ(著者),伏見威蕃(訳者)

2024/04/10

読中も思っていたし、本文にも中程で明記されるが、自律型兵器に対する評価は映画『ターミネーター』の影響が非常に甚大であるようだ。

反対意見は主に倫理的な立場を取るように見える。倫理的という表現はオブラートで、詰め寄る相手が不在では困るというふうに感じられる。
人類のコントロール下にあればよし、そうでなくなった場合、責任から対処までどーすんだよ、と。人間が責任者であっても大日本帝国陸軍的な暴走はありえる。軍事でない場合の方が、より一層深刻なのかもしれない。自動運転車両が事故を起こした場合、所有者に責任が問われるのか、メーカーに責任が問われるのかという問題があるように。

うすね正俊の漫画『コンバット・ドール』は、続編で、ドールが東側諸国の武装だと知ってショックを受けた覚えがある。悪役として登場した自律兵器である通称ピノキオは西側のもので、これはテクノロジーを主眼においた見識によるものか、人間の損耗を嫌う立場を描いたものか。東側の宗主国では、兵士は畑から採れるという冗談を可視化したものか。
倫理的な問題であるならば、現実世界で実戦投入をまっさきにやりそうなのは中国やロシアではないかと思える。

現実世界ではこれまで、いくつか非人道的な武器について、国際的な約束によって封じ手としてこれた実績がある。完全自立型兵器は実現していないが、同様のことが実現前から懸念される。まだ存在しないものに対して行う議論は倫理に基づくものか、寝技外交か。
今度のAIブームはかつてなかったほどの成果をあげたが、エキスパートシステムの域にとどまっているようにも見える。失速してる風味もあるが、懸念が結実するような革新に到れるだろうか。

というようなことを、多角的に問うているが、主題もまた繰り返されることになるのでいささか冗長である。

2022/05/30

本書は、現代の自律型兵器に関する情報や考え方を網羅した、この分野におけるバイブルのような本だが、発行からわずか数年で、兵器がさらに進化し実用化が進んでいる。

ウクライナ戦争においても、トルコ製無人攻撃機のバイラクタルTB2や自爆型の「神風ドローン」が活躍し、自律型兵器は戦争の帰趨を決するような存在にまで成長してきた。

著者は軍人出身であることから、AIによる判断よりも軍人による判断を信用している。しかし、アフガニスタンの米軍撤退戦でも、米軍による民間人への誤爆があった。実際にはどちらの方が判断ミスが少なくなるのだろうか。

人間の判断とAIの判断のどちらが正しいのか。プーチンのような独裁者の存在まで考えると、どちらが信用できるのか分からなくなってきた。

2021/12/14

自律（オートノマス）の技術の発展により、兵器においても人が関与する部分は徐々に少なくなり、ロボットや兵器が自律的に動作するようになっている。
今後もプロセスの中に人間は介在し続けるのか、あるいは完全自立型の兵器が稼働する未来が来るのか。
自律型兵器は汎用AIではなく、あくまでナローAI。ターミネーターのようなことが起こることを真剣に心配する必要はないが、ドローンとAIは民間でも手に入るテクノロジー。

第一部：ドローン登場のインパクト。自動化と自律。自律型兵器とはなにか。
第二部：米DARPAや世界各国における自律型兵器の研究開発について。
第三部：ペトリオットの友軍相撃事件と、ミサイル巡洋艦ヴィンセンズ事件。完璧な機械はない。また、複雑な機械・システムは人に理解できず、緊急事態での対応が困難になる。
第四部：サイバー空間が新たな戦地となっている。
第五部：自律型兵器に対する倫理的な問題と意見。殺人の痛みは戦争における抑止力でもあり、人間が責任を負うべきである。核兵器は戦争を抑止する効果もあるが、自律型兵器は本当に使われてしまう可能性が高い。

2021/09/27

swarmの意味は「群れ、うじゃうじゃした群れ、大群、群衆、大勢、たくさん」（Weblio英和辞書）など。「スウォーム・エレメント」とはドローン兵器を指す言葉で、ドローンの小編隊同士を戦わせる実験が既に行われているという。そこで繰り広げられるのは「戦闘の自律化」である。スウォームの指揮統制モデルは以下の通りである。
https://sessendo.blogspot.com/2021/09/ai_27.html

2021/01/11

AI搭載の無人兵器の話が中心

実用にあたってはどうなのか
その際の課題はどうなのか

なるほどね…、という感じでした

2020/08/30

副題に「AI、ロボット、自立型兵器と未来の戦争」とあるが、これらについて、「そもそもなんぞや」から始め、人の関与の度合いのありようの違いから
・オートメーション
・半自律
・監督付自律
・完全自律
の定義の違いを説明し、なぜ、人が判断に関与しない汎用AI自立型兵器が好ましくないのかを説明するためには、このくらいのページ数が必要になる。（そしてまた、民間の株取引では既に完全自律システムによる実害が発生していることも）

いわゆる「サイバー戦」に於いては、速度を考えればAIの助力を人間が受けるケンタウロス方式でさえ不十分で有り、部分的に完全AI自律に頼らざるを得ない可能性を考えると、そこに心配は残る。

また、おそらく「キルスイッチの無い完全自律無人兵器」は軍事用途よりも、中国のような国家が自国内の反体制派を弾圧するために使用されそうな気もする。

しかし、対AI欺瞞画像が既に発見されているとは驚きである。

2020/01/06

テーマが専門的過ぎて理解が及ばず・・・
こういったテーマを勉強している人にはとてもいい参考書になるのでしょう。

2019/12/30

「#無人の兵団」早川書房、P.シャーレ他
Day23
ビル・ゲイツが絶賛したとか、頃はAI流行とかで手にしたが、内容はかなり「オタッキー」。
いわゆる「ハイテク兵器」に関する詳述を期待していたら、
>> 直径2.5センチのクアッドコプターを百万台、うち25%が標的に達すれば大きな効果があげられる
というような記述があり、こんなところでも、イノベーターズジレンマ的なルールの書き換えが起きているのかと、気づかされた。
マニアックな方を除いては、詳細に知識を付ける系の著作ではないので、図書館で。

2019/12/12

【無人の兵団―AI、ロボット、自律型兵器と未来の戦争】
来るべき未来に出現するであろう、汎用人工知能を持つ兵器の展望と、人との関わりのお話。
【スーパーインテリジェンス】での人間を越える汎用能力を持つAI出現や、【誰のためのデザイン？】での人とシステムのインターフェース設計を思い出しながら読んだ。
自律型兵器が一線を越える前に決めておくべきルールのいくつかは顕在化できてるものの、残念ながら全く定まっていないところで開発が進んでる。そもそも何をもって自律した兵器と言うのかってところから。
過去のエピソードや、物理的な領域に限定されない自律型兵器の戦場についても広く紹介があった。兵器の話に止まらない、AIの活用と未来を考える本。
#読書 #AI #兵器 #早川書房

2019/12/07

自律型兵器の使用について、特に賛成でも反対でもなく、どちらの立場であってもよく検討しておかなければならいない事項を、具体的な内容とともに説明しており、非常に参考になった。

自律型兵器の問題は、結局のところ攻撃目標選択をAIという名のアルゴリズムに委ねている点であり、その（プログラムした人間の意図どおりという意味での）正確性と倫理的妥当性である（と私は考える）。

正確性はプログラムである以上限界があり、そのため現状は人間が自律型兵器のループ内に挟まる形となっているが、しかし人間が間に挟まろうが、意図をしないミスは発生するものであり、結局は自律型兵器の問題ではなく、例外事項発生時の対処を如何にするかの問題である。

後者の倫理的妥当性、つまり人を殺すという意思決定を、人間が下さずコンピュータが下すという行為の残酷さ、生命の扱いの軽さの問題については、そもそも人を殺すという行為そのものが残酷であり、アルゴリズムが決定したから残酷で、人間が決定した残酷ではないというのもおかしな話である。そもそもの判定プログラムのコーディングの時点で、どういった対象を殺害するという人間の意志は反映されており、直接の決定の部分をコンピュータが行ったから倫理的に妥当でないというのもナンセンスである。

ここまで考えると、自律型兵器の何が問題なのかよくわからなくなるが、しかし本書には倫理的妥当性に関して、その先のことが書いてあった。

人を殺すという意思決定は、人間が下そうが自律型兵器が下そうが残酷でおぞましいものであり、それが戦争というものであるが、そのおぞましい行為を自律型兵器に委ねてしまえば、人を殺すことにより生じる道徳的負荷を消滅または軽減してしまうことになる。
これは殺人という行為を悪いと感じなくさせてしまうことを意味し、確かにこういった意味で自律型兵器の問題は大きいと感じた。

遠距離精密兵器の登場により、殺人の道徳的負荷はどんどん軽減されっていっており、それを自律型兵器はより一歩進める可能性がある。

将来の戦争は、このまま殺人を前提としつつ、その道徳的負荷を軽減しながら実行していく形となるのか、それともサイバー戦のように、殺人は前提とせず、相手の国への意図の強要だけが行える形となっていくのか。

自律型兵器は、戦争のやり方という（従来戦の中での）作戦・戦術面の影響だけではなく、戦争のありよう・戦争への人間の関わり方を変えるという、より大きな影響を持つ重要な兵器なのだということに気づかされた。