悪のAI論 の商品レビュー

平和博(著者)

2022/05/28

欧州議会は2018年9月にLAWSの開発、製造、使用の国際的な禁止を止める決議を可決している。一方で米国、ロシア中国はAI兵器の開発に動いている。この現状は歴史上未曾有うで制御不能の軍拡競争を引き起こす可能性がある。また軍事面において人間による制御はほぼ完全に放棄し、誤動作の危険も放置されるという状況を作りだす。そんな倫理上の根本駅な懸念を生む。

2020/05/31

AIは恩恵とともに、次のような問題をもたらしている。
【監視される】
・人権団体が、アマゾンの画像認識AI「レコグニション」に、議員535人の顔写真を判定させる実験を行ったところ、28人を逮捕歴のある人物として誤認識した。
・FBIは、顔写真データベースを運用しているが、2016～17年にこれを調査した米会計検査院は、プライバシーと精度の確保が不十分だと指摘している。

【差別される】
・グーグルの広告配信システムのAIは、男女差別をする。男性の方が高収入・高ポストの求人広告が多く表示される。
・米国の警察が使う、AIで犯罪発生地域を予測するシステムは、警察官が集中的に見回る地域の犯罪発生率を高く予測する。そのため地域住民への差別や偏見を助長しかねない。

【殺される】
・人間を対象に、標的の特定から攻撃まで、すべてをAIが判断して行う「キラーロボット」の開発が進んでいる。

ーーーー✂ーーーー

人間はAIをコントロールできるのか。その懸念を表明したのが、理論物理学者のスティーブン・ホーキング氏。アルゴリズムによる高速取引が株式市場を混乱に陥れた例を挙げ、予見不可能な暴走の危険がAIに潜むと指摘した。

2018年、欧州委員会は「信頼できるAIの倫理ガイドライン」の草案を公開。
これは人権保護をベースに「信頼できるAI」を目指すもので、そのための要件として「自律性の管理（人間による監視）」「差別排除」など10項目を挙げる。

2019/08/30

2019年8月24日読了。旅行先で読了。リクナビによる内定辞退率の企業提供が非難を受ける中タイムリーな話題だった。既知の内容がほとんどだが、AI利用に傾斜していく世の流れは止めようがなく、それに対抗する手段は「みんなでルールを決めて、一定の規制をかけつつ賢く使いましょう」しかない、ということ、この「AIの悪用または意図せざる結果の発生」はすでに発生しているがそれに対する有効な対策は結局見いだされていないこと、「ディープフェイク」の動画などは、自分の中のストーリーや見たもののインパクトに引きずられてしまう我々人間の脆弱性を攻撃されているのだ、ということが非常に印象に残った…。科学の進歩が全てを解決する、などと楽観的にはいられないが、個人レベルでこれからの世界とどう付き合っていくか、は常に考えていかないといけないな。

2019/06/02

ビジネス雑誌の書評を見て購入
もう少しバランス良く書いているのかと思ったら、かなり思い込みというか偏りを感じてしまった。
もしかしたら、昨今のAI礼賛風潮に警鐘を鳴らすため敢えて極端なアンチという立ち位置を使っているのかもとも思うが。
終章がなければ、残念という結果だったと思うが、「21世紀の電気」云々でちょっと持ち直してイーブン。

2019/04/18

NEC顔認証システム　ネオフェイス　照合精度 99.2%
法務省　パナソニック　顔認証システム

AIで自動合成　ディープフェイクス

フェイスブック　選挙　ケンブリッジアナリィティカ

AIは万能には程遠いが、様々な点で、人間をはるかに超える能力を持つ

電卓としては桁外れの能力を持つが、公平については理解出来ない

マクルーハン　メディアはメッセージである
我々はバックミラー越しに現代を見ている。われわれは未来にむかって、後ろ向きに行進している

AIが学習するデータは過去の社会を反映したものだ。そのバックミラーを通して、私達は未来を見ようとする。そこには、過去の社会のバイアスやゆがみの影も映し出される

AIのバックミラーが映し出す過去の社会の課題を見つめ、変えていこうとすることで、新たな未来を描くことは可能だ。

2019/03/13

ai＝便利になる、もしくは人間の仕事が取られる、というような文脈でしか意識してなかったけれど、「悪」という視点を初めて持つことができた。

aiそのものが悪というよりは、その使い方。学習方法。
そもそも、aiは万能ではない。
悪意を持って使えば悪になる。

2019/02/25

＜目次＞
序章　　　三つの「スカイネット」の影
第１章　　監視される～あなたはAIの目から逃げられない
第２章　　差別される～就職試験もローン審査もAI次第？
第３章　　殺される～米IT大手が軍事協力
第４章　　騙される～あなたの「ポルノ」が作られる
第５章　　AIを「邪悪」にさせないために
終章　　　「21世紀の電気」の使い方

＜内容＞
AIは確かに恐ろしい。だが、元データを入れているのは人間。操作をするのも人間。結局ここに問題がある。AIが暴走するのはないのではないか、と思うが、それを邪悪な人間がデータを入れ、操作すれば「殺人兵器」も「思想統制」もできるのだろう。そこを防御するための施策が必要だろう。