悪のAI論 あなたはここまで支配されている 朝日新書705

平和博(著者)

• 販売会社／発売会社: 朝日新聞出版
• 発売年月日: 2019/02/13
• JAN: 9784022950062

商品レビュー

2022/05/28

欧州議会は2018年9月にLAWSの開発、製造、使用の国際的な禁止を止める決議を可決している。一方で米国、ロシア中国はAI兵器の開発に動いている。この現状は歴史上未曾有うで制御不能の軍拡競争を引き起こす可能性がある。また軍事面において人間による制御はほぼ完全に放棄し、誤動作の危険も放置されるという状況を作りだす。そんな倫理上の根本駅な懸念を生む。

2020/05/31

AIは恩恵とともに、次のような問題をもたらしている。
【監視される】
・人権団体が、アマゾンの画像認識AI「レコグニション」に、議員535人の顔写真を判定させる実験を行ったところ、28人を逮捕歴のある人物として誤認識した。
・FBIは、顔写真データベースを運用しているが、2016～17年にこれを調査した米会計検査院は、プライバシーと精度の確保が不十分だと指摘している。

【差別される】
・グーグルの広告配信システムのAIは、男女差別をする。男性の方が高収入・高ポストの求人広告が多く表示される。
・米国の警察が使う、AIで犯罪発生地域を予測するシステムは、警察官が集中的に見回る地域の犯罪発生率を高く予測する。そのため地域住民への差別や偏見を助長しかねない。

【殺される】
・人間を対象に、標的の特定から攻撃まで、すべてをAIが判断して行う「キラーロボット」の開発が進んでいる。

ーーーー✂ーーーー

人間はAIをコントロールできるのか。その懸念を表明したのが、理論物理学者のスティーブン・ホーキング氏。アルゴリズムによる高速取引が株式市場を混乱に陥れた例を挙げ、予見不可能な暴走の危険がAIに潜むと指摘した。

2018年、欧州委員会は「信頼できるAIの倫理ガイドライン」の草案を公開。
これは人権保護をベースに「信頼できるAI」を目指すもので、そのための要件として「自律性の管理（人間による監視）」「差別排除」など10項目を挙げる。

2019/08/24

2019年8月24日読了。旅行先で読了。リクナビによる内定辞退率の企業提供が非難を受ける中タイムリーな話題だった。既知の内容がほとんどだが、AI利用に傾斜していく世の流れは止めようがなく、それに対抗する手段は「みんなでルールを決めて、一定の規制をかけつつ賢く使いましょう」しかない、ということ、この「AIの悪用または意図せざる結果の発生」はすでに発生しているがそれに対する有効な対策は結局見いだされていないこと、「ディープフェイク」の動画などは、自分の中のストーリーや見たもののインパクトに引きずられてしまう我々人間の脆弱性を攻撃されているのだ、ということが非常に印象に残った…。科学の進歩が全てを解決する、などと楽観的にはいられないが、個人レベルでこれからの世界とどう付き合っていくか、は常に考えていかないといけないな。