悪のAI論 あなたはここまで支配されている 朝日新書705

平和博(著者)

• 販売会社／発売会社: 朝日新聞出版
• 発売年月日: 2019/02/13
• JAN: 9784022950062

商品レビュー

2025/05/06

正義も悪も吹き込ものは人間であると言う事
物事を正しく判断する。
その正しさを磨いていくことが大切である。

2022/05/28

欧州議会は2018年9月にLAWSの開発、製造、使用の国際的な禁止を止める決議を可決している。一方で米国、ロシア中国はAI兵器の開発に動いている。この現状は歴史上未曾有うで制御不能の軍拡競争を引き起こす可能性がある。また軍事面において人間による制御はほぼ完全に放棄し、誤動作の危険も放置されるという状況を作りだす。そんな倫理上の根本駅な懸念を生む。

2020/05/31

AIは恩恵とともに、次のような問題をもたらしている。
【監視される】
・人権団体が、アマゾンの画像認識AI「レコグニション」に、議員535人の顔写真を判定させる実験を行ったところ、28人を逮捕歴のある人物として誤認識した。
・FBIは、顔写真データベースを運用しているが、2016～17年にこれを調査した米会計検査院は、プライバシーと精度の確保が不十分だと指摘している。

【差別される】
・グーグルの広告配信システムのAIは、男女差別をする。男性の方が高収入・高ポストの求人広告が多く表示される。
・米国の警察が使う、AIで犯罪発生地域を予測するシステムは、警察官が集中的に見回る地域の犯罪発生率を高く予測する。そのため地域住民への差別や偏見を助長しかねない。

【殺される】
・人間を対象に、標的の特定から攻撃まで、すべてをAIが判断して行う「キラーロボット」の開発が進んでいる。

ーーーー✂ーーーー

人間はAIをコントロールできるのか。その懸念を表明したのが、理論物理学者のスティーブン・ホーキング氏。アルゴリズムによる高速取引が株式市場を混乱に陥れた例を挙げ、予見不可能な暴走の危険がAIに潜むと指摘した。

2018年、欧州委員会は「信頼できるAIの倫理ガイドライン」の草案を公開。
これは人権保護をベースに「信頼できるAI」を目指すもので、そのための要件として「自律性の管理（人間による監視）」「差別排除」など10項目を挙げる。