アルゴリズムはどれほど人を支配しているのか？ 数学者が検証！ あなたを分析し、操作するブラックボックスの真実

デイヴィッド・サンプター(著者), 千葉敏生(訳者), 橋本篤史(訳者)

• 販売会社／発売会社: 光文社
• 発売年月日: 2019/04/17
• JAN: 9784334962289

商品レビュー

2023/02/25

バンクシーを探せ　AIで分析→8年前に週刊誌で報道されていたレベルと同じ

Facebookの広告　新規住宅購入、引っ越しの可能性が高い人向け→アフリカ系、アジア系、ヒスパニックを排除していた

友達のFacebookの投稿を分析　仕事、家族・パートナー…に関する投稿

2016年大統領選挙　ケンブリッジアナリティカ　神経質な人には恐怖情報　低ＩＱな人には陰謀論

75%の確率でクリントン氏勝利・25％の確率でトランプ勝利→意味不明、検証不能な主張

アマゾンおすすめ　人気コンテスト　Googleスカラー→大学教授の論文の引用数

出会い系アプリキンダー　2枚プロフィール写真を追加すれば選ばれる確率4倍　女性は情報を求める傾向がある・相手の求めている情報を与えることが必要

フィルターバブル　情報が入ってこない状態
面接でタトゥーが入っていると低評価→人間の判断の限界

ネット上の政治討論は、好きな話題よりも嫌いな話題に時間を費やしがち　私たちは相手方の指導者を批判したいという誘惑にはなかなか抗えない

フェイクニュースを作って実験→架空のフェイクニュースを見たことがあると回答する人多数

実権　家庭/仕事　男性名/女性名　連想テスト→多くの人は性差別者と判断される

AIへ質問「トランプとアメリカの関係はメルケルと何の関係に等しいか？」　アメリカ−トランプ+メルケル→答えはドイツ
座標軸上でトランプとメルケルの位置関係を分析　アメリカの位置関係を分析しそのメルケルの場合を回答している

2022/09/09

再犯防止のプログラムの話が興味深かった。再犯リスクが高いけど再犯しない人(偽陽性)の割合は黒人の方が高いからこれは人種差別プログラムとする挑戦者側と、再犯リスクの高い再犯する人を見つけ出す割合は黒人も白人も同じだから人種差別はないとする設計者側。どちらの言い分も正しく、社会のもともとの不均衡からどちらの言い分も満たすプログラムは作成不能。そう言う時にどちらを優先すれば良いのか。著者はこれに関しては社会の安全を守ることが優先なので設計者側のプログラムでいいのではと言うが、黒人に生まれて再犯しないのに長い間勾留されてもまあしょうがないか、と思えるかはわからないだろう。プログラムを作る側がより良い倫理観を備えることが必要だ。アルゴリズムが考えたことだからバイアスはないだろうという盲信も禁物。

2019/12/18

人を分析し、操るというアルゴリズム、現状の精度や影響力を検証。高速・大量に処理できるにしても、精度的には人間並みだったりランダムより多少よい程度。また、予測自体が人間の行動を変えることもあるし、人気投票的な動きになることもある。

外の(ちょっと詳しい)人が恐れを感じていることに対して、中の人から見るとまだそれほどの能力は持たないという状況。