抑圧のアルゴリズム 検索エンジンは人種主義をいかに強化するか

サフィヤ・U.ノーブル(著者), 大久保彩(訳者)

• 販売会社／発売会社: 明石書店
• 発売年月日: 2024/02/08
• JAN: 9784750356860

商品レビュー

2024/05/06

カリフォルニア大学教育・情報学部教授による、検索エンジンの結果に関する偏りと不公平さについての一冊。
検索エンジンには図書館情報学の調査技術・手法が取り入れられており、多岐にわたる分野の情報を分類して網羅的に検索できるよう開発されました。
「黒人の女の子」を検索すると「白人の女の子」の場合とは異なり明らかに性的なバイアスを受けた結果が表示されることに衝撃を受けた著者は、図書館情報学を履修しその知見からこの問題を紐解いていきます。
「黒人」「女の子」のキーワード以外に結果に作用している見えない言葉があることは明白であり、これまでに他の使用者がAND検索してきた「セクシー」や「奴隷」や「猿」などのキーワードが蓄積されたことで紐付いたことが判明します。
不特定多数の人間が信用して使用する情報検索ツールがこの結果を当たり前にように提供するのですから、偏りや不公平さが問題となって然るべきだろうと思います。
現在ではアルゴリズムに変更が加えられ多くの人が求める“通常の”情報がまず表示されるようになっているようですが、結果として無関係なものや相応しくないものが引っ張られてくることもあり解決には至っていません。
本書は問題提起の意味で有意義な一冊となっていますが、結論までの解説が冗長で300頁を超える本にしては情報量が少ない印象を受けました。