NOISE(下) の商品レビュー

ダニエル・カーネマン(著者),オリヴィエ・シボニー(著者),キャス・R.サンスティーン(著者),村井章子(訳者)

2024/01/18

# 組織的エラーの仕組みと正しさへの道標

## 面白かったところ

- バイアスが強いエラーなのか、ノイズ起因のエラーなのか、この下巻を読むことでより明瞭になった点

- 企業理念やルールや規範が人間社会で長生きしている理由がわかる点

## 微妙だったところ

- 特になし

## 感想

組織により踏み込んだ、エラーとバイアスについての内容。

特に面白かったこととして、アメリカの指紋分析官の話があった。国家随一の専門職である指紋分析官という役職に加えて、指紋鑑定という信頼度の高い（より正解に近い）証拠という組み合わせだからこそ、容疑者の冤罪をなかなか立証できなかったという事実。

これは組織の中で輝かしい存在、例えばエキスパートとかスペシャリストなどの肩書だと身近に映るだろう。

この人たちの決断が必ずしも正解とは限らないし、反芻努力の欠如が無関係の人を悪い意味で巻き込むことになる良い事例だった。

上記の特別な人達も `人間` なので、文字通りヒューマンエラーを起こしうる。

この現実を教訓として我々は意味のあるルールや規範を整える必要があるし、より正解に近づくために時にはノイズをかけて群衆の叡智の力を借りねばならんということなんだろう。

アニメ『PSYCHO-PASS』の世界観と照らし合わせると、どこか自分の中で腑に落ちた。

人間じゃない何かが決断し、裁き、すべてが決められた社会では、ノイズが起きようもないしバイアスのみが存在する。

人間の判断というノイズがないとバイアスの方向転換はできないし、人間社会とは到底言えないものである。

主人公の常守朱が発したセリフの中で、よいものがある

常守「法が人を守るんじゃない、人が法を守るんです」

法を `バイアス` 、人を `ノイズ` と読み替えると、どちらかが悪や正義ではなく共存するものだということがよく理解できた。

2023/08/24

上下巻感想
自分の判断、会社としての判断は正しいのか？大丈夫？と考え読み始めた。
例えば難民認定の許可は審査官によって大きく違い、ある人は5％ある人は88％の許可していた事や100人の精神科医の診断結果は54％しか一致しなかったなどなどの沢山の事例や調査結果に驚かされた。そう言った判断は明確な基準があり間違いがないと考えていたがほとんどの場合、大きな乖離があるという。ではそれが何なのか？その原因は大きくバイアスとノイズに分類され違いは簡単に言うと、銃で的を狙い一定方向に的を外す要因はバイアス、上下左右などランダムに外す要因がノイズということだった。ノイズにもいろいろなものがあり、発生の事例や要因や測定方法や対処法が分かりやすく書かれていた。この本を読むことによって自分が思っているより自分が冷静で客観的な判断ができていないという事実を認識して、対処法を講じていく必要があると感じた。またアルゴリズムでの判断と人間の判断の違いや有効性は人事評価などノイズが発生しやすい場面で適応できるシステムの必要性を感じた。
また、前作でも感じたが作者がノーベル賞受賞者でありながら、専門家の無能を辛辣に笑い飛ばす語り口がとても痛快だった。自分の馬鹿さ加減も深く認識させられる。

2023/08/06

興味深い本だった。
ノイズやバイアスは時に、不公平を生み出し、様々なところで影響を及ぼす。
人間の思考からノイズやバイアスをいかに除去するか、色々な方法がある。

2023/06/20

普段の生活に存在するノイズを具体例を用いて説明してくれているのですごく分かりやすかった。
ノイズを防ぐためにどうすればいいのか、また、ノイズをなくしていくことでどういったことが起きるのかをよく理解できた。
きっちりとした成果を出していくためには、ノイズが生じにくい環境作りが大切。しかし、ノイズが皆無であれば、システムが崩壊する可能性もあると思った。
いいバランスでノイズを削減していくことが重要である。

2023/01/22

上巻よりも読みやすかった。
バイアスとノイズ。
計量経済学での攪乱項を深く分析していると認識しました。

2022/10/18

ノイズが思った以上に多く、これを少なくすることは簡単ではない。
人間に首尾一貫した判断が苦手であり、やはりガイドラインのようなものでかなり判断の振れ幅を抑えてやる事が必要だとよくわかる。
このガチガチのガイドラインは、日本人にはかなり好まれる傾向にあるとは思うが、融通の効かない社会は息苦しい。
筆者の対策を、うまく使って行きたい。

2022/10/09

ノイズを減らす方策としての判断ハイジーンが紹介されていた。予防的な衛生管理に似てるからハイジーンらしい。

判断ハイジーンとしては、ガイドラインやルールの設定、判断の統合、媒介評価プロトコルのような構造化プロセスが紹介されていた。

仕事上の判断でノイズがあるなと思い当たることがあるけど、ノイズを減らすコストと便益を考えていきたい。

2022/08/15

ノイズの事例や著者の例えが分かりやすく終始読みやすかった。バイアスとノイズの関係性やノイズの分析はプロフェッショナルのみならず活かせるものがあると思う。
あと、｢人間の不合理｣という話題は尽きない。自分の気持ち良さを優先してしまう愛すべき人間だなぁと。

2022/08/15

上巻に引き続き読了した。
前作ファストアンドスローに比べて、非常に表面的に見つけることの難しいノイズ（バラツキ）についての内容で、前著ほど事例が腑に落ちない箇所が多くて、実践するためには読み込むことが必須の本だった。

2022/07/31

・どんな意思決定にも予測的判断がかかわってくる。予測的判断においては、正確性が唯一の目標であるべきだ。だからあなた個人の価値観は事実から切り離しておくように
・人間はご機嫌だとでたらめを受け入れやすくなり、また全般的に騙されやすくなる。つまり、つじつまの合わないところを探し出したり、嘘を見抜いたりする気がなくなってしまう
・カスケード効果：情報カスケードとは大勢の人が順番に前の人の選択情報を参照しながら判断する場合に、自分自身の持つに基づかず、多数派の選択肢を選ぶ傾向を指す
・機械学習アルゴリズムは、ほかのモデルが見落としてしまうような変数の組み合わせの中に重要なシグナルを見つける。データに隠れているある種の極めて稀なパターンがハイリスクと強く創刊しており、アルゴリズムはそれを発見できる
・結論バイアス：初めから特定の結論を目指して判断プロセスを開始すること
・過剰な一貫性：予断を持っているとき、それを裏付ける証拠ばかり探し矛盾する証拠は無視する各省バイアスも、後から出てきた重要な証拠を過小評価する点で似ている

・ノイズとは、各人に備わった「判断者としての性格あるいは個性」の副産物なのである
・優れた判断者は、自分の最初の考えに反するような情報も積極的に探し、そうした情報を冷静に分析し、自分自身の見方と客観的に比較考量して、当初の判断を変えることをいとわない人、いやむしろ、すすんで変えようとする人である。リーダーが決断力を発揮するのはプロセスの最後であって、最初ではないのだ
・人間の判断は、たとえば、怒りや怖れといった感情的要因にも左右される（機会ノイズ）。だから、可能であれば数日、数週間後にもう一度判断するのは良い習慣である。
・超予測者は、自分の当初の仮説に反するような情報や反対意見を積極的に探し、反対意見が正しく、自分の判断が間違いである可能性をいつでも認める用意があり、「自分と同じ意見の人より違う意見の人に耳を傾けるほうが有益だ、と考える。自分の予測を絶えずアップデートし、自己改善することこそが、超予測者の必須条件である
・判断を分解する、評価を独立に行う、総合判断は最後に行う
・初めから非構造化面接のようなものを行っていると、最後に下すべき結論のことが頭から離れず、すべての情報を常に最終目標に照らしてみてしまう。議論の最初から落としどころを探っていて、結局遅かれ早かれそこに到達する。集合知を生かせない
・分析チームのミッションは「最終決定においてこの項目がどのような重みづけがされるかはべつとして、この項目の評価に関する限り買収はイエスかノーか」というシンプルな問いに対する答えになる
・基準率と比較した相対的な統計的評価を入れる
・とりわけ重要な判断の場合には、大方の人が何らかのスキームや計算式に縛られることを嫌がるし、それを使って判断することに頑強に抵抗する。計算式を使わなければならないことが決まると、システム自体を都合よく捻じ曲げ、望みの結論に達するよう採点を変えてしまったりする。そのため、プロセスの最後までは独立して評価を行う必要がある
・創造性豊かな人間には、それを発揮する場を与えてやらなければならない。人間はロボットではないのだ。どんな職業でも、人間には判断の余地を与える価値がある。君を規則でがんじがらめにしたら、君はノイズを出さないだろう。だが、全然楽しくないから、独創的なアイデアも出てこなくなる
・不正行為を防ぎたいなら、ある程度のノイズは容認しなければならない、学生たちが、論文の盗用をしたらどんな罰を受けるかわからない状態にしておくほうがいいのだ。そうすれば盗用を慎むだろう、ノイズの形でいくらか不確実性を残しておくことが抑止効果を高める
・実効性のあるルールの策定に必要な情報を持ち合わせていないケースのほうが重大な問題
・プロジェクトマネジャーに適任なのは、会社の管理部門の幹部クラスである。社内の手続き上の面倒を避けられるメリットがあり、会社がノイズ検査に本気で取り組んでいるというメッセージを発信できる
・最近起きたとか、劇的であるとか、個人的に重要な意味があるといった理由から、あまり関係のない出来事や情報を過剰に重視していないか