NOISE(下) の商品レビュー

ダニエル・カーネマン(著者),オリヴィエ・シボニー(著者),キャス・R.サンスティーン(著者),村井章子(訳者)

2022/07/31

・どんな意思決定にも予測的判断がかかわってくる。予測的判断においては、正確性が唯一の目標であるべきだ。だからあなた個人の価値観は事実から切り離しておくように
・人間はご機嫌だとでたらめを受け入れやすくなり、また全般的に騙されやすくなる。つまり、つじつまの合わないところを探し出したり、嘘を見抜いたりする気がなくなってしまう
・カスケード効果：情報カスケードとは大勢の人が順番に前の人の選択情報を参照しながら判断する場合に、自分自身の持つに基づかず、多数派の選択肢を選ぶ傾向を指す
・機械学習アルゴリズムは、ほかのモデルが見落としてしまうような変数の組み合わせの中に重要なシグナルを見つける。データに隠れているある種の極めて稀なパターンがハイリスクと強く創刊しており、アルゴリズムはそれを発見できる
・結論バイアス：初めから特定の結論を目指して判断プロセスを開始すること
・過剰な一貫性：予断を持っているとき、それを裏付ける証拠ばかり探し矛盾する証拠は無視する各省バイアスも、後から出てきた重要な証拠を過小評価する点で似ている

・ノイズとは、各人に備わった「判断者としての性格あるいは個性」の副産物なのである
・優れた判断者は、自分の最初の考えに反するような情報も積極的に探し、そうした情報を冷静に分析し、自分自身の見方と客観的に比較考量して、当初の判断を変えることをいとわない人、いやむしろ、すすんで変えようとする人である。リーダーが決断力を発揮するのはプロセスの最後であって、最初ではないのだ
・人間の判断は、たとえば、怒りや怖れといった感情的要因にも左右される（機会ノイズ）。だから、可能であれば数日、数週間後にもう一度判断するのは良い習慣である。
・超予測者は、自分の当初の仮説に反するような情報や反対意見を積極的に探し、反対意見が正しく、自分の判断が間違いである可能性をいつでも認める用意があり、「自分と同じ意見の人より違う意見の人に耳を傾けるほうが有益だ、と考える。自分の予測を絶えずアップデートし、自己改善することこそが、超予測者の必須条件である
・判断を分解する、評価を独立に行う、総合判断は最後に行う
・初めから非構造化面接のようなものを行っていると、最後に下すべき結論のことが頭から離れず、すべての情報を常に最終目標に照らしてみてしまう。議論の最初から落としどころを探っていて、結局遅かれ早かれそこに到達する。集合知を生かせない
・分析チームのミッションは「最終決定においてこの項目がどのような重みづけがされるかはべつとして、この項目の評価に関する限り買収はイエスかノーか」というシンプルな問いに対する答えになる
・基準率と比較した相対的な統計的評価を入れる
・とりわけ重要な判断の場合には、大方の人が何らかのスキームや計算式に縛られることを嫌がるし、それを使って判断することに頑強に抵抗する。計算式を使わなければならないことが決まると、システム自体を都合よく捻じ曲げ、望みの結論に達するよう採点を変えてしまったりする。そのため、プロセスの最後までは独立して評価を行う必要がある
・創造性豊かな人間には、それを発揮する場を与えてやらなければならない。人間はロボットではないのだ。どんな職業でも、人間には判断の余地を与える価値がある。君を規則でがんじがらめにしたら、君はノイズを出さないだろう。だが、全然楽しくないから、独創的なアイデアも出てこなくなる
・不正行為を防ぎたいなら、ある程度のノイズは容認しなければならない、学生たちが、論文の盗用をしたらどんな罰を受けるかわからない状態にしておくほうがいいのだ。そうすれば盗用を慎むだろう、ノイズの形でいくらか不確実性を残しておくことが抑止効果を高める
・実効性のあるルールの策定に必要な情報を持ち合わせていないケースのほうが重大な問題
・プロジェクトマネジャーに適任なのは、会社の管理部門の幹部クラスである。社内の手続き上の面倒を避けられるメリットがあり、会社がノイズ検査に本気で取り組んでいるというメッセージを発信できる
・最近起きたとか、劇的であるとか、個人的に重要な意味があるといった理由から、あまり関係のない出来事や情報を過剰に重視していないか

2022/07/27

判断ある所にはノイズがある。アルゴリズムで判断した方が直感よりもノイズが少ないという理論は理解できるが、そればかりで面白味のない世の中になるような気がする。その弊害も指摘されているが、思ったよりもノイズが多いこととその弊害も多いことがわかった。

2022/05/22

下巻は、統計的な手法から距離を置き、各人の資質、個人の判断を中心として、バイアス、ノイズの排除に関する考察です。

下巻の範囲は以下

第４部　人間心理に立ち戻り、ノイズが生じる根本原因の検討（途中から）
第５部　判断を改善しエラーを防ぐ実際的な問題への取組み
第６部　ノイズの適正水準はどの程度なのか。経済的な要請からの考察

終章に展開される結論は以下です。

人間の判断を補うために、今日よりずっと幅広くアルゴリズムが導入されるようになる
複雑な判断はシンプルな媒介評価項目によって分解される
できるだけ多くの独立した判断を集めて統合される。
統計的な視点が組織的な判断プロセスに組み込まれるようになる。意見の不一致が表面化するようになり、それを建設的に解決できるようになる
その結果、ノイズの少ない世界が実現され、無駄な支出や、損失が大幅に減り、公共の安全と健康が改善される。

下巻にて気になったことばは次です。

・良い判断は、良い人材から。専門家の中には、同業者から尊敬されるリスクペクト専門家がいる。
・ＩＱ（知能指数）よりも、ＧＭＡ（一般知的能力）とよい判断との相関性がある。つまり、知的であれば、判断もよりよくなる。
・認知スタイル：判断すべき問題に直面したときのアプローチ　問題を深く考えるタイプか、それとも、直感的に判断をするタイプか。
　あきらかに、直感的に判断をするタイプの方が、判断エラーを犯しやすい
・判断からバイアスを排除する方法は２つある。
　事前方式　体重計がくるっている場合、事前に調整をして、計測の結果を正確にする　⇒ナッジという
　事後方式　体重計がくるっている場合、計測して、誤差を計測結果から修正する
・バイアスは存在するが、すべてを排除することはできない
・リアルタイムでバイアスを排除するアプローチ：オブザーバー
・判断ハイジーン：ノイズは予測不能なエラーであるが、ノイズを減らすアプローチ
　　バイアスの排除⇒病気の治療
　　ノイズの排除　⇒予防的な衛生管理：これを判断ハイジーン　という
・予測精度の向上：各判断者には、状況や他判断者の判断結果を知らせずに情報を与える。それぞれの判断を最後に総合的に判断する
・判断にガイドラインを利用する
・グーグル面接の３つの原則
　①媒体評価項目　構成要素に分解し、ガイドラインとして作成する
　②独立：評価項目ごとに質問し、情報を収集し、個別に評価する。項目ごとに独立して行う
　③総合判断：最後の最後まで判断を遅らせる

・ノイズの排除　ノイズをゼロにすることはできない
・アルゴリズムはノイズを排除するがバイアスを排除できない
・データにバイアスがかかっているケースがある
・ノイズを削除するためにルール化をするのかそれとも規範とすべきか。ルール化するためには、多様な人々の賛同を得にくい。

目次は以下です。（上下巻　通し）

上巻

序章　二種類のエラー

第１部　ノイズをさがせ
　第１章　犯罪と刑罰
　第２章　システムノイズ

第２部　ノイズを測るものさしは？
　第４章　判断を要する問題
　第５章　エラーの計測
　第６章　ノイズの分析
　第７章　機会ノイズ
　第８章　集団によるノイズの増幅

第３部　予測的判断のノイズ
　第９章　人間の判断とモデル
　第１０章　ルールとノイズ
　第１１章　客観的無知
　第１２章　正常の谷

第４部　ノイズはなぜ起きるのか
　第１３章　ヒューリスティクス、バイアス、ノイズ
　第１４章　レベル合わせ
　第１５章　尺度

下巻

　第１６章　パターン
　第１７章　ノイズの原因

第５部　よりよい判断のために
　第１８章　よい判断はよい人材から
　第１９章　バイアスの排除と判断ハイジーン
　第２０章　科学捜査における情報管理
　第２１章　予測の選別と統合
　第２２章　診断ガイドライン
　第２３章　人事評価の尺度
　第２４章　採用面接の構造化
　第２５章　媒体評価プロトコル

第６部　ノイズの最適水準
　第２６章　ノイズ削減のコスト
　第２７章　尊厳
　第２８章　ルール、それとも規範？

まとめと結論　ノイズを真剣に受け止める
　終章　ノイズの少ない世界へ

2022/03/21

行動経済学という学問をまさしく一般に普及させた立役者の一人といえば、『ファスト＆スロー』等の著作で知られるダニエル・カーネマンであろう。彼が、ナッジ理論の理論的中枢もであるキャス・R・サンスティーンらと記した新作にあたり、行動経済学の新たな世界が開けた、といっても過言ではない面白さに満ち溢れている(私はこの本をコロナワクチン3回目接種の副反応で寝込んだベッドの中で読み通してしまった。そのくらい面白い)。

行動経済学の定義は幾つかあると思うが、オーソドックスな定義の一つは”人間の不合理な行動やエラーというのはなぜ起きるのかを解き明かす学問”であるというものではないか。その際によく言及されるのが”バイアス”と呼ばれる人間のものの見方の偏りである。

しかし、不合理な行動やエラーを起こす要因としてもう一つ大きなものがある。それが本書のテーマ、”ノイズ”である。本書は行動経済学の中で”バイアス”ばかりが語られている点を是正すべく、いかに”ノイズ”が我々のエラーを巻き起こしているのか、そしてその対処法までを明らかにする。

ここでいう”ノイズ”とはいわゆる分散の概念である。
例えばダーツに的を投げたときに、
・投げたダーツが一定のエリアに集中している⇒”バイアス”
・投げたダーツがバラバラに散っている⇒”ノイズ”
ということになる。

合理的な意思決定をしているようで実は”ノイズ”によって人間の意思決定がてんでばらばらであるということを明らかにする事例として、同一人物による病気の診断や保険金の支払査定などのバラつきのデータを見ると、これが恐ろしいほどの分散を見せる。その分散はあまりにもひどいため、過去に自身が判断したデータを用いて簡単な機械学習モデルを作ると、遥かに機械学習モデルの方が高い精度を出せるという。

”ノイズ”の要因は色々あるが、大きいのはそのときの人間のストレス、気分などである。疲れを知らず感情に惑わされることがない機械学習モデルが高い精度を出すのも、むべなるかな、というところであろう。

さて、そうした”ノイズ”の実態、それがどれだけのエラーを巻き起こし、結果として社会にどれだけの余剰コストを生み出しているかを考えると、この対処策が重要になってくる。本書では簡単なテスト形式で、具体的に組織の”ノイズ”を減らすための処方箋も示されている。

”バイアス”が行動経済学のキーワードとなったように、ワーディング自体は全く珍しくもなんともないものの正しくその弊害が認識されていない”ノイズ”をいかに扱うか、これは行動経済学の実践としてより良い社会・組織を作っていく上で、必須のものになっていくのではないか、という強い期待すら感じた。

2022/03/19

ノイズを減らすための各ステークホルダーの合意は取れるのだろうか。
そのプロセスに大きなコストがかかりそうな気がする。

2022/03/13

判断あるところにノイズあり。
私たちは一日に何回もさまざまな判断をしているが、そこには大なり小なりノイズが含まれている。

プライベートなことに関する判断は、ノイズがあろうとなかろうと自分自身で納得すれば済む話かも知れないが、仕事上の判断にひそむノイズは分かりにくいだけで、どこかしらに損害を生んでいる可能性があるようだ。

バイアスに関しては一般的に浸透していると思うが、これからはノイズに関してもっと注意する必要があると感じた。

2022/02/23

レビューはブログにて
https://ameblo.jp/w92-3/entry-12728413113.html

2022/02/16

上巻の方では、ノイズとは何かについて紙幅が割かれていた。
今回の下巻の方では、ノイズを防ぐ方法について言及されている。
本書（上下両巻）を読んでいくと「ノイズは厄介だ！良い判断をするためにも、全ての意思決定プロセスを厳しく取り決めよう！」という発想に陥りやすい。たしかに、筆者たちは「判断ある所にノイズあり」と繰り返し訴えている。ノイズが意思決定において好ましくない存在であることはその通りなのだ。その領域が、医療業界など、専門性の高い分野なら尚更のことである。
しかし、全ての判断をアルゴリズムやAIに委ねることも危険だと筆者らは言う。結局のところ、最終的な判断は人によって下されることが望ましい。筆者らが訴えるのは、最終判断を下すまでの過程に問題があるということなのだ。
ノイズを減らす方法として、筆者たちは「判断ハイジーン」という手法を提供している。ハイジーンというのは日本語で「衛生管理」を意味する。本書を読めばわかるが、往々にしてノイズの存在は気付きにくいもので、それゆえに対策をしたところで明白な効果が出ているかどうかが分かりにくい。が、確実にノイズによる影響は存在するし、それが悪いものなら対策をするに越したことはない。これは、私たちが日常的に行う「手洗い」と似たようなものだ。手にどんな菌が付着しているかわからないけれども、手を洗えばそれらの菌は消滅する。
このように、ノイズ対策と手洗いは、悪影響をもたらす正体が不明瞭だがそれが悪い影響をもたらすのは確実なので事前に対策をしたほうが良い、という点で非常に似ている。それゆえに「ハイジーン（衛生管理）」という名前がつけられた。
下巻では「判断ハイジーン」における6つの原則が紹介されている。良い判断を下すためにはこれらを遵守することが求められる。

原則1
判断の目標は正確性であって、自己表現ではない

原則2
統計的視点を取り入れ、統計的に考えるようにする

原則3
判断を構造化し、独立したタスクに分解する

原則4
早い段階で直感を働かせない

原則5
複数の判断者による独立した判断を統合する

原則6
相対的な判断を行い、相対的な尺度を使う

以上の原則を守れば、良い判断が下せる可能性が高い。本書における最重要部分はこの原則だと言えよう。この部分さえ意識し判断を行えば御の字である。
人は往々にして自分の力のみで判断を下したい生き物だ。しかしそれは自分が懊悩して出した結論に対する自分へのご褒美のようなものだと筆者たちは指摘する。その判断がたとえ気持ちの良いものであったとしても、そのことが優れた判断だと言える根拠にはならない。
しかし、悲しいかな、彼らはその快楽に浸りたいために、意思決定プロセスにおけるノイズの削減を拒む。それが最悪の状況を招く可能性があったとしても。挙句の果てには、ノイズの削減はコストが嵩むなどと主張して己の怠慢を正当化する。
実際、ノイズの削減には多くの批判が投げられ回避されていきたと筆者は言う。たしかに、判断ハイジーンのみならず、アルゴリズムやAIですら間違うことがある。だからと言ってノイズ削減を怠るのは優れた決定者としてあるまじき行為だろう。良い意思決定者として行うべきは、ノイズを削減する効果的な方法を模索することなのだ。断じて、それを等閑にすることではない。
本書の最後では、筆者らがノイズのなくなった世界を夢想する。その世界では、「無駄な支出や損失が大幅に減り、公共の安全も健康も改善され、何より公平性が向上して回避可能な多くのエラーが防止される」そして、この世界に少しでも近づくために「ノイズ」という厄介者に目を向けてほしいと読者に訴えていた。

2022/01/27

簡単にノイズを知りたいなら、この下巻のまとめと結論の章を読めばわかります。
ただし、事例があった方がわかりやすいので、上下巻をを読むことをおすすめします。

2022/01/07

この本は、裁判官や医者などの社会的地位が高く、信用の高い人たちの判断にもノイズ（判断のばらつき）がありますよー！しかも思ったより大きなばらつきです❕と考察しています。
めちゃくちゃ論理的で納得できるいい本でした！
ぜひぜひ読んでみてください。