思考からの逃走 の商品レビュー

岡嶋裕史(著者)

2024/06/11

p7 AIに判断を任せるのは、これまで繰り返してきた外部化、たとえば走るの外部化（自動車）や覚えておく力の外部化（メモやストレージ）とは位相が異なる。それは、人間の核心的な能力である思考の外部化だ。
　行き過ぎたアウトソーシングによってコアコンピタンス（中核競争力）を失った企業が迷走し、やがて衰えていくように、ある瞬間を切り取っていくら効率的・合理的にみえたとしても、自らの核となるべき力を手放してしまったら、ゃはり人の力も衰退し、その存在意義さえ失ってしまうのではないか。そう憂慮している

p44 印象派　カメラ他の発達　キュビズム

p46 AIに仕事を奪われる
単純作業を奪われたら意外と人間に仕事は残っていない

p47 AIが不得手としていて、人間に活躍の場が残されていそうなのは、比較的単純でコミュニケーションを要する作業、つまり荷物の配送や店舗での小売、介護かもしれません

p48 すると、高度な意思決定はAIが行い、それを実現するための現業的作業を人間が担う層構造をもつ社会が、そう遠くない未来に現出する可能性があり。そして、この社会構造は短絡的で情緒的、近視眼的になりがちな人間の意思決定より、社会全体に目配りした医師決定ができる可能性があるのだ

p52 いまAIと呼ばれているものは、事前問題解決的な手続きは不得手である。それより、発生してしまった問題を理想状態へもっていくためには、どうしたらよいかの演算に向いている

p66 もう考えつくものは外部化しつくしてしまって、最後に残った大物が思考である。これを外部化できるキラーアプリケーションが、AIだ。

p82 体験はコピーできない
つまりコト消費にいきつく。コピー不可能なものであれば、消費者はお金を払ってくれる

体験の切り売り　握手会

p90 AIが決定したにも関わらず、自分で決定したように錯覚させる知見と技術がもっと洗練させていくだろう

p166 ネットワークを使ったサービスには、サーノフの法則やメトカーフの法則が適応されるものが多い

p201 境界線の細分化
境界線で一人ひとりに区切ってしまうのだ、交わらなければ、接触しなければ、トラブルは起こらない

p207 正しい方向へ修正するのだからいいのではないか、という反論は成立すると思う。しかし、その正しさは誰が決めたのだ？わたしたちはそれに同意したのか？

p228 よい君主のもといで奴隷でいるほど楽な生き方はないという言い方があるが、AIはその誤謬の少なさ、恣意性のなさにおいて、かなりいい君主なのではないだろうか

p230 amazonの採用システムは、女性とマイノリティの採用率を低く留めた。採用システムに彼女ら彼らに対する偏見や生理的嫌悪感などがあったわけではない（そんな高度な機能は実装されていない）単に過去から最善の行動を学んだ時に、過去の事例で白人の男性を多く採用していただけだ

それが過去の成功事例とされていれば、AIはそこから学ぶ。AIに偏見がビルトインされていなくても、AIが学ぶ現実の社会現象とデータには常にバイアスがかかっていうｒ．AIにそれが取り込まれることで、差別が正当化される懸念すらある。それなかばと学習が終わったAIに理想的な挙動なるよう手を加えれば、そこには手を入れた人の恣意性が必ず加わる

公平は機械にとって最も難しい。機械化、自動化すれば公平になるほどシンプルなものではない。そもそも公平の定義自体がとても危ういのだ

p327 意思決定を外部化した時、この矛盾を生み出す主体はAIになる。それが許容化できるかどうかである。人が相手であれば、どう異論を差し挟めばいいか、どうこうどうすればいいか、わたしたちには積年の蓄積があり、手順がある。AIを相手にそのプロセスが確立できるのか？

矛盾や不正、事故の確率が高くても、人間が意思決定することが尊いのか、それともAIにまかせてしまうのがいいのか。そもそも正義とは、公平とはなんなのか

p247 何度でも繰り返すが、いったん外部化してしまった機能を、もう一度取り戻すことは至難である。一度かけてしまったメガネを手放せるだろうか？

考えることを辞めない限り、未来はまだ開かれている。

2024/01/21

AIが自ら思考するよりも最適解を出してきた世界で人間はどう生きるのか？
今後、予想できないくらい確実に進化していくChatGPTが既にある中での自分の存在意義は？

2023/12/07

技術者らしいぶっちゃけた書きぶりは、時にポリティカルに危うく感じられるところもあるが、それが著者の言わんとするところを飲み込みやすくもしている。「AIを完全に信用するわけではないが、人よりはまし」。この気分(あるいは事実)と我々はどのように向き合っていくべきか。様々な話題を提供しながら、真っ当な議論を展開している。

2023/08/28

AIが生活に組み込まれているのは間違いない事実で、どう向き合うかを考えさせられた。機械に出来ることは機械にやらせて、人間は人間しか出来ない仕事をするべきとはよく言われることだが、この本は人間しか出来ない仕事は無駄な仕事を生み出すことと言い切っており、人間の仕事の価値を鋭くえぐっている。考えることから逃げ出さずに、どうAIと向き合い付き合っていくかを真剣に考えるべきと感じた。

2023/02/23

ＡＩはすでに現代社会に組み込まれている。まずその認識。人間は考えることが面倒で、他者に任せたいところがある。それをＡＩが代替する。そして適切な結果を与える。
我々はスマホ、SNSに気付かぬ形で支配されている。しかし善意の支配であり、受容するメリットが大きい。
例えばコンビニの棚の配置は売上を上げるためにＡＩが導き出したものである。それを利用するユーザーはもうＡＩに縛られている。しかしそれを意識していないし、嫌だとも感じないし、良い商品が手に取りやすい配置になっていれば、メリットが大きい。
しかしＡＩの出した結果が人間にそぐわないことがある（間違いではない。ＡＩとしては正しい判断結果である）。その場合人間はＡＩを罰することができるのか、というのは面白い着想だ。

その他、種々の着想がユニークで面白い。

読了60分

2023/01/28

人間の、感情やバイアスに支配された不合理な判断よりもAIの判断に委ねる機会は今後増えていく。物心ついたときからAIがいる人が増えるのだからなおさら。
一方でAIに判断基準を教えるのは人間。例えば自動運転時の衝突回避で歩道側にハンドルを切るのか対向車線側にハンドルを切るのか、といった重い判断と責任を負う場面が出てくる。
人間はいつか思考から逃げ切るのか、それが人間にとって幸福なのか。

2022/04/24

実に鋭い。
主張が正しい、間違い以前に、視点と着想が鋭い。
「人の無駄な仕事を考えつく能力は圧倒的(よってAIに仕事を奪われることはない)」
「よい君主のもとで奴隷でいることほど楽な生き方はない」
には完全に同意。自分がそう生きることはないけど。
AIをシステムやサービスとして提供しようと考えるなら、この本で問われていることにどう答えるのか、考えておく必要がある
そんなこと考えてもしょうがない、とかそれを言い出したらキリがない、などと言い訳する連中にAI(というか技術)を語る資格はない。

2022/02/22

考えることを多くの人がやめなければAIに操られることはないけど実際AI社会になってしまったら私も考えることを放棄しそうで怖くなった
常に考える自分を信じる

2022/02/12

洗濯機の発明で洗濯が、電卓の発明で計算が、
車の発明で移動が楽になった様に、AIの発明で
考える行為が楽になる(解放される)。故にAIは
積極的に活用した方が良い。

但し、AIに依存し過ぎると人間のコアコンピタンスである『考える力』が衰える(思考からの逃走に
繋がる)ので意思決定は自分でしたい。

専門的な言葉が利用されていて、分かりづらい箇所も一部ありますが、新たな気付きがある面白い本です。AIについて興味がある方にお勧めです。

2021/12/08

AIとの現実味のある付き合い方を考えることができて良かったです。

そもそもAIがここまで盛り上がったのは「ものごとの決定の責任をなにかに押しつけたい」というニーズがあったからだ、という因果関係は今までに自分にない認識でした。
そのニーズはネットの普及で選択肢が広がりすぎたこと、さらにSNSの普及で失敗が許容されない社会になってきたことからきているとのことで、まさにその中を生きてきた世代としては納得させられるものでした。

本の中で繰り返されていた筆者の主張は、「たとえめんどくさくてもAIについて知って、実装者に全てをコントロールされないように意見を形成していこう！」というもので、とても現実的でスッと入ってくる内容でした。

長期的なものごとをじっくり調べる時間はやはり必要。暇をしっかり確保して、テクノロジーの駒にならないようにしたいと思いました。