思考からの逃走

岡嶋裕史(著者)

• 販売会社／発売会社: 日経BPM
• 発売年月日: 2021/02/24
• JAN: 9784532176976

商品レビュー

2024/06/11

p7 AIに判断を任せるのは、これまで繰り返してきた外部化、たとえば走るの外部化（自動車）や覚えておく力の外部化（メモやストレージ）とは位相が異なる。それは、人間の核心的な能力である思考の外部化だ。
　行き過ぎたアウトソーシングによってコアコンピタンス（中核競争力）を失った企業が迷走し、やがて衰えていくように、ある瞬間を切り取っていくら効率的・合理的にみえたとしても、自らの核となるべき力を手放してしまったら、ゃはり人の力も衰退し、その存在意義さえ失ってしまうのではないか。そう憂慮している

p44 印象派　カメラ他の発達　キュビズム

p46 AIに仕事を奪われる
単純作業を奪われたら意外と人間に仕事は残っていない

p47 AIが不得手としていて、人間に活躍の場が残されていそうなのは、比較的単純でコミュニケーションを要する作業、つまり荷物の配送や店舗での小売、介護かもしれません

p48 すると、高度な意思決定はAIが行い、それを実現するための現業的作業を人間が担う層構造をもつ社会が、そう遠くない未来に現出する可能性があり。そして、この社会構造は短絡的で情緒的、近視眼的になりがちな人間の意思決定より、社会全体に目配りした医師決定ができる可能性があるのだ

p52 いまAIと呼ばれているものは、事前問題解決的な手続きは不得手である。それより、発生してしまった問題を理想状態へもっていくためには、どうしたらよいかの演算に向いている

p66 もう考えつくものは外部化しつくしてしまって、最後に残った大物が思考である。これを外部化できるキラーアプリケーションが、AIだ。

p82 体験はコピーできない
つまりコト消費にいきつく。コピー不可能なものであれば、消費者はお金を払ってくれる

体験の切り売り　握手会

p90 AIが決定したにも関わらず、自分で決定したように錯覚させる知見と技術がもっと洗練させていくだろう

p166 ネットワークを使ったサービスには、サーノフの法則やメトカーフの法則が適応されるものが多い

p201 境界線の細分化
境界線で一人ひとりに区切ってしまうのだ、交わらなければ、接触しなければ、トラブルは起こらない

p207 正しい方向へ修正するのだからいいのではないか、という反論は成立すると思う。しかし、その正しさは誰が決めたのだ？わたしたちはそれに同意したのか？

p228 よい君主のもといで奴隷でいるほど楽な生き方はないという言い方があるが、AIはその誤謬の少なさ、恣意性のなさにおいて、かなりいい君主なのではないだろうか

p230 amazonの採用システムは、女性とマイノリティの採用率を低く留めた。採用システムに彼女ら彼らに対する偏見や生理的嫌悪感などがあったわけではない（そんな高度な機能は実装されていない）単に過去から最善の行動を学んだ時に、過去の事例で白人の男性を多く採用していただけだ

それが過去の成功事例とされていれば、AIはそこから学ぶ。AIに偏見がビルトインされていなくても、AIが学ぶ現実の社会現象とデータには常にバイアスがかかっていうｒ．AIにそれが取り込まれることで、差別が正当化される懸念すらある。それなかばと学習が終わったAIに理想的な挙動なるよう手を加えれば、そこには手を入れた人の恣意性が必ず加わる

公平は機械にとって最も難しい。機械化、自動化すれば公平になるほどシンプルなものではない。そもそも公平の定義自体がとても危ういのだ

p327 意思決定を外部化した時、この矛盾を生み出す主体はAIになる。それが許容化できるかどうかである。人が相手であれば、どう異論を差し挟めばいいか、どうこうどうすればいいか、わたしたちには積年の蓄積があり、手順がある。AIを相手にそのプロセスが確立できるのか？

矛盾や不正、事故の確率が高くても、人間が意思決定することが尊いのか、それともAIにまかせてしまうのがいいのか。そもそも正義とは、公平とはなんなのか

p247 何度でも繰り返すが、いったん外部化してしまった機能を、もう一度取り戻すことは至難である。一度かけてしまったメガネを手放せるだろうか？

考えることを辞めない限り、未来はまだ開かれている。

2024/01/21

AIが自ら思考するよりも最適解を出してきた世界で人間はどう生きるのか？
今後、予想できないくらい確実に進化していくChatGPTが既にある中での自分の存在意義は？

2023/12/07

技術者らしいぶっちゃけた書きぶりは、時にポリティカルに危うく感じられるところもあるが、それが著者の言わんとするところを飲み込みやすくもしている。「AIを完全に信用するわけではないが、人よりはまし」。この気分(あるいは事実)と我々はどのように向き合っていくべきか。様々な話題を提供しながら、真っ当な議論を展開している。