オートメーション・バカ の商品レビュー

ニコラス・G.カー(著者),篠儀直子(訳者)

2023/07/12

オートメーションに依存すると、人間の能力は低下するというような主張。
例として、オートパイロットが効かなくなったときの人間の操縦が正しく行われなかったことでの事故や、GPSを使ったときの人間の感覚の話なんかが出てくる。
とはいえ、時代は移りゆくものだし、事故もいろいろ起きるものだけれども、それを反省してまた進んでいくのも人間なのかなと思う。個人的にはオートメーションバカでいいかなと思った。

2023/05/02

本書は”IT doesn’t matter”で名を馳せたニコラス・カー氏によるオートメーション批判の本です。まずこれは第一印象なのですが、邦題がかなり軽い感じの名前になっているため、ビジネス雑誌程度の軽い調子でオートメーションを批判している読み物かと思ったのですが、いざ読み始めるとかなり骨太な本でギャップを感じました（この邦題は著者のキーメッセージを伝えているとはいえ、本の格を落としている気もします）。カー氏は基本的にテクノロジーの負の側面に焦点をあてる、あるいはテクノロジー過信論者を戒めるのがスタイルですが、それは本書でも踏襲されています。かなりの数のインタビューに加えて、アカデミック界の研究成果などもふんだんに参照しているので、簡単に読めるような本ではありませんが、逆にいえば予想外に中味が濃くて満足しました。

本書の主張は邦題通り（オートメーション・バカ）です。技術をオートメーション推進（人間代替）の方向で使っていくと、人間の可能性や能力が衰えていって我々自身の世界の認知能力低下にもつながってしまうので、技術を人間拡張的に用いるべきだ、というのがカー氏のキーメッセージになります。飛行機のオートパイロット機能が人間のパイロットの能力低下につながっていることや、イヌイットがGPS機能つきナビゲーション機器を使って狩をしはじめたら、むしろ狩の能力が低下した、というような興味深い事例が紹介されています。

カー氏の主張はなるほどと思う点も多々ありましたが、本書を読んで強く感じたのは、人間という存在をどう見るかという意味での価値観あるいは視点の対立があるという点です。一方では、カー氏のような人間礼賛型の人々がおり、我々人類の真の進化のためには人間を中心としたテクノロジー社会を目指すべきだと言いますが、他方、人間不信型の価値観を持つ人々がいる。つまり、人間は悪いことをする存在で、人間が関与するから汚職も戦争もあるし、事故も度々起こるのだから、いかに人間を重要な活動領域から排除し機械に任せていくかがユートピア構築への真の道なのだ、という価値観です。つまりテクノユートピア主義者は、裏返すと人間落胆（不信）主義者でもと呼べる存在で、結局は人間をどう見るかの対立だと思いました。私自身はどちらかといえばカー氏のように人間礼賛型なのですが、テクノユートピア主義者の主張もある程度は理解できます。おそらく両者ともにある程度は正しい、ということなのでしょうが、本書を読んでそのあたりを深く考えるきっかけになりました。

2022/07/18

オートメーションバカ、というなんとも刺激的なタイトルだが、本家はautomation and us. だという。なんとも自分好みの翻訳。

で、肝心の中身は、まぁまぁ同意しまくり。
最近富に職場がバカばっかでなんで？この会社ってエリートの集まりなんでないの？とか思ってたけど、やはり便利すぎるのもよくないのかと。
自動化ツールの本質を正しく使いこなせるのは、必要に迫られて自動化した本人だけってこと。むろんツールである以上、それを他人が使っちゃダメってことはない(でないとあんまり意味もない)けど、ただのりしてるだけのやつはやはりダメになっていく。
気をつけよう。

2021/03/17

オートメーション・バカ
先端技術がわたしたちにしていること

著者　ニコラス・G・カー
訳者　篠儀直子
青土社
2014年12月25日 第1刷印刷
2015年1月15日 第1刷発行

イヌイットのナビゲーション能力は飛び抜けているそうだ。カナダ北部のイヌイットたちは、四千年もの間、獲物を求め、島にある家を離れて氷上とツンドラを何マイルも移動。目印はほとんどなく、雪の積もり方も絶えず変わり、足跡はひと晩で消えてしまう、広大で不毛な北極地方を旅するハンターたちの能力は、旅行者や科学者たちを驚かせてきた。地図やコンパスなどの道具を使わず、風、雪の吹きだまり、動物の行動、星、潮、海流についての深い理解から来ている。

ところが、ＧＰＳデバイスが普及するにつれ、狩りの最中の深刻な事故が報告されはじめた。なかには怪我や死にさえつながったものもある。原因は多くの場合、衛星を信用しすぎたことだとされた。レシーバーが故障したり、バッテリーが凍ったりすると、ナビゲーション・スキルが発達していないハンターは、何の目印もない荒野でたやすく迷ってしまい、のたれ死にすることすらある。また、衛星マップに詳細に描かれたルートをたどるうちに、トンネル視野に陥ってしまい、以前なら回避していた薄い氷や崖などの危険な場所へ突っ込んでしまうような事故もある。

我々も、ワープロを使い始めてから漢字が出てこなくなった。携帯を使うようになって電話番号を覚えなくなった。ちょっとした計算でもすぐに電卓（機能）を使ってしまう。

この本を読んで気になるのは、そうしたオートメーションが我々から奪っているものが、以前の生活では当たり前だったスキルや思考能力だけではないという点。イヌイットの場合もそうだが、オートメーションの使用をやめれば元に戻るように思えるが、実はそう単純な話ではないらしい。

例えば、ナビゲーション行為と人の知覚や記憶とは大きな関係があることを、神経科学者たちが次々と見出している。特定の場所を通過するたびに海馬のなかの特定ニューロンに活動電位が発生することが分かった。それを「場所細胞」と呼ぶらしい。また、場所に関係なく、抽象的な空間地図を提示し、内的な推測航法の感覚を与える「グリッド細胞」の存在も明らかになっている。この２つの細胞が核となって人のナビゲーション・システムを創り出しているらしい。

恐ろしいのは、この源泉が枯れてしまった時のこと。アルツハイマーを始め、認知症の初期の徴候のひとつが、これら細胞の変質による場所に関する記憶の喪失である。では、どっちが先なのか？と心配になる。認知症になったからナビ能力がなくなったのか、ナビ能力を失ったことが認知症へと繋がったのか？

ブェロニク・ボボという心理学者で記憶に関する専門家が、ナビゲーシヨン・スキルの行使が海馬の機能、さらには大きさにまで影響する、そしておそらく、記憶力の劣化を防止するかもしれない、ということを研究で実証したのである。
極解すれば、スマホのナビばかり使っていると認知症になりやすい、ということになる。

人は忙しく働いている時、早く解放されたいと思う。しかし、心理学者が調べてみると、余暇の時より労働中の方が、幸福感が高かったそうだ。
機械化によって人は”しんどい”仕事からかなり解放された。そこに問題はないのか。例えば、複雑なプラモデルを作るとき、その煩雑さにうんざりするが、完璧に自動で作ってくれる機械があったらどうなるか？ジグソーパズルの適切なピースを選んでくれる機械があったらどうなるか？完成の喜びは多少味わえるかもしれないが、自分がしている行為の意義をそこに見出すことは難しくなるだろう。

煩雑で面倒な作業から解放され、それをモニターで監視するだけの存在になった時、元々手や頭を使って行ってきたスキルが失われるだけでなく、人の様々な面に影響が出始めるのである。

日本語でオートメーションと言うと、何か少しレトロな響きすらある。ベルトコンベアに乗った製品をラインで作っていくような作業なんかを思い浮かべたりする。もちろん、英語でいうオートメーションはそうではなく、最先端の技術、しかも、パソコンソフトなどソフト面も含めたものをいう。
この本は、オートメーションが人間にもたらすさまざまな影響について気づかせてくれる。

2019/12/28

オートメーション化された社会が人間の知性や人生にどのような影響を与えているかを事例で紹介。最終章は感動的。

2019/11/04

科学技術の進歩によって新たなツールが次々と開発され、それらはいかににわたしたちの生活を便利に豊かにしているかのような印象があるが、実はそれによって人間が発揮できるはずの能力がどんどん縮少されているばかりでなく、倫理的な問題まで引き起こしつつあるという現状。
確かに、コンピュータやインターネットの発達は、従来では考えられないような利便さをもたらしたところもあるが、それによって新たな問題点も数多く出てきているのは事実であろう。
大切なことは、どんどん便利になる（と信じられている）ツールとどう向き合うかというわたしたち自身の視点である。道具に「使われる」のではなく、あくまで道具を「使う」立場としての人間の立ち位置を忘れてはならないであろう。

2018/09/06

ここでのオートメーションとは、身体活動の機械化、自動化だけにとどまらず、検索ワードの予測提示など、人間の考えをも指す。
オートメーションが引き起こす、または悪化させる問題は、ソフトウェアをさらに投入すれば解決するものではない。問題解決したいのであれば、その複雑さのすべてを含めて、これの取り組む必要があり、場合によっては機械より人間を優先することも受け入れねばならないかもしれない。

2017/04/26

ニコラス・G・カー『オートメーション・バカ』（青土社、2014年、原著2014年）は、オートメーション（以下自動化）が人間や社会に与える影響を、かつての産業革命や機械生産の歴史や、先行例である航空業界（自動操縦）および医療業界（電子カルテ）から考察した書籍である。自動化は平均的には事故を減らすものであるため、浸透は不可避だろう。副作用をいかに低減させるかという考え方を同書から学ぶことができた。

同書はかなり話題が拡散しているが、次段落以降で内容を整理してみる。なお、「オートメーション」という言葉自体は比較的新しい用語で、フォードの副社長が1946年に会議で使ったのが初出だという（p.50）。

ジェイムズ・ブライトは『オートメーションと経営』（1958年）の中で、13の職場の労働者に対して自動化の影響を検証した。手作業から完全自動化までを18段階に分けて、その段階ごとにどのようなスキル項目が労働者に要求されるかを調査している。結果、スキル要求が増加するのは自動化の初期だけであり、最終的にはスキル要求は激減する。労働者は「機械工（machinist）」から「機械操作者（machine operator）」になるのだ（pp.144-145）。

上は製造業の例だが、航空業界にも当てはまる。1940年代、民間旅客機の操縦室には5名の席があった。コミュニケーションシステムによって通信士が1950年代に、慣性航法システムによってナビゲーターが1960年代に、グラスコックピットによってフライト・エンジニアが1980年代に座席を失い、今では操縦士2名の席を残すのみである。旅客機操縦士の業務は軽視されるようになり、その報酬は着実に減少している（p.81）。

技術の進展は航空機事故を100万人に2人の水準にまで減らす半面、従来には見られなかった事故を登場させている。自動化によって乗務員の「スキル棄却」が発生し、想定外の事態が発生した場合に人間が致命的なミスを引き起こすことが増えた（p.75）。2009年2月のボンバルディアQ400事故や5月のエアバスA330事故（pp.62-64）が操縦ミスと結論づけられたことを受け、連邦航空局は2013年1月に「オペレータへの安全警告」を発し、自動操縦の多用が「パイロットが望ましくない状態から飛行機を立て直す能力を低下させる」として航空会社に対し手動操縦に時間を割くことを推奨している（p.9）。

このような事態は、単純化すれば次の悪循環によって生じる（p.203）。①設計者は往々にして人間を不安定・不確実なものと見なし、プロセスにおける人間の役割を減らそうとする。→②人間はスクリーン上で異常を監視するだけの存在になる。→③ところが、このような単調作業は人間には不向きな上、自分でやりくりするスキルが劣化する。→④異常事態への気づきが遅れ、かつ気づいたときには不適切な行動を取ってしまう。→①へ戻る。

密接に関連するタスクが関連する複雑な活動の一部を切り離し、他に影響を与えずに自動化することはできない（p.90）。また、知的労働と肉体労働とを分離する心身二元論も幻想である。実際には人々は「目や耳、鼻や口、手足や胴体によっても思考している」（p.192）。従って悪循環を断つためには、人間の五感に対して適切なフィードバックを与えるような設計（人間中心の自動化）が必要であり、ボーイングはその方向に進んでいる（p.217）。

専門的活動の場合、意思決定支援アプリケーションが最良の働きをするのは、特定の行為を推奨することなしに関連情報を必要な瞬間に専門家に伝え、人間に考える余地を与えた場合である（p.214）。人間の認知バイアスを訂正し、問題を別の角度から見るよう促すものである。我々が監視するのではなく、我々が監視されるように設計した上で、最終的な判断は人間に委ねるのがよい。

2017/01/25

オートメーション化する事での人類への危惧が述べられている。

確かに自動運転が普及してしまうと、解除後の運転者スキルは著しく低下しているかもしれない。

CADシステムしかり、かゆい所までも手に届き過ぎて考える力を失っていっているというのは頷ける所。

AIが普及した後の世界は、楽観論・悲観論織り交ぜて種々展開されているが、この書で提示されているものもそういった問題とまさしくリンクする

2016/05/24

航空機のオートパイロット、Googleによる自動運転カーに始まり、GPSによる経路自動検索、CADによる建築デザイン、金融業界の超高速取引などなど、我々を取り巻く「オートメーション」とその進化の先に何があるのか、といった問題を考えさせられる一冊。
この手の本だと仕方がないのかもしれないが、文章がなかなか身に入ってこない。