AIは人類を駆逐するのか？ の商品レビュー

太田裕朗(著者)

2024/04/14

日進月歩のAI業界の中である程度時間のやすりが掛かった新書といえるだろうか。
自動と自律という概念提起は興味深いが、AI企業の経営を生業にしているからこそ垣間見れる内実といった部分はそれほどなく、かといって終局としては万能論とは言わないまでも進歩の不可逆性の中でテクノロジー受容のあり方を示すといった形。

2023/12/16

OpenAI、生成AI。
トロッコ問題。倫理や道徳。自動運転問題。正解の無い問い。音声認識AI、画像認識AI、五感。
処理能力では上回るが、人間の本能は真似出来ない！遺伝子工学、そもそも本能がなんなのか解明されていない！
人間の三大欲求。生き延びるために進化、5億年の発達史！残忍な面を持つ脳を理性で抑えている！魔女狩りの歴史等、悪の面も持ち合わせ、人間は数学的に合理的でない！
予測不能の未来。意識や知性。人がどう生きていくかを教え、AIを制御できなければ、極論、核を発射したり、人類は駆逐される？
早めに倫理基準を作り、超えてはならない一線をルール化すべき！共存、教育が必要！
人間がAIに支配される未来。。。読みながら一瞬、猿の惑星を彷彿とさせた！
最終的には、石器、火、言語、人工知能とホモサピエンスの進化論でした！

2024/08/06

人工知能(AI）が巷では騒がれていますが、私の理解は近い将来に、AIを駆使した主に若い世代が、それを使えこなせていない世代にとって代わられるものと考えていました。

ところがこの本を読む限り、進化したAI（この本ではそれを自律したAIと定義しています）は、全ての人類の叡智を超えて、それまでAIを櫛した人もそうでない人も支配下に置くことになるという驚愕の世界が来ることになると思いました。

長い歴史を振り返ると、筋力的や身体能力では人間よりも優れた動物がいますが、それらを「ヒト」が支配下に置くことができたのは、彼らを抑え込む知恵や知識の伝承があったからだと思います。進化したAIが地球環境を考えて「人間を排除すべき」と考えたら、この本にあるように、少なくとも今の考え方をしている人類（地球人）はAIに駆逐される可能性も否定できないなと思いました。

コロナが明けてそれまで覆い隠されてきた現実が徐々に見え始めました、これからの人類はAIにダメ出しされないような生き方をしていかなければならないな、と感じました。

以下は気になったポイントです。

・未来は必ずしも「世の中がますます便利になってありがたい」と手放しで喜べるものとは限らない、「便利で助かる」などと気楽に構えているわけにはいかない。なぜなら高度に自律的なAIを脳にもつロボットは、新たな知的生物にすらなり得る。私たち人類は今、史上初めて自分たちを上回る性能と可能性を秘めた知的生物と共存する時代を迎えようとしている（p７）

・近未来、それはAIが全てに采配を振る世界である。社会も人も自律して動くシステムに編み込まれ、あたかも一個の巨大な機械のように動いている（p２１）自動化とは、あらかじめ決められた環境の下で、自然科学や工学に基づいて機械的な機構、動作手順などを設計士、一連の動作を人が手を下さなくても良いようにしたものと言える（p３１）

・コンピュータは休みはいらないが、冷却が必要なので電力は使う。現在コンピュータは世界中で作られている電力の１０％を消費しているという試算がある、人間がエネルギーの２０％を脳に使っていることを考えれば人並みになってきたと言えるかもしれない（p３８）

・トヨタ自動車は2020年に入って、スマート都市を作ると宣言した、既存の社会に自動運転を普及させるより、街を丸ごと自動化した方が早いという見立てなのだろう（p５７）

・自動はあくまでも「言った通りになる世界」「人の想定内で起きる世界」だが、自律は「人が言った通りにならない」という可能性を持った世界であり「人が道具に支配されるかもしれない世界」であり全く異なる（p６０）

・人間は、ホモサピエンスが中位者出会った時の臆病心や飢えの記憶を消し去ることができずに「残忍で危険な存在となった」とされる（p１０３）このような部分はコンピュータへの置き換えが簡単にはできない（p１０４）

・現代の３Dプリンターはまだ玩具のような存在ですが、精度が向上し複数の素材が扱えるようになれば非常に大きな存在になるでしょう、設計のデータを入手すれば、自宅の３Dプリンターで、あるいは街の３Dプリントセンターで、カスタマイズされた１台を手に入れることができる。製造ラインを作る、人が集まる、梱包、小売、配達することがすべてなくなる。これもものの価格を破壊する（p１６３）

・唯一の人類として勢力を拡大してきたホモ・サピエンスの武器になったのは、彼らだけが持っていた「高い言語能力」であった、これがあったから意見を交換し、保存し、学習の蓄積に繋がっていった（p１８５）

・農業は、未来という時間概念を創造するものであった、狩猟採集生活は、今あるものを獲り消費するだけ。農業は種をまき、育て、そして将来のある時点で収穫する。未来を想定して、計画的に行動するという時間の概念を新たにもたらすものであった。人が集まって暮らせば、一人で全ての生活用品を賄う必要はない。集住、分業、交換、貨幣、そして未来という概念、農耕生活への転換は、現代社会の骨格となるもの全てを用意した（p１８６）

2023年7月7日読了
2023年7月17日作成

2023/06/04

シンギュラリティは来ないと思っていたが、それは勝手にAIが人間を支配しないだけで、支配するように機械学習をすれば起こりうる。逆を言えば、そのような学習をさせなければ起こらないとも言える。
AIが一度下火になった事は知っていたが、再度注目を集めたのが確率と統計を重視した事は知らなかった。確かに100%正しい答えを求めるのは困難だが、事柄の傾向を把握して学習していけば更に正確な判断ができるようになる。そして倫理的な目標を与えなければシンギュラリティは起こりうる、と。見方が変わると色々な解釈が出来るなと感じた。

2022/04/03

AIによる自動から自律への転換期。何を目指して自律のシステムを構築するのか。目標を間違えれば，人類は駆逐させる。

2022/04/03

読みやすい。
AIについて考えることは、人間とは？を考えることだと思った。
人間はなんと複雑な生き物なのだろうか。

2021/12/14

自動から自律へ　とても興味深い内容でした。
ロボットを利用する世界から共存する世界に移りかわるそんな時代がくることに喜びを覚えつつ、恐怖の面も感じました。
あとAIの到来によって個人で勝負する時代がくる
と思います。

2021/10/18

…
壮大な抽象論と論理の飛躍と、ラストは宗教論ですか？みたいな本。一言で言えば、駄文。それ以上でもそれ以下でもない。

2021/10/09

シンプルで面白い。専門的な知識が得られるわけではないが、何が伝えたいかが明確になっていて納得しながらすぐに読み通せる良書。
自動とは人間が設定した目的のための最適解を探索するものであり、自律とは自ら目的を生成できる存在である。
人間や動物は自然選択の結果保有することとなった不可解で複雑なしくみに支えられた本能や情動によって自律的な意思決定を行うが、コンピューターが本能と同等のものを備えることは期待できない。そうした生物の生得的な特性のメカニズムがほとんど解明されていないために再現不可能であるからである。
一方で、人間とは全く異質の存在として強化学習により自律的AIを実現するアプローチもある。強化学習にあたっての目的関数と報酬関数をどう設定するかによって、人間社会に破滅をもたらすか、強力な人間の補助者としてあらゆる生産的活動と社会行動の最適化をもたらすかが決まるのであり、開発にあたっての倫理と道徳が極めて重要になる。
そして首尾良く自律型AIが社会を支えることに成功すれば、人間は生産から解放され、人口減少は脅威ではなくなり、社会的合意は構成員全員の価値基準から最適解が導きだされ、教育はスキル不要で倫理と道徳になり、脳は贅肉のように余剰資源となる。パンデミックも抑止できる社会が到来する。しかし、開発の方向性のコントロールに失敗すると、人類は破滅的な結末を迎える。

2021/09/04

「自律的に動くロボット」とは我々のことではないだろうか？　競争というルールの下（もと）で勝ち上がった者が選良（エリート）のメダルを手に入れる。資本主義社会で行われるのはマネー獲得ゲームである（「我々は意識を持つ自動人形である」）。
https://sessendo.blogspot.com/2021/09/ai.html