人類滅亡2つのシナリオ の商品レビュー

小川和也(著者)

2024/06/12

確かにゲノムの編集は進み、デザイナーベビーが誕生したことも記憶に新しい。また、AIの進化は甚だしく、このまま進化が続けば著者が言うようなこともあり得ない話ではないと思う。また人類は技術の進化を必ず負の方向にも利用するのは歴史が証明している。

2024/04/10

AIと遺伝子操作。人間の運用の仕方違い一つで人類にとって有益な技術となるか、人類滅亡のリスクとなるかが決まる。
近年AIと遺伝子操作の技術の進歩目覚ましく幾何級数的に進歩している。どこにその歯止めの境界を置くかがポイントとなる。
遺伝子操作による身体性の拡張を無限に目指し、遺伝子操作によるデザイナーベビーの無秩序な導入は富を持つものがその技術を独占し、また、この技術が受精卵に対するものであることで改変されたDNAが世代を受け継いで行くことで、やがてはホモサピエンとは全く種の異なる「ポストヒューマン」化して、ホモサピエンスを駆逐してしまうという人類滅亡のシナリオが考えられる。
一方、AIは汎用的人工知能の開発が無制限に進むと、やがて「裏切りターン」を迎え、人類の制御が及ばない状態となる。現在の人間社会の在り方を全てAIが主導権を握り、人類は「アナログハック」により感情までもAIに乗っ取られ、またAIとの競争を諦めることにより、どんどんと退化していく。AIの決定に従順に従わざるを得ない存在と成り下がってしまう。また、そうならないために、AIとの競争意識から遺伝子操作により無限の身体拡張性を求めるという相互作用も懸念される。
人類が再認識すべきは人類にはAIには獲得できない感覚、知覚、認知を持つということ。AIは無限の情報を記号として扱い処理することが可能であるが、それが現実世界とどのように結びつくのかを認識することはできない。いわゆる「シンボルグラウディング問題（接地問題）」である。このAIが持つことの不可能な能力をいかに磨き、強みとするか。
人間がAIを制御できる技術開発の境界線をいかに設定するか、それを超えてしまうような研究を控えることを人間の技術開発の停滞と考えるのではなく、人間社会の存続と繁栄を第一に優先課題とする姿勢を人類が共通して有することが重要なのであろう。

2024/04/05

だいぶ挑戦的なタイトル

汎用性人工知能はついに意思決定、マネジメント業務もできるようになった記載されていたが、どれのことだろう。
他のAIに関する本には人間に残されてた仕事へ決めること、責任を取ることとかかれていたけど少し違った。

2024/02/09

AIとゲノム編集技術は、それぞれ人類滅亡のリスクを孕んでいると大真面目に語る。
AIが人間には制御不可能な超知能となることが人類滅亡につながる危険性を持つことは十分に同感。一方、ゲノム編集技術は少なくとも建前上は各個体が等しく尊重される存在であるはずの人類社会の前提を崩壊させる可能性がある意味で注視し続けなければならない技術だが、人類の滅亡ではなく、エンハンスされたポストヒューマンに置き換わるという話。
滅亡リスクは同感しつつも、その回避策として、ゲノム編集については国際的規範の確立を、AIについては汎用型の超知能を生むような開発をせず機能特化型に留めておくことが提示されていたが、どこかの誰かが抜け穴を抜ければ圧倒的優位性を確立できるような技術領域において、それを禁止し続けることがどこまで有効なのかは疑問であり、解決策については薄さを感じた。

2024/01/28

人類滅亡二つのシナリオ　小川和也　朝日新聞

一つは人工知能AIであり
もう一つはゲノム編集技術だと言う
確かに人間自体を制御する遺伝子操作は
人間のエゴや恐怖心によって
確実に歪んだ結果をもたらすだろうが
AIが人間の手を離れて
自己増殖する段階になると
アラジンのランプの聖とは別物になる
常に俯瞰した全体観をとらえて判断した
前向きな選択をすることになるのではないか
つまりパニクルこともなく
俯瞰の度合による誤差はあっても
精一杯の制度を出しながら決断していくだろう
しかし問題なのは人間が依存心から脱皮できずに精神的な進化を怠った場合である
そうした人間は感情や物欲から逃れられずに
ランプの聖を駆使して超越型の冷静なAIに戦いを挑もうとするだろうことである

楽観的私見はさておいて
この著者は冷静に紐解いていき
最終章で
この世の終末を避けるために何ができるかを考察しているが
善悪や損得が何を根拠とするのかを
語ることはない
そこで最も危険なのは
恐怖による悪意を持った
人間の手の内にある段階の
ランプの聖同士による代理戦争だろう
敵対する人間同士がそれぞれに操る
ランプの聖を開発して戦わせる戦争である