人類滅亡2つのシナリオ AIと遺伝子操作が悪用された未来 朝日新書925

小川和也(著者)

• 販売会社／発売会社: 朝日新聞出版
• 発売年月日: 2023/09/12
• JAN: 9784022952325

商品レビュー

2024/06/12

確かにゲノムの編集は進み、デザイナーベビーが誕生したことも記憶に新しい。また、AIの進化は甚だしく、このまま進化が続けば著者が言うようなこともあり得ない話ではないと思う。また人類は技術の進化を必ず負の方向にも利用するのは歴史が証明している。

2024/04/10

AIと遺伝子操作。人間の運用の仕方違い一つで人類にとって有益な技術となるか、人類滅亡のリスクとなるかが決まる。
近年AIと遺伝子操作の技術の進歩目覚ましく幾何級数的に進歩している。どこにその歯止めの境界を置くかがポイントとなる。
遺伝子操作による身体性の拡張を無限に目指し、遺伝子操作によるデザイナーベビーの無秩序な導入は富を持つものがその技術を独占し、また、この技術が受精卵に対するものであることで改変されたDNAが世代を受け継いで行くことで、やがてはホモサピエンとは全く種の異なる「ポストヒューマン」化して、ホモサピエンスを駆逐してしまうという人類滅亡のシナリオが考えられる。
一方、AIは汎用的人工知能の開発が無制限に進むと、やがて「裏切りターン」を迎え、人類の制御が及ばない状態となる。現在の人間社会の在り方を全てAIが主導権を握り、人類は「アナログハック」により感情までもAIに乗っ取られ、またAIとの競争を諦めることにより、どんどんと退化していく。AIの決定に従順に従わざるを得ない存在と成り下がってしまう。また、そうならないために、AIとの競争意識から遺伝子操作により無限の身体拡張性を求めるという相互作用も懸念される。
人類が再認識すべきは人類にはAIには獲得できない感覚、知覚、認知を持つということ。AIは無限の情報を記号として扱い処理することが可能であるが、それが現実世界とどのように結びつくのかを認識することはできない。いわゆる「シンボルグラウディング問題（接地問題）」である。このAIが持つことの不可能な能力をいかに磨き、強みとするか。
人間がAIを制御できる技術開発の境界線をいかに設定するか、それを超えてしまうような研究を控えることを人間の技術開発の停滞と考えるのではなく、人間社会の存続と繁栄を第一に優先課題とする姿勢を人類が共通して有することが重要なのであろう。

2024/04/05

だいぶ挑戦的なタイトル

汎用性人工知能はついに意思決定、マネジメント業務もできるようになった記載されていたが、どれのことだろう。
他のAIに関する本には人間に残されてた仕事へ決めること、責任を取ることとかかれていたけど少し違った。