ChatGPTは神か悪魔か 宝島社新書694

落合陽一(著者), 山口周(著者), 野口悠紀雄(著者), 和田秀樹(著者), 深津貴之(著者), 井上智洋(著者), 池田清彦(著者)

• 販売会社／発売会社: 宝島社
• 発売年月日: 2023/09/27
• JAN: 9784299047366

商品レビュー

2025/10/03

ChatGPTについて多くの有識者が、その功罪を説いた一冊。

毒にも薬にもなることがよくわかった。

2025/06/24

2023年に書かれたこの本は、2025年現在、ちょっと内容が古い。改めてAIってすごいな。
独裁国家とAIの話は、納得させられた。

2025/02/16

タイトルが象徴するように、未知なモノに対しては、どうしても「敵か味方か」を分けたくなる。その後、敵でも味方でも自分と比較して能力を識別する。それは、社会性生物が個の生命を守るための本能みたいなものだろう。ChatGPTに関してもこれ。だからよくある議論は、ChatGPTが仕事を奪う（悪玉説）、でも新規性は無いしハルシネーションもある（悪の弱点）、故に最終判断や更に創造的な活動は人間が担う（正義は勝つ）みたいなパターン化したもの。そういう話でも良いのだが。

何冊か読んできて、そこに書かれている内容では無いが、私の思考は次の通り。今のAIの弱点は、ある段階の哲学や価値観によるものである事と、個人や集団固有の情報がデータベースに含まれない事による限界がある事。そこで導く回答には普遍性はあるが、先鋭性には上限がある。それでは、という事で企業情報を組み込んでオリジナルなAIを育てるには、データベース量が足りない。だから、企業オリジナルな活用では、未だあまり使い物にならない。

具体的には、あるマーケットの最適解を求めるには競合A社と競合B社の情報が格納されて初めて、ある程度、正確な回答ができる。しかし、相互に秘匿情報であるために現実にはそんな事は起こり得ない。あくまでA社はA社の少ないデータベース＋ノーマルAI、B社はB社の範囲でしか考えようが無いのだ。いつかAIが全能になっても、しかし、この構図である限り全知にはなり得ない。

加えて「悪用を制限する」ためには、悪を規定する必要がある。これは、ChatGPTよりもdeepseekだと分かりやすいが、共産主義批判は悪なのである。つまり、私にとっての悪が、あなたの正義である可能性だってあるのだ。

そうなると、使い手の価値観や企業秘密により、AI自体が個性をもち多様化はしていくが、それが融合しなければ、AIは全知全能になり得ない可能性があり、それが唯一可能なのはAIを統制するものだけだ、という事になる。それってヤバいじゃん、みたいな話だ。

しかし、100年後の未来を考えて、10年後に犠牲が必要だ、みたいな最適解がAIに導けるか。悪用の制限機能はリスクを伴う判断においてはフリーズする。彼らはあくまで優等生だ。逆に、制限の解除方法こそ人間側のトリアージ次第だから、それは全知全能じゃなくても出来る話にしかならない。例えば世界平和にはやはり妥協する国や人間を選択する必要があるが、その選択にAIは機能しないという話。ある国を悪にするか、しないか。その際ある国の情報は、企業秘密と同じ状態だ。AIを統制するものは、ソレと分かりやすいので、訴えられるか予測可能行動となって機能しない。怖いのは国だ。国の暴走をどう制御するかは、AIに限らず常に課題ではある。

そういう世界でのAIは、果たして悪魔だろうか、神だろうか。〝あなたにとっての片手落ちの神は、私にとってあなた同様の悪魔である“としかならない。

落合陽一の論説は面白かった（上述とは無関係）。他は、若干、冒頭に言ったパターンに寄っていたような。