ChatGPTはどのように動いているのか？

中西崇文(著者)

• 販売会社／発売会社: 翔泳社
• 発売年月日: 2026/01/20
• JAN: 9784798193403

商品レビュー

2026/03/29

言葉をベクトル空間上の数字で表現し、それらの関係性をベースに処理。人間が無意識に行う言葉の具体化や抽象化も、数値の変換として再現しているのは興味深い。理解していると言うよりデータ的にそれっぽいかそうでないかをベースに判断しているだけなので限界はありそうなものだが、現在ごく自然に会話がされているのを見ると、改めて数字の持つ力は凄いなと思う。そして言葉の関係性の中から回答を生み出すので、プロンプト入力の質が回答の質を大きく左右するのだと再認識した。

2026/03/26

生成AIやAIエージェントをエンドユーザとして利用するだけではなく，その基本となる仕組みを理解しておくことが大事．この本は，簡単な数学（ベクトルと行列の基本）を使って説明しているので初学者に最適．

Pythonの簡単な演習もあるので，それもすると理解が深まると思う．

2026/03/26

数学の前提知識がなくても大丈夫、ということだったけど、さすがに私の知識はなさすぎたのかも。とにかく数字のところはさっぱりだった。

言葉を数値化する。数値が近しい言葉をつなげる。

ただそれだけの仕組みとわかっていながらも、AIとは「会話」できているように感じるし、だんだん人格まで感じるようになっているから不思議。

最後のおまけ的に書かれていた「grokking現象」
(学習させていくうちに、天井に突き当たる。その段階まで来てもさらに学習を続けると、ある時急に性能が跳ね上がり、見たことのない問題も正しくこたえられるようになる。)
が、面白い話だった。人間も、ある時急に点と点がつながった！みたいなことがあるけど、そういう感じなのかな？