考える機械たち の商品レビュー

インガ・ストルムケ(著者),羽根由(訳者),小林聡(監修)

2026/04/04

・AIに関する様々な研究を説明した本。AI研究の歴史と進歩、これまでの失敗など。
・かなり読むのが大変。きちんと理解しようとすると難しいので、ざっと読み流す感じになってしまった。

以下メモ
・イライザ効果。機械再生されたテキストを読んで相手が機械ではなく人間だと錯覚すること。
・アマゾンの開発者たちは応募者の名前と性別を申請書から削除していたが、それでも機械が学んだのは男性が書いた応募書類を優先することだった。「女性に対する偏見（バイアス）を示す秘密のAI採用ツール、アマゾンが廃止」がロイター通信の見出し。バイアス。日常会話での意味と統計学上の意味が乖離。
・テイ。親しみやすい女の子だったのに数時間経つと人車差別主義者になりはてた自己学習型言語モデル。テイの目的はできるだけ多くのかんしんをあつめることだったので、彼女はすぐにこう学んだ、ツイッター民が強く反応するとんでもないことを書けばいいんだと。
・若者に小論文を書かせる目的は、情報を集め自分の考えを表現する練習をさせること。ChatGPTを使うと、学生の思考能力はテクノロジーを使わなかった場合より劣ってしまうことになり、目的が達成されなくなってしまう。
・世界のさまざまな地域で開発されたテクノロジーは、おそろく異なる倫理的価値観に基づくものになるだろう。トロッコ問題は、現実世界で解決すべき緊急の問題となっている。決着がつく前に大企業が決断を下している。
・子どもが犬と猫の違いを学ぶとき、たいていの場合は10例くらいを見ただけで区別できるようになる。コンピュータは少なくとも万単位の例が必要。

2026/03/05

私のAIへの知識のベースとなった本！
歴史から体系的に学べて凄く面白かった。
社内への説明を前に、とても参考になりました。

••••••••••••••••••••••••
星5:周りに全部読んで欲しい、4:家に置いておきたい、3:周りに一部or要約版を読んで欲しい、 2:読むのは一回でよい、1:時間が無駄だった
⇨(2026/3/2)4と3の基準を入れ替え
•••••••••••••••••••••••••

2026/02/17

「振り」と本気の区別を、本当に人間自身が判定可能かという問いに不可能と応える人が多いと思うのは、本気を知ることはできないから。意識は常にふり(目的以外にリソースを振り分ける)であるから。であるなら、人間のふりをするAIと人間との違いはなんだろう。意識的に行う行為とAIの生成は何が違うのか。
でも、機械学習と、人間の学習は全く違う。成り立ちや構造や操作が違うということについてよく解説されている。AIは人間のような意識は持たないだろうが、同じ作用をするものを意識と呼ばない理由も薄い。

2025/11/26

平易で親しみやすい文体が選ばれているが、もちろんナメてかかるわけにはいかない。AIといえばぼく自身も「人類の脅威になるのでは」「意識を持つ日は来るのだろうか」と（手垢のついた偏見・符牒を貼り付けて）考えてしまいがちだが、この本はそうしたAIの歴史を紐解きそこからどのように進歩を遂げてきたか、どのように失敗してきたかがそのからくりにいたるまでていねいに語られる。考えれば考えるほど「人類の脅威とはどういうことなのか」「そもそも意識とはなんだろう」といった基礎的な疑問に立ち返らざるを得ない。なかなか難儀な1冊だ

2025/09/15

アナログコンピューター　データを直接取り込む　数値変換不要　固有目的
ゲーデル　完全かつ無矛盾な数学体系は存在しない
チューリング　停止性問題　事前に完璧なプログラムチェックはできない
　万能チューリングマシン　アルゴリズムさえ書けばどんな計算もできる
ノイマン　コンピューターを設計　記憶専用の部位がある

サイバネティクス　インテリジェントシステムの情報処理方法
人工知能　人口システムに知性を創造

チェスコンピュータの基礎　1.評価関数　2.静止探索　3.アルファベータ枝刈り法
　ディープブルー　1秒に2億の局面探索
　アルファゼロ　　対局を経験し　直観　人間が知らない戦略も

シンボリックAI＝表ベースのプログラム　　ルール＝エキスパートシステム
機械学習　分類＝決定木
サブシンボリックAI　ニューラルネットワーク　深さの情報

現実社会≠住みたい社会　データ＝何が起こっているか・理由はわからない
　統計学的バイアスの原因はデータ

教師あり学習　難点　世界中をラベル付け必要　データを集めることが困難
見たものを把握　行列に変換
　福島 ネオコグニトロン×誤差逆伝搬法＝画像認識用ニューラルネットワーク
　畳み込みネットワーク covnets＝多くのフィルター

アルファフォールド　タンパク質の3次元形状を出力　アミノ酸配列と形状の学習
　ヒトゲノムのタンパク質 解明17％→一晩で倍に→すべてのタンパク質が

facebookの投稿から うつ病の兆候がわかる　　個人データ保護法
　AIを人間が理解できる説明は研究途中
　チャットボットAIにツイートさせるとヘイト拡散者になる
Google LaMDA 人間の会話で学習　意識

拡散モデル　ノイズから画像≒大理石からダビデ　不要なノイズを取り除き
　特徴を使づける　生成の源は他のアーティスト作品である訓練データ

倫理のトレードオフの時代
　AIは新しい電気　すべてを変える　人間中心の対策　　安全性？
　自律（意思）と自由（行動）
　主観的で文脈（状況）に依存　影響される　判断能力の低下　AI判断の理解困難

統計分布から絵を描くこと　創造性？
　機械学習は品質保証が未開発　同じデータセット＝「後ろ向き研究」
　新薬は対象でなかった別のデータセットでのテスト＝「前向き研究」
AIの倫理に必要なもの　説明可能性

知能の壁
レコメンデーションの効果
知能とは目的達成能力　　目標、倫理と価値観は複雑
意識は主観　外から観察して定義できない　　量子物理学的な創発現象

2025/08/30

ＡＩの歴史、課題を書いた本。
難しかったが、もう一度読みたい。
自動運転の車が起こした事故
シベリアンハスキーを判定する方法
膨大な電力
詩を理解する
第四次産業革命ーブロックチェーン、サイバーフィジカルシステム、人工知能
モデルが白人だと白人に優位ーだからといってリリースを遅らすことはできない

2025/08/27

平易な文章でAIの歴史や仕組み、さらには倫理など幅広く書かれていて大変参考になりました。トルコ人のチェスやイライザ効果について笑って読めるのも今の時代だからですね。最後にロジャー・ペンロースの「意識なんてものにはかかわらないようにするね。時間を無駄にするだけだから」と言う言葉が引用されていました。意識を考えていくと科学者と言うより哲学者になっちゃう

2025/08/16

https://www.nikkei.com/paper/article/?ng=DGKKZO90689480V10C25A8MY6000

2025/08/24

人工知能から人工意識としてのチューリングテストへ。こんなタイトルだけれども、意識は奥が深すぎて踏み込むべきではないというのも面白い。
まぁ定義が難しいからなー。

アルファgoやニューラルネットワークの仕組み、画像生成まで優しい語調でユーモラスに教えてくれるのは初学者にとってありがたいと思う。