考える機械たち 歴史、仕組み、倫理―そして、AIは意思をもつのか？

インガ・ストルムケ(著者), 羽根由(訳者), 小林聡(監修)

• 販売会社／発売会社: 誠文堂新光社
• 発売年月日: 2025/06/11
• JAN: 9784416524404

商品レビュー

2026/02/17

「振り」と本気の区別を、本当に人間自身が判定可能かという問いに不可能と応える人が多いと思うのは、本気を知ることはできないから。意識は常にふり(目的以外にリソースを振り分ける)であるから。であるなら、人間のふりをするAIと人間との違いはなんだろう。意識的に行う行為とAIの生成は何が違うのか。
でも、機械学習と、人間の学習は全く違う。成り立ちや構造や操作が違うということについてよく解説されている。AIは人間のような意識は持たないだろうが、同じ作用をするものを意識と呼ばない理由も薄い。

2025/11/26

平易で親しみやすい文体が選ばれているが、もちろんナメてかかるわけにはいかない。AIといえばぼく自身も「人類の脅威になるのでは」「意識を持つ日は来るのだろうか」と（手垢のついた偏見・符牒を貼り付けて）考えてしまいがちだが、この本はそうしたAIの歴史を紐解きそこからどのように進歩を遂げてきたか、どのように失敗してきたかがそのからくりにいたるまでていねいに語られる。考えれば考えるほど「人類の脅威とはどういうことなのか」「そもそも意識とはなんだろう」といった基礎的な疑問に立ち返らざるを得ない。なかなか難儀な1冊だ

2025/09/07

アナログコンピューター　データを直接取り込む　数値変換不要　固有目的
ゲーデル　完全かつ無矛盾な数学体系は存在しない
チューリング　停止性問題　事前に完璧なプログラムチェックはできない
　万能チューリングマシン　アルゴリズムさえ書けばどんな計算もできる
ノイマン　コンピューターを設計　記憶専用の部位がある

サイバネティクス　インテリジェントシステムの情報処理方法
人工知能　人口システムに知性を創造

チェスコンピュータの基礎　1.評価関数　2.静止探索　3.アルファベータ枝刈り法
　ディープブルー　1秒に2億の局面探索
　アルファゼロ　　対局を経験し　直観　人間が知らない戦略も

シンボリックAI＝表ベースのプログラム　　ルール＝エキスパートシステム
機械学習　分類＝決定木
サブシンボリックAI　ニューラルネットワーク　深さの情報

現実社会≠住みたい社会　データ＝何が起こっているか・理由はわからない
　統計学的バイアスの原因はデータ

教師あり学習　難点　世界中をラベル付け必要　データを集めることが困難
見たものを把握　行列に変換
　福島 ネオコグニトロン×誤差逆伝搬法＝画像認識用ニューラルネットワーク
　畳み込みネットワーク covnets＝多くのフィルター

アルファフォールド　タンパク質の3次元形状を出力　アミノ酸配列と形状の学習
　ヒトゲノムのタンパク質 解明17％→一晩で倍に→すべてのタンパク質が

facebookの投稿から うつ病の兆候がわかる　　個人データ保護法
　AIを人間が理解できる説明は研究途中
　チャットボットAIにツイートさせるとヘイト拡散者になる
Google LaMDA 人間の会話で学習　意識

拡散モデル　ノイズから画像≒大理石からダビデ　不要なノイズを取り除き
　特徴を使づける　生成の源は他のアーティスト作品である訓練データ

倫理のトレードオフの時代
　AIは新しい電気　すべてを変える　人間中心の対策　　安全性？
　自律（意思）と自由（行動）
　主観的で文脈（状況）に依存　影響される　判断能力の低下　AI判断の理解困難

統計分布から絵を描くこと　創造性？
　機械学習は品質保証が未開発　同じデータセット＝「後ろ向き研究」
　新薬は対象でなかった別のデータセットでのテスト＝「前向き研究」
AIの倫理に必要なもの　説明可能性

知能の壁
レコメンデーションの効果
知能とは目的達成能力　　目標、倫理と価値観は複雑
意識は主観　外から観察して定義できない　　量子物理学的な創発現象