自動人形の城 人工知能の意図理解をめぐる物語

川添愛(著者)

• 販売会社／発売会社: 東京大学出版会
• 発売年月日: 2017/12/01
• JAN: 9784130633680

商品レビュー

2025/08/29

シンプルにストーリーがめちゃくちゃ面白くて、びっくりしちゃった。サブタイトルにある通り、人工知能がどのように人の指示から意図を理解するのか、をテーマとした物語なのだけれども、テーマありきで設定が粗いなんてことが全然なくて、一つの寓話として隙がなく完成されていた。
わがままなクソガキが悪い魔法使いにそそのかされて致命的なミスをしてしまい、深い絶望と反省を経て人間的に大きく成長するという王道の筋書きに、よく練られたキャラクター達と展開運びが重なり、夢中になって読んでしまった。カッテリーナ視点の章が始まった途端、心のなかで喝采をあげたくらいだ。
これ舞台とかでも見てみたいな。オートマトンの動きとか人間が演じることでコミカルで面白そうな気がする。

2025/07/19

わがまま王子が城の家来を全部人間の意図を理解できないロボットに変えられた中で困難を解決していく物語。
なんで人間は意図を理解できるか、それを教えることがどれだけ難しいかを物語にしていて面白い。
たた、2017年に出た本だがすでに解決されている少なくとも出力上は解決しているように見える意図認識問題も多く今のAIの進化も同時に感じられる本

2025/07/05

これはAIとは何かを考える材料を小説と解説という形で伝える2017年の図書です。

「おなかすいた〜」というと、人は「なにか食べたいのでごはんを作ろうか、食べに行こうか？」と考えます。
しかしAI（ロボット）は「現象を述べているだけで、何かをしてほしいという意図は汲み取っていない」という理解。

人は膨大な認識、知識そして経験から意図を汲み取り、意味を理解している。

人に寄り添うロボット/AIの開発の難しさを改めて理解できる。生成AIが生まれ、AGI、ASIが叫ばれる2025年、どこまで社会は変わっていくのか期待と不安がある。

小説に中に、次のような一節がある。
「何かを学び始めるということは、ある意味、その分野におけるもっとも低い位置に自分を置くことを認め、それを甘んじて受け入れるこということだ。そしてそれは考えようによっては、心の奥底の恐怖をかき立てることことでもある」

大人が得意になるかわからない、未知なる挑戦をしたがらない真実の一端だと思う。
学び続ける強さとは、未知なる世界で一番低い位置に立てるか、年齢ではなくその分野の先人たちを尊敬し教えを請うをことができる強さだと思う。

中学生ぐらいにぜひ読んでほしい図書でした。