皇帝の新しい心 の商品レビュー

ロジャーペンローズ【著】,林一【訳】

2023/06/09

《目次》
・ プロローグ
１　コンピュータは心をもちうるか？
２　アルゴリズムとテューリング機械
３　数学と実在
４　真理、証明と洞察
５　古典的世界
６　量子マジックと量子ミステリー
７　宇宙論と時間の矢
８　量子重力を求めて
９　実際の脳とモデル脳
10　心の物理学はどこにあるのか？
・ エピローグ

2024/10/27

強いAI，それはすなわち操作主義、機能主義、還元主義的。量子はパターンであり配置であり、量子間に個別性はない。

# 強いAI

p20
```
脳の中のこの種のアルゴリズムが存在しているとすればーー強いAIの支持者はそれが存在すると確かに主張するーー、それは原理的にコンピュータの上で走らせることができるだろう。記憶容量と演算速度の制約さえなければ、どの現代定期汎用電子コンピュータの上でも走らせることができるはずである。
```
強いAI支持者は、我々の脳の動きもアルゴリズムの一種として表現可能であり、計算可能かどうかは複雑性だけの問題であり、万能チューリングマシンの計算可能性の範囲であるとする。

ルネ・デカルトから続く二元論を引き継ぐように、強いAI論者にとっては、心は論理構造、アルゴリズムであり、それを実行する身体性、ハードウェアとは独立したものだと考える。よって、ソフトウェアという心は、ハードウェア、身体性からは独立していて、後者は交換可能なものと考えることができる。すなわち、我々の脳でなくてもよく、コンピュータでもよいと考えるわけである。

# 操作主義的な解釈

では、それが心を再現できると解釈するにはどういう基準で判断すればよいのだろうか？チューリングテストを受け入れている人たちにとっては、それは操作主義的な解釈で答えることができる。

```
(もし、人の心を含むあらゆる現象を)ディジタル・コンピュータでモデル化できるという見解を受け入れるとしよう。そうすれば、（計算処理速度の問題を除けば）唯一の真の仮定は、もし何かが意識的に自覚する存在に完全に似たふるまいをするならば、それはそれ自身がそのような存在と「感じる」と主張しなければならないという、操作主義的な仮定だけである。
```

すなわち、そのように見える、感じる振る舞いをしているものは、心を持つ存在と等価であると判断する、という理論の背景となる仮定、枠組みを受け入れるか？受け入れるならば、それはすでに、脳の、心の仕組みを計算可能性問題の枠組みでとらえることになるということを意味している、と彼は考えている。

2019/05/31

17.9.30
トナメ〜ル

●受講生から

to:戸並さん

〇〇です。
ご無沙汰しております。

本トナメ〜ルを頂いた日から間が空いてしまいましたが、
興味ある話題ですので少し返信を。

AIブームの流れもアリ、巷間で量子コンピュータの話題が出るように
なってきました。こういった基礎研究に投資を維持することはもちろん
Welcomeですが、ハテ？と思う記事もありAI同様に過剰な期待とその揺り
戻しで廃れるという事が無いように祈りたいです。

汎用用途の量子コンピュータ（ショアのアルゴリズム等を実施できるモノ）
は0と1の状態の重ね合せが出来る「量子ビット」を制御し、最後は観測して
結果を得る事がポイントですが、
・量子状態の重ねあわせ（30%は0だが、70%は1など）の特性から超並列計算
　が出来る
・反面、アルゴリズム実行後の最終的な量子状態も重ねあわせ状態
　（5%は0だが95%は1など）という事で、最後観測によって答えを
　得ようとすると、100%の確率では正しい回答が得られません。
（↑の例だと100回実施して0の回答が5回、1の回答が95回手に入る）

このことから、
超並列で計算処理は出来るが、正答の取得が確率的、なのでいずれ
にせよ複数回の実施が必要となります。
（最後に、確率的に一番もっともらしい答えを、通常のコンピュータで
検算する）

今回の例では１つの回路で複数回の実施相当（多数の光子を流す）が
出来るうえ、量子ビット（光子）の制御もループバックで同一回路で
繰り返し実施できるという事なので、驚きました。

量子物理学の描く世界は、慣れるとまあそんなものかと思う反面、
観測するとなぜ状態が（確率的に）決まってしまうのか、という事
自体が未解明の部分もあります。
（観測理論と呼ばれる領域で、物理学でもかなりマニアックな範囲です。
最近のニュースで、時間の不可逆性を導けた、という話も出ていました。）

量子コンピュータを作ることが、量子物理学の基礎の基礎や、哲学的
な領域までと関わってくるというのも興味深いですが、AIとの兼ね合い
で言うとペンローズの「皇帝の新しい心」という本もあったなー…と、
久々にリトライしてみようかと思います。
（大著でとっつきづらく、なかなか読むところまで至れず。。）

以上、ご確認のほどよろしくお願いいたします。

2018/12/20

『人工知能は人間を超えるか　ディープラーニングの先にあるもの』松尾豊　著　ＫＡＤＯＫＡＷＡ：参考文献

2018/11/18

「皇帝の新しい心」ロジャー・ペンローズ

体調崩して、GEBに取り組んだのだけども、GEBがそもそも人工知能（知能がどう創発されるか）の本だとも知らずに読んだので、その次は期せずして山積みしてた本からこれの順番がきた。
この本はGEBから10年後だという。
ホフスタッターにしろペンローズにしろ、知能への想像を膨らましていくときには、直感を頼りに想像のうえに想像を重ねていくことになるので、どうもつまらない。読む気がおきない。
ちょっと後にくるユーザーイリュージョンの衝撃のほうが世界観を永遠に変えてくれる。

ホフスタッターの本が、不完全性定理とバッハとエッシャーに自己言及的な環状構造をみて、、、というのは面白い知的興奮だったけど、知性が結局どこから創発されるといいたいのか、はうやむやなので、これは何の本だったんだ、ということの誤解が大量に溢れることになった

のに対して、ペンローズは、量子力学的、不確実性な世界を用いる。
最初は数学の世界から、不完全性定理や、現実的な計算可能性問題などから、アルゴリズムの方法論の限界をみせる。
次に物理の世界から、古典的な決定論的世界でも、未来は現実には計算不可能であることや、量子の観測による非アルゴリズム的な振る舞いを通して、これまたアルゴリズム的な方法の限界をみせる。
脳の構造、意識の振る舞いを通して、意識は非アルゴリズム的、無意識はアルゴリズム的だ、といく。（このあたりからちょっとペンローズの専門外だから、直感は鋭いのに論理はあやしくよれる。）

結論としては、意識、知能は非アルゴリズム的なので、今の人工知能研究がどんなにアルゴリズムを改善し、マシンスペックをあげてっても、そこでは強いAIは実現しない、ということ。非アルゴリズム的な振る舞いが期待できるのは、完成した量子重力理論であって、その完成なくして意識は理解できないだろう、ということ。

数学や物理学を通してプラトン的世界を感じてるペンローズに、極東からものすごい距離を感じつつ読む。

GEBと同じで、途中まではいいんだけどなぁ。

どちらも、「ここに可能性を凄く感じる。俺の数学的審美眼が、ここにビンビン反応してる」というようなことを言いたい本で、何に反応してるかはわからないけど、ここに美的に反応するのはわかるでしょ？ということを説明するために世界観を構築していく。その構築過程は面白いのに、最後のところになると、審美眼的なビンビンでしかないのに、論理は組みあがらないから、よれる。
はぐらかさざるをえなくなってる。

２人とも引用してるバッハのフーガの技法みたいに、いっそ、そこで突然終われればいいのに。

2015/09/18

ペンローズ先生の文章は最後まで注意して読まないと本気で言っているのか皮肉で言っているのか訳分からないので凄く読み辛い。意識の源が量子重力に遡ると言う仮説は何か狐につままれた様な読後感。

2018/10/19

１４１２０６　中央図書館
現代物理で残されている謎、複雑系、カオスの概念と、人工知能の問題について、広範に考察。
とても面白い。特段の予備知識はいらないし、この分厚さでも読みやすい。

2012/10/23

難しかったが刺激的だった。弱いAIの立場から、意識の問題を考えていくヒントが詰め込まれており、20年たった今でも古びてはいない

2011/11/12

サイエンスファン必読。と言うか当たり前か？

これと出会ったのは中学の頃だが、まだまだ読みきれないところがある。年を経る毎に、新しい発見がある。扱う分野は人工知能から量子力学、数論、私に剥離不可能な世界そのものについて、大変幅広い。

この本は青年期の私に大きな影響を残した。死ぬまでにこの領域から先に進めるかは、私の大きな課題である。

フーリエ変換のネジネジは他の本では中々お目にかかれない。ファイマンくらいか？物性を考える上で、私の非常に勝手のいい道具の一つ

2009/10/04

裸の王様のパロディーではありません。
物理学の本ですが、分り易くて計算式をすっ飛ばしてもそんなに差し支えない感じの内容になってます。
この本を土台に色々考えるのは楽しい。