そろそろ、人工知能の真実を話そう の商品レビュー

ジャン・ガブリエル・ガナシア(著者),小林重裕(訳者),伊藤直子

2022/11/28

著者の伝えたい事は第八章に見事に要約されていると分かった。
最初は専門用語も多く、少し難解だと感じたが読み進めるにつれて、著者の哲学的思考とデータを生かして過去の偉人の意見を引用したりとか、GAFAの政治的な進入について警告を出したりとかしてるところが割りと読んでいて面白いと感じました。
そして、この本を読んで、今後の科学や政治といった情報を鵜呑みではなく背景にシンギュラリティの仮説があるんだろうなという前提で判断できるいいきっかけになったと思いました。

2020/12/03

シンギュラリティとは神話であり、説得性に欠ける代物。

GAFAMにより喧伝されているが、裏には巨大IT企業の陰謀を見ざるを得ない、との主張。

技術論より主に哲学の視点から述べており、邦題はミスリーディングかもしれない。

2018/12/30

１．この本を一言で表すと？
・シンギュラリティという概念を否定した本
２．よかった点を 3〜5 つ
・シンギュラリティがムーアの法則に依存しているのは確かにおかしいと感じる (p20)
２．参考にならなかった所（つっこみ所）
・現在の技術レベルが低いことを理由に、自律するコンピュータが起こりえないとするのは論理に無理がある(p68)
・第五章 現代のグノーシス は主張がよくわからない。シンギュラリティとグノーシスが似ているから…どうなの？
・第八章 ネット企業のシンギュラリティに対する姿勢を批判しても、シンギュラリティは起こらないとは言えない
し、シンギュラリティそのものを否定することには論理的につながらないのではないか？
4．全体の感想・その他
・シンギュラリティを否定するのには全体的に根拠が弱い。
・技術的な側面については、あまり得るものはない。

2018/10/28

【由来】
・

【期待したもの】
・
※「それは何か」を意識する、つまり、とりあえずの速読用か、テーマに関連していて、何を掴みたいのか、などを明確にする習慣を身につける訓練。

【要約】
・

【ノート】
・途中（P79）までで時間切れだが、何か、否定しているロジックがダメダメな気がする。自分のことを頭がいいと信じてて、その自分が言ってるからダメなのは明らかだろ、という感じがする。が、それは自分の読み込みが浅いからかも知れないので、もう少し丁寧に読んでみないと。

【目次】

2018/06/02

AI技術そのものではなく、「シンギュラリティ」という言葉の構造が露わにされている本です。
著者は哲学者でありながらCS教授としてフランスの人工知能研究チームのトップを務めている人のようで、表紙の雰囲気の割にはポピュラーサイエンス本のような内容では無く、哲学の知識を幾分か持ち合わせていないと難しい内容かもしれません。

2018/11/11

目次は以下のとおり。
・状況は切迫している（らしい）
・シンギュラリティ
・指数関数的な爆発
・コンピュータは自律できるか？
・現代のグノーシス
・来たるべき未来
・シンギュラリティと終末論
・偽りの人類愛

原題のフランス語をグーグル翻訳にかけると、「特異性の神話 人工知能を恐れるべきか？」なので、邦題とはおもむきが異なるイメージ。

読んでみると、この本には、マシンラーニングやディープラーニングなどの技術的、学術的、事例の類は書かれていないので、邦題からのイメージだけで買った人はなんじゃこりゃ？と思うかもしれない。

本の流れとしては、シンギュラリティブームの火付け役のレイカーツァイルが言ってることって信用に足るものなのか？という点を論破していきながら、このブームに乗ってる米国企業は、悲観論を前面に出しつつ、自分達は悪くないという防御線をはり、更に、国が持つ特権を密かに侵害しとるという警告の書。

これまでいくつかの人工知能本を読んでいたので、この本の仕立てについて、自分は好意的な印象。

著者が哲学者って言うのもいいし、フランス人って言うのも良い。個人的には、フランスって過去の人工知能ブームで先導していたイメージがあるので、その国からこういう警鐘が出つつも、自国ではいろいろやってるんだろうなぁと思わせる感じは好き。

「トーマス・クーンが「パラダイムシフト」と称した既成概念の変化は、既存の概念が確立されるよりも、はるかにゆっくりと偶発的に進むものである。ひるがえって、今日の機械学習の手法は、既知のデータから経験的法則を求めることは得意だが、新たな概念を創造するまでには至っていない。教師なし学習では、期待されるものの、新たな概念を創造創造するどころか、概念装置すら想像できていないのが現状。」

ジョン・サールが、1980年代に「中国語の部屋」論文の前書きで、強い人工知能と弱い人工知能という言葉を作ったのは知らなかった。 この強い人工知能、弱い人工知能というのも、弱いイコール専門機能、強いイコール汎用機能という整理になって、今でも使われたりするので、認識の整理という点では、使い勝手が良さそう。

グノーシス主義との関連性については、ちと難しかった。

シンギュラリティと終末論の章では、「円環としての時間」と「無限の直線」という、人類のもつ概念から、特に一神教がもつ終末論的発想からシンギュラリティが導き出されていると論じ、更に、これはヒューマニズムの名の下に進歩を限りなく続けていこうという理想を持つ啓蒙主義とも違うと。

この本を翻訳したチームは凄い。だって、この一般受けしなさそうな骨のある本を翻訳してくれたんだもの。日本語で読める事に感謝。そして、後書きには、東大名誉教授の西垣通先生の気合の入った論説。

この本は、かみごたえがあり、前提のいくつかの本を読んでおくとより楽しめるのではないかと思う。自分は、レイ・カーツァイルの『シンギュラリティはちかい』はもちろんのこと、佐藤優氏の『牙をとげ』の第2章あたりを読んでいたので、この本が楽しく読めました。

じっくり読んで考えて楽しむという本。

2018/02/06

・コンピューターは、結局人間が与えたルールの中でしか学習することができないた、自律して動き出すことはない。
・企業がシンギュラリティについて盛んに広告している背景は、以下の理由による。
└今後はITがPublicな一面も担っていくことになる。つまりはインフラ化する。そのため、政府に対して影響力を持つようになってくる。
└そのために、まずは公共的なイメージを世間に与えるため。

2018/01/15

「未来予測」なんだから、ワクワクドキドキしながら追っかければいいんじゃないかとか思う。

あと、７～8ページ目が特にひどくないかなぁ。
ホーキング博士の声明は、どの部分が引用なのか、それとも筆者の要約なのかもわからないし、その後に続く以下に至っては、出典も注釈もない。

『どうやらこの声明文は、その少し前にイギリスで公開された、米英合作の超大作映画「トランセンデンス」に反応したものらしい』（P8）

どうやら～らしい。
果たして真実は、どこにあるのだろう？　そんな一冊。

2017/12/31

「自立」と「自律」の違いについて明確にしておこう。自立とは、下層d際離任ソフトウェアであるとこｒのエージェントが自ら動き、誰の力も借りずに意思決定できることを言う。例えば、道順を選択しながら走る自動運転車や、あらかじめ教えられた条件に一致する標的や動くものなら何でも撃つロボット兵器などの類だ。つまり、エージェントの自立とは、技術的な意味であり、情報を取得していから意思決定し実行に移すまでの間に物理的な因果関係があり、しかもそれを人間など外部からの介入なしにできることを指す。一方、自律というのは哲学的な意味であり、しかもそれを人間など外部からの介入なしにできることを指す。自ら規範を作り出すことができることを言う。自律の対義語は他律で、これは自らの意志によらず他者からの命令に従って行動することだ。自律したロボット兵器は、与えられた色や形などの条件に合う標的を探し出して攻撃する、といったことはしない。自ら掲げた目的を果たすのにふさわしい標的を、自ら決定するのである。無人電車やドローンなど、人間は長年にわたり、自ら動く自立した機械をてきた。そして何も問題は起こっていない。それどころか機械学習技術のおかげで、こうした機械の開発がより効率的に行えるようになった。今、世の中で懸念されているのは、自立ではなくて自律の方だが、学習能力を与えられ、自らのプログラムを改善できるようになっても、機械が自律することは考えられない。なぜなら、機械は結局、人間に教えられた理論やルールにのっとって行動することになるからである。それならば、強化学習が、人間と同じく自然界から受ける報酬（生きることや満足感）と罰（死や苦痛）によってのみ行われた場合はどうなるだろう。この時、行動選択の基準はどこからくるのだろうか？個の成熟、種の進化、生物圏の保存など、目的によって最適な基準も異なるように、選択の基準というのは自発的に生まれるものではない。結局、強化学習も教師あり学習も自律性はないのだ。実際、強化学習アルゴリズムを使用する際には、人間が最適な選択を行う基準を設定し、機械はこれを変更できないようになっている。よって、教師あり学習も強化学習も、機械を自律させることはない。つまり、ホーキング、イーロン・マスク、ビル・ゲイツ、スチュワート・ラッセルらが次々と公にした懸念を裏付けるものは何もないのである。確かに、これまでの経験上、機械学習のように短時間で目覚ましい発展を遂げた手法は、何等かの不具合が生じる危険性を孕んでいるものだ。だからといって、我々が機関不能地点に達し、以降は機械に支配されるというころまでは言えないだろう。

2017/12/28

AIによるシンギュラリティ
グノーシス主義が興味深い
言葉ではなく物語が世界を創り出すがたしかに今の世界かもしれない
理性ではなく空想に惹かれる時代