AIには何ができないか の商品レビュー

メレディス・ブルサード(著者),北村京子(訳者)

2024/03/31

AIについての幻想を打ち砕く本。全ては人間によるプログラミングから始まる。つまり、そのプログラミングにバイアスがあれば、AIの働きもバイアスに満ちた物となる。
汎用AIについての根拠なき期待についてよく理解できた。つまりAIと言うのはあくまでも特化型のものである。あたかもAIが暴走し、自己増殖して、人類に脅威となると言うような議論幻想に過ぎないと言うことがよくわかる。
映画提供する知能を使いこなすのは、あくまでも人間の知性である。そこを忘れてはならない。

2024/03/03

途中からプログラミングの小難しい話しになってきて脱落しましたが、冒頭に書かれていた以下のようなことだけでも読んだ価値はあったかなと思います。

・・・・・・・・・・・・・・・・・・
「ハンマーだけしか手元にないときには、あらゆるものが釘に見える」
いつどんな理由でテクノロジーを使うべきかについてより思慮深く賢明な決定を下すべき
限界を理解することが私たちがより良い選択をし、また世界を全ての人にとって真の意味でより良くしていく上でテクノロジーを使ってできることや、私たちがなすべきことについて、社会全体で対話する際の助けになる
「技術至上主義」
人間の本質に関わる重要な問題から、私たちを解き放ってくれる技術革新はこれまで1度も起こった事はないし、この先起こることもない。
コンピューターがどのように動くかを理解して、初めて、私たちはテクノロジーにより高い品質を求めることができる
物事を不必要に複雑にするシステム
必要がないときには、テクノロジーに対して自信を持って「ノー」と言うことができるようになる
ガベージインガベージアウト（ゴミを入れればゴミが出る）＝不正確なデータを入れれば、不正確なデータしか得られない
ソフトウェア開発は本質的に工芸(クラフト)であり、熟達するには長い時間(そしてある程度の見習い期間)を要する

2022/11/20

データジャーナリズムの観点を身につけるための本。あくまで機械学習は数学。偏見がある人がデータを作成すれば偏見を反映したアウトプットが出てくる。機械には決して学ばないことがあることを理解しなければならない。

2020/07/14

　コンピューターテクノロジー至上主義の限界を多方面で解説した書。米国の著作を翻訳した作品なため読みにくさが一部あるが内容はいたってわかりやすい。
　これまでのコンピュータ発展の歴史や沢山紹介されるPCの発展に寄与した多くはプログラマである登場人物の特徴を、捕らえてイメージしやすかった。
　一般人のイメージするAIはドラえもんのような汎用性AIロボットだが、人間を超えたといわれるチェスや将棋ロボットなどに代表される特化型AIしか、その状況を生み出してない。これらは膨大なデータを学習し、人を凌駕する演算処理速度で、最もよい方法を導き出しているだけだ。
また、すべてのコンピュータのプログラムは人間によって撃ち込まれたものであり、人間の想像力を超えるプログラムを作成することは困難であるという意図の記載をみて、まだまだ生身の人間の多様な状況に対応できる能力を超えるAI型ロボットが作られることは当面ないのだろうということを確信した。
　10年、20年経って状況は大きく変化するだろうが、この文書は現在のアーカイブとして非常に大きな意義を持つ文書であると感じた。

2020/03/22

最近読んだ本は、この本で書かれている『技術至上主義』的な内容が多かったので、AIは全能ではないとう否定的な視点は新しい見方ができて良かった。

本の帯に書かれている通りで、できることに注目しがちだが、できないことを知ることで本当のできるが見えてくる。自分の思考に偏りがあったことを認識することができたため読んで良かった。

ブラックボックスのアルゴリズムはやはり怖い。
自分でプログラミングを書けないにしても、そこで何が起こっているのかを理解する最低限の知識は身に付けるべきだと感じた。

例えば、Amazonで自分にオススメの本が出てくるが、そればっかり読んでいると、知らず知らずうちにAmazonアルゴリズムに自分の読書をコントロールされているようでいい気はしない。単純に同じ本を買っている人の傾向からオススメしてくるのだと思うが、実はその裏に何か隠れた意図があったとしたら…？

翻訳者との相性があるのか、最初は読みづらいと感じたが中盤くらいから文体に慣れ最後はスラスラ読むことができた。翻訳本は当たり外れが多いがこの本は比較的読める方だと思う。

2020/01/13

汎用型AI　
　ハリウッド的なAI
特化型AI
　強化された統計学　モデルというブラックボックス
　ゴミを入れればゴミが出る
　データジャーナリズム「プロパブリカ」「ガーディアン」

コンピュータは多様性がほぼ皆無の人によって作られた。

コンピュータが不得意なもの
　歪曲表現などの言語ニュアンス　
　　Python　モンティパイソン
　　Java　コーヒー

全てのデータは汚れている
人間の行動は統計的ではない
現実世界では常識でないことが起こる
コンピュータに倫理はない、一般市民のほうが知的

ポピュラリティは人間の無意識なバイアスであり、
クオリティとは別
　良い＝引用が多い　→google

2020/01/08

日経新聞の推薦書籍だったので読んでみたが、やはり翻訳した本はあまりグッとこない。。。
でも、自動運転車が究極の選択をする時に、運転者を守るために通行人に突っ込むこともありうることなど、その開発過程の話を聞いて、やはり怖いなぁと思った。
AIも全て人間によるプログラム。クセや偏見が答えを間違ったものにすることもあり得る。
いろいろ考えさせられる内容だった。

2020/01/05

心の理論をプログラムする方法は存在しないのだから、障害物に対して人間と同じ様に反応することは、車には決してできない。コンピュータは人から伝えられたことを知っているだけだ。知覚力、つまり未来について判断する認知能力がなければ、街灯を障害物だと判断したうえで適切な回避策をとるためｎ必要な判断を瞬時に下すことはできない。

2019/11/30

本書では、現状のAI礼賛の世間の潮流に、待ったをかけてくれる。車の自動運転に関しても、完全自動化には懐疑的な見方をする。現実社会では、常識的ではないことがおきる。例えば、「カエルの真似をして飛び跳ねながら幹線道路を渡る子供たち」。人間には知性があるので、その状況に対処することができるが、機械には知性がないので、対処できない。

結局、AIだけではなく、最終的に人間の知性に頼らざるをえない、ということなのである。

2021/09/07

原題はArtificial Unintelligenceなのでｍ「そのまま訳すと人工非知能ということである。チェスが人間を負かしたということの理由をしっかりと説明しているし、学校においてネットではなくて教科書が役立つことを簡単に説明しているので、現場の教師も役立つと思われる。