AI倫理 人工知能は「責任」をとれるのか 中公新書ラクレ

西垣通(著者), 河島茂生(著者)

• 販売会社／発売会社: 中央公論新社
• 発売年月日: 2019/09/09
• JAN: 9784121506672

商品レビュー

2025/07/05

垣教授の考えるAI倫理。近代倫理の勉強になったが一部共感できないので星３つ

・近代の倫理学は　功利主義（拝金主義？）、自由平等主義（カント、日本？）、自由至上主義（リバタリアン、トランプ？）、共同体主義（共通善を考慮するマイケルサンデル）
・個人の持つ道徳観と共通の社会規範が反するときに、共感や倫理的判断で社会規範が書き換えられる。
・AIロボットは人格をもたないので、開発・運用者が功利主義的な効用評価と自由主義的な人権の制約のバランスをAIに組み込む（教える？）必要がある。開発者、ユーザーの間にたつ第三者機関が監視するというアイデアもある。
・自動運転に関しては、一般の人々の信頼をいかに構築するかが最大の課題
・AI監視社会の悪い面を避けるにはAI活用の具体策を辛抱強く議論するしかない。社会規範の設定までAIに丸投げしてはいけない。

→　AIはあくまで人間がつくりだすもので、AIに人格は生まれないというのが筆者の立場。人間が第一という古い考えだが、SFやAI開発者の中では人間の脳や行動の仕組みも情報処理という面ではAIと同じという意見が多数だと思う。社会規範の設定をAIに丸投げはまずいが、様々なAIの意見を参考に社会規範を構築することが未来の姿ではないだろうか？共同体毎に社会規範が違うことを認めつつ、社会規範の異なる共同体間のトラブルをAIの助けを借りて武力を用いずに解決できると良いなあ・・・

2024/04/07

2019年 中公新書ラクレ
AIと倫理を考えるにあたり、それぞれを定義する必要がある。例えばAIであれば、推論プログラムを用いるもの、膨大な情報から瞬間的に抽出するもの、深層学習を行うもの、対話型プログラムを行うもの等々が存在する。
倫理は、功利主義、自由平等主義、自由至上主義、共同体主義等の観点がある。(優位性は無い)
しかしAIと倫理の諸問題を考える際、それぞれを十分に整理された状況ではなく、論じることが出来ない。そもそもAIは他律型機械(プログラミングによって答えを出す）為、客観的責任を撮ることが出来ない。
その為自動運転、監視選別社会、AIによる創作物等は、官民学の連携が必要である。(例えば、自動運転で誤作動による事故の責任は、プログラミングした人ではなく、国が補償する)

感想
AIや倫理には様々な段階、種類があり、一概にAI責任論について論じる事は出来ないというのは確かにその通りだと思った。ただ、人工知能が「責任」を取れないからと言って国が補償するのは、極論では無いか？と思った。シンギュラリティやデータ至上主義、AIが人間社会よりも優位性を持つ事は、ユダヤ教やキリスト教に基づくSFであるという著者の意見
が興味深いと思った。

ハラリ
人間の代わりにAIが意思決定をする。
人間至上主義から機械的なデータが信頼されるデータ至上主義に変更する。

フロリディ
ハイパーヒストリー時代
コペルニクス革命、ダーウィン革命、フロイト革命、情報革命

2022/06/28

私が初めて筆者西垣通氏の名前を知ったのは、2004年朝日新聞に掲載された「情報伝達という神話」というコラムだった。西垣氏は、東京大学名誉教授であり、また日立でコンピュータソフトの研究開発に関わってこられたバリバリの”専門家”であるが、そのコラムは専門的なうんちくではなく、意外な内容だった。情報が伝わるとはどういうことか、そもそも情報って、本当に伝わるものなのかという反論から展開されていた。「人工知能は責任をとれるのか」と題された本書のタイトルと西垣氏の名前を見て、即買い。特に第６章監視選別社会が印象に残った。AIによって便利な社会になることは言わずもがなであるが、それにより我々が選別される社会になること、そのことに対する警鐘を忘れてはならない。