AI・ロボットと共存の倫理

西垣通(編者)

• 販売会社／発売会社: 岩波書店
• 発売年月日: 2022/07/06
• JAN: 9784000223133

商品レビュー

2025/05/11

本書は、人間とAI・ロボットが共存する未来における倫理的課題を深く考察する。中核となるのは「人と機械の違い」であり、その根源をシステムの性質に求める。人間や生物は、自己自身を構成要素とし、それらを自律的に生産・維持する「オートポエティックシステム（自己制作）」である。この自己制作能力ゆえに、自らの行動に対して「責任が持てる」存在として捉えられる。対照的に、機械は「アロポエティックシステム」であり、「自分で自分を作ることができない」。その構成や機能は外部の設計者や製作者（他者）によって決定されるため、本質的に「責任を持つことができない」と論じられる。

このような人間と機械の関係性を探る上で、ドミニク・チェン氏が開発した「nukabot」の事例が示唆的である。nukabotの目標は、通常は目には見えず、専門家でなければその存在や活動を感じ取ることが難しいバクテリアに対して、一般人が愛着を抱くという、新たな関係性を構築することにある。これは、グレゴリー・ベイトソンが提唱した「μ機能」の概念と接続される。μ機能とは、ペットが飼い主に対して餌をねだる際や抱きつく際に発する信号のように、「相手を制御しようという指示ではなく相手に自らの脆弱性を開示するコミュニケーション」であり、相手の自発的なケア行動を促進する「依存の言語」である。nukabotは、このようなμ機能を介して、人間と不可視な存在、あるいは人間と機械との間に新たな情動的な絆を生み出す可能性を探る。

さらに本書は、「非規範的な倫理形成の技術に向けて」という視点を提示する。人間と「もの・こと」（AIやロボット、さらには自然環境など）との間で、どのように倫理を形成すべきかという問いに対し、ヴィンシアン・デプレ（プッチ＝デラ・ベラガサの表記から推察）の土壌の環境哲学が参照される。そこでは、人間と土壌のような存在が「互いの状態に気付き、ケアを掛け合う」という「相互依存的な関係」を通じて、トップダウンの規範によらない「自発的な倫理感覚」、すなわち「非規範的な倫理形成」が促されるとされる。

最終的に、本書の議論は個別の関係性を超え、「地球倫理へ」と視野を広げる。これは、地球環境全体が一つのシステムとして、人間の行動によってどのように変革し、地球自身がそれをどのように「感じている」のかを想像し、配慮することの重要性を示唆する。人間中心主義的な視点から脱却し、地球規模での共生と持続可能性を追求するための倫理観の構築を促している。

感想

本書は、AIやロボット技術が社会に浸透する中で、人間と機械が共存するための倫理的基盤を、生命の本質やコミュニケーションのあり方から深く掘り下げており、非常に示唆に富む内容である。

特に、人間と生物を「オートポエティックシステム」、機械を「アロポエティックシステム」として捉え、そこから責任能力の有無を導き出す議論は、AIにどこまでの自律性や責任を認めるべきかという現代的な問いに、一つの明確な哲学的視座を提供している。機械が本質的に他者によって作られる存在である以上、その行動の最終的な責任は設計者や運用者に帰属するという考え方は、AI倫理を考える上で重要な論点となるだろう。

ドミニク・チェン氏のnukabotとグレゴリー・ベイトソンのμ機能の結びつきは、人間と機械の関係性を、単なる利便性や効率性の追求ではなく、情動的なつながりやケアの次元で捉え直す可能性を示しており興味深い。機械が自らの脆弱性を示し、人間のケアを引き出すという視点は、共依存的でありながらも、より温かみのある共存関係を築くヒントになり得る。

また、ヴィンシアン・デプレの土壌の哲学を援用した「非規範的な倫理形成」の提案は、固定的なルールや規範をAIにプログラムするだけでは対応しきれない複雑な状況において、人間とAIが相互作用を通じて倫理的な関係性を柔軟に構築していく未来を示唆する。これは、状況に応じて変化し、学習していく倫理のあり方として注目に値する。

最後に「地球倫理」へと考察が展開されることで、AI・ロボット倫理が単に人間と機械の二者関係に留まらず、地球環境全体との調和の中で捉えられるべき広範なテーマであることが強調される。技術の発展が地球環境に与える影響を考慮し、持続可能な未来を築くための倫理観を持つことの重要性を再認識させられた。

総じて、本書はAI時代の新たな倫理観を構築する上で、哲学、生物学、コミュニケーション論、環境思想など多角的な視点から深い洞察を与える一冊と言える。

2023/01/02

あなたはAIをあくまで「モノ」つまり情報処理ツールと考えるか、それとも「ヒト」に準じた人口知能と考えるか。「2001年宇宙の旅」に出てくるAIのように、善や正義を自律的に選ぶようになったとき、AI倫理問題は間違いなく顕在化する。今からネオ・サイバネティックスへの理解を深め、その近未来に備えておく必要がある。

2022/09/28

岩波の本の例によくあるように、いろいろな論文を集めたものである。各人の論文集を抜粋して読むよりは、ここに掲載している本を読んだ方がいいのはインターネットで論文が見れる前の時代である。
　やはりひとりの著書が書き下ろしで書く書籍がいい。