AI監獄ウイグル

ジェフリー・ケイン(著者), 濱野大道(訳者)

• 販売会社／発売会社: 新潮社
• 発売年月日: 2022/01/13
• JAN: 9784105072612

商品レビュー

2025/05/24

二段階位、モヤモヤする考えがある。

一つは「やましいことが無いなら、監視社会の方が安心で良いのでは。それこそ人類から暴力や略奪、犯罪を去勢する装置で大歓迎だ」という私なりの思い（これは補足が必要だが）。もう一つは、「どうせ悪党どもが少数民族の思想や不妊など強制するつもりなら、監視なんてしないで、理屈なしでやれば良いのでは」だ。

極端な発言だ。暴力を絶対的に否定するなら監視に脅える必要はない。逆に、絶対的な暴力を振るうなら、監視による理由探しなど要らない。

この両極のちょうど中間あたり、中途半端な理論武装の所に、今の中国共産党の危ういバランスがある気がした。つまり、絶対権力を持ちながらも、新たに戦車で人を轢くことは避けなければ、大衆が蜂起しかねない。だからある程度はそれなりの理屈に沿ったポーズが必要。拷問と対して変わらないが、監視は精神の拘束であり、容赦ない肉体への暴力とは線を引いているつもりだろう。そんな事に意味があるかは知らないが。

ー　あなたが女性の場合、毎日正午、政府が提供する経口避妊薬を飲むことを求められる。それでも、あなたはまだ幸せなほうだ。政府は女性の同僚たちをたびたび地元の診療所に呼びだし、強制的に不妊手術を受けさせている。少子化が発展につながると政府は主張し、少数民族の出生率を下げようと試みているのだ。

ー　中国の社会信用システムには不吉な面もあった。クレジットサービス、芝麻信用を運営する企業の幹部である李應雲は、中国の「財新」誌のなかでこう説明する。「たとえば、1日10時間ゲームをしている人は怠け者とみなされます。定期的におむつを買う人はおそらく子育て中の親であり、どちらかといえば責任感が強い人物である確率が高いとみなされる」社会信用スコアの高い人々は、中国全土で何気ない恩恵を受けることができる。

パノプティコンはベンサムによる監視建築様式。冒頭のモヤモヤで私が見落としたのは、監視には看守がいて、それこそが絶対的権力であることだ。つまり、やましいことがあるか否かは関係ない。邪魔な存在ならば、やましさは権力がでっち上げれば良い。逆に監視対象が権利者ならば、やましさは看過しスルーされるのだ。

つまり、「権力の所在が公正でなければ、監視なんて何の意味も無い」というのが答えだ。公正さの度合いにより、監視ははじめて意味をもつ。これは日本においても言えること。権力の公正さ。監獄の怖さはそこにある。

2024/07/30

テクノロジーは人間を豊かにするはずだった。しかし、今やAIを代表とする先進テクノロジーが、人間の自由を奪い、人権を侵害し、人間を高度に監視するシステムを作り出すことに利用されている。その筆頭となるのが、AIテクノロジーを活用し新疆ウイグル自治区における人権侵害を通して中央アジアからヨーロッパへインフラをつなげる一帯一路構想を推し進める中国である。習近平は、輸送コストの低いシルクロードの復活を通して経済拡大を目指している。その上で、国内で暴動テロを起こし強引な独立を主張するウイグルは強制収容所を建設し、テロ分子を収容する必要犠牲になっている。そこで活用されるのが、AIシステムであり、作成者の意図を反映した恣意的なシステムが国民を監視、格付けし、人間らしい生活を奪う。筆者は、このような現象が局地的、一時的なものだと考えるのは非常に危険であり、21世紀を通して人権侵害の大きな媒介者となり得ると指摘する。メイセムというウイグル人の女性の経験を辿りながら、明日は我が身として恐れずにはいられない。

2024/04/04

ジョージオーウェル　一九八四年
が発表されたのが1949年　今から75年前

私がその本を読んだのが
古典SFとして同じく75年たつ先月のこと

ありうるかもしれない未来に
恐ろしくなった感情が消えないうちに
現実に
当事者さえも抗えないうちに
起きていたことに驚愕

さらに最悪なことに
世界はもっと利得のために複雑に絡み合い
わたしたちが知り得る手段のマスメディア
報道も規制がかけられてるものである可能性もあり
真実を見極めるのがとても困難な状況
さらに
私が使うスマートフォンや
ネットショッピング、インターネット
AI、chatGPを効率的ともてはやす
それ自体、私たちの情報を与え続けてる事実

これからどう生きるべきなのか
わからなくなります

先日量子コンピューターの特集のテレビをみました
詳しいしくみは難しいけど
量子コンピューターがあれば
難読なパスワードやセキュリティも
解読できてしまう
それを防ぐのも量子コンピューターだと
だから、各国が競争して開発をしてると。

私には難しいことはわからないし
いうこともできませんが
誰もが、どんな考え方も尊重し合える世界を
作れるのが人間なんじゃないかと。
誰もが、少しでももっと自分自身の時間を
自分自身のために使える時間を増やせる
楽しみを持つ機会をもたらしてくれるのが
科学の発展でいいんじゃないかとおもいます。

誰かだけが得をしたり
誰かだけが権力を得るための
社会を作るために技術を使われたくないし
そんな技術はいらないです

平等ではなく、それぞれの違いを
ただ許容していくべきだと。

長く備忘録的になりましたが、
ここまで読んでくださった方
ぜひ、一九八四年をよんだあとに、この本を
手に取っていただきたいです。

2024年
この本が書かれた時から2年
さらに世界は違う方向にむかっているのに
私が知らないだけかもしれませんが
読んで無駄にならないと思います。