操作される現実 の商品レビュー

サミュエル・ウーリー(著者),小林啓倫(訳者)

2024/09/22

AIが全知全能を究極的に手に入れる時、それはつまり、集団間の秘密保持が成立しない場合にしかあり得ないと思うが、しかし、それすらも推論で補完できるようになるかも知れない。本書に「AIは、AIと戦うことができるのか」という文章を見たが、AI同士の個性はやがて無くなるのではないか。結局、蛸壺のように隠された集団ごとの秘密を推論で補う、その情報量と質へのアクセス性のみが、AIのオリジナリティになりそうだ。例えば、共産圏のAIこそが最も最適解を弾ける、など。

AIの本義は人の幸福を目指す事としてプログラミングされるから、その答えも自ずと平和的な結果になる、というのはお花畑的見解だ。最適解に辿り着くまでに選択肢として生じる犠牲をどう解決するか、そのため、最近はトロッコ問題や生命のトリアージなど、自動運転テクノロジーと相まって、一部では応用問題として取り扱われるのが流行である。鼻のきく、しかし、応用はきかぬ界隈では、これを富裕層の陰謀として、優生学ならぬ資本主義による命のビザの如く片付ける。

操作される現実とは。その第一歩はマスメディアであり、その後は、大衆教育。いや、実はもっと深い所での家庭教育と共に根を張るのが、絵本のような寓話である。脳はこれらを判断材料の初期設定として、ハードディスクに記憶を溜めながら、日々、推論していく。これを書き換えるのは本来容易ならざるもので、必ず「同じファイル名が存在するが上書きしても良いか」と、初期設定に突き合わせが入るから、我々は簡単には洗脳されない。音声や画像、読字は、脳内にエンコードされた時点で曖昧化され、同じでなくとも似たようなファイルにヒットされるからである。これは防衛機能であり、意味のある能力だ。

しかし仮想現実なら。いや、仮想現実なら脳も騙されない。最も危険視すべきは、仮想現実が仮想と気付かれずに日常に溶け込み始めるポストトゥルースの世界。簡単に、脳は現実を上書きし、混乱した動きを見せるだろう。観測によるグラウンドトゥルースが錯覚をもとに生成される。そこがVRだと気付かなければ。

いまやフェイクビデオは、敵対的生成ネットワーク（GAN）と呼ばれる機械学習の手法を使って制作できるようになった。性的に魅力のある配列により生成された下品なポルノが量産されるだけなら、非アクティブな人類が子供を生まなくなる位の害しかない。問題は、それがバーチャルに悪用された場合に、簡単に少年兵を作ったり、親のフリをして子供たちを惑わせる事だ。つまり、初期設定の人格形成段階が問題だ。METAのオキュラスは年齢制限が10歳に引き下げられた。

聖典や思想から、異教徒に関する不寛容なプログラミングを消去しなければ。いや、宗教に限らず、個々のバグに対してウイルス除去できるような操作ならば、価値はあるのかも知れない。

ー　2018年の終わりに、オンラインゲーム「フォートナイト」上で、あるプレイヤーがまさにそれを行った。問題となった人物は、オーストラリア出身の26歳の男性で、彼はこのゲームをプレイ中、妊娠中のパートナー（他の二人の子供の母親）に暴力を振るう様子をライブ配信した。他のプレイヤーがそれを告発したことで、彼は逮捕された。また別のケースでは、25歳のフランス人ラロッシ・アバラが、フランスの警察署長とその同僚を殺害する様子をライブ配信した。彼は最終的に警察によって射殺されたが、この事件は世界的な注目を集めた。

2022/10/12

ソーシャルメディアのフェイクと政治の関連であった。タイトルは操作される現実であるが、原題はThe Reality Game: How the Next Wave of technology with Break the
Truth.である。
　つまり、大統領選挙としてのゲームをどのように操るかということである。
　残念ながら教育には全く関係がなかった。ただし、米国の政治関連についての卒論であれば役に立つかもしれない。

2022/04/18

１　曖昧な真実
２　真実の破壊―過去・現在・未来
３　批判的思考から陰謀論へ
４　人工知能―救いか破滅か？
５　フェイクビデオ―まだディープではない
６　ＸＲメディア
７　テクノロジーの人間らしさを保つ
８　結論―人権に基づいたテクノロジーの設計

2021/10/16

アメリカのディープフェイクに絡む事件がらみで一通り知りたい人には良い。やはり、2016年ケンブリッジ・アナリティカ事件が大きい。最初のフェイク動画は、CNNのアコスタがマイクにしがみつこうとする動作を敵意あるものに見せるため再生速度を速くしただけのものだったという話は興味深かった。海外では、偽情報により惨憺たることも起きている。

2021/03/21

シリコンバレーのリバタリアン的な思想がネットにおける流言、捏造の蔓延を招いた。

結局はリテラシーを身につけて本物と偽物を見分けられるようになろうという当たり前のことしか書いてないのだけれど、実際の例については網羅的に書かれている。

プロパガンダ活動といっても今の世の中では個人レベルでもできてしまうし、ディープフェイクのようにあからさまなものでなくともSNSにイスラム教支持のグループとキリスト教支持のグループを２つ作るなどしてさりげなく社会の分断を促進する話などは考えさせられるところも多かった。

・私たちは人間のように賢い機械を恐れるべきではなく、機械をどう作るかについて賢い判断を下すことのできない人間を恐れるべきである

2021/01/05

去年でも来年でもない「今」読むべき一冊。
本書冒頭で引用されているように、民主主義は決して固まらないもの‥の意味を突き付けられる本。2020年1月に発売された原書を同年11月に日本発売という訳者に感謝。