イランでの独房監禁で明らかになったパーソナライズされた消費の危険性

8ヶ月間の独房監禁生活の5ヶ月目、ペルシャ正月（ノウルーズ）の直前、看守はテヘランにあるエヴィン刑務所の厳重警備施設の反対側にある新しい独房に私を移しました。3メートル四方のその独房は、以前の独房よりもはるかに広く、隅々まで8の字を描くように歩けるほどでした。他に何もすることがなかったので、ひたすら歩くことが唯一の日課となり、すぐに中毒になってしまいました。

私は歩き続けた。あらゆる可能性を思い出し、想像し、予想し、計画し、そしてしばしば、知っている限りのあらゆる言語で、声に出して自分自身と対話した。八の字を描くように歩きながら、私は窓や半分大理石で覆われた壁を見つめた。陽光が部屋に差し込み、床に金色の軌跡を描き、壁をよじ登った。光は踊り、温まり、そして消え去り、明日もまた戻ってくることを約束した。大理石のキャンバスには、様々なイメージが浮かび上がっていた。座る女性の曲線を描く裸の背中。その周りには、顔の横顔と雲が描かれていた。

視覚を失った私は、音に安らぎを求めた。新しい独房は、すぐ外に高く立派なプラタナスと桑の木が立ち並ぶため、光は少なかった。しかし、正面玄関のすぐ隣にあるため、エヴィン刑務所の基準からすれば、たとえ聴覚を通してだけだとしても、より賑やかで楽しい場所だった。退屈した看守たちが廊下の端で交代勤務の上司の噂話をしているのも、他の囚人の頼みに応じるのも、国営テレビでサッカーやドラマを見ているのも、私には聞こえていた。（ニュースは見ないように厳しく指導されていたので、私はニュースを一度も聞いたことがなかった。）ある時、くだらないテレビCMでレディオヘッドの「A Punch Up at a Wedding」のインストルメンタルバージョンが数秒流れただけで、私は心から泣いてしまった。ハグと本のどちらをもっと欲しているのか、自分でもよく分からなかった。両方を同時に奪われるのは、とても稀なことなのだろう。

私にとって唯一の慰めは、この悲惨な状況において、あるいは少なくともそう認識されていること、私たち全員が平等であるということでした。看守や尋問官たちは、私たちの病棟では誰にも本や新聞は与えられていないと常に言っていました。私は彼らを見たことも（音を聞いたことも）なかったので、彼らを信じていました。

しかしある日の午後、このささやかな安らぎを打ち砕くような音が聞こえた。私の部屋から二つ隣の独房の外に、四足のスリッパが現れたのだ。おそらく独房から出てきたばかりの四人の囚人が、大きな独房に一緒に入れられることになったのだろう。数時間後、独房を繋ぐ換気口から、新聞紙が擦れる音が聞こえた。本当に胸が張り裂ける思いだった。あの換気口と、そこから聞こえる音は、その後三ヶ月間、私を深く不安にさせた。目隠しをして中庭を歩くこと、ひどい灰色のポリエステル製制服、安っぽい青いナイロン製下着など、厳重警備刑務所のあらゆる不当な扱いの中でも、これが最も辛く感じられた。

しかし、もし他の独房の声が聞こえるような、独房間の共有換気口がなかったらどうなるだろうか？もし病棟があまりにも広大で、他人の存在を感じることができなかったら？もし彼らが私たちを盲目にしたように、耳も聞こえなくできたとしたら？もし彼らが私たちの体を閉じ込めたように、感覚も閉じ込めることができたら？もっと広い疑問が浮かび上がってくる。同僚の給料や、彼らがどこで、どのような生活水準で暮らしているかを何も知らないのなら、自分たちが公平に扱われているかどうかさえわかるだろうか？他人の生活を見て学ぶことができる共有空間がなければ、不公平さを感じることはできるだろうか？

私が刑務所で経験した、身体的孤立と認知的孤立が混在する稀有な状況は、世界中の発展した都市部に住む多くの人々にとって急速に現実のものとなりつつある社会の分断を、誇張した形で体現していました。パンデミックはこの現実を幾分加速させました。私たちの多くは、オフィス、イベント、店、カフェ、レストランに行くのをやめました。車や自転車に乗り、公共交通機関を避けました。フェイスマスクなどの物理的な障壁が、私たちを他人から守っていました。見知らぬ人と交流したり、見つめ合ったりすることさえできた公共空間や共有空間はほぼすべて消え去り、私たちの生活は、長い間恐れていた比喩的な認知的繭ではなく、現実の物理的な繭へと変わりました。

日常生活における物質的孤立と認知的孤立の融合を、私は「真実の大衆的パーソナライゼーション」と呼んでいます。これは、認知的フィルタリングや情報フィルタリングのみに焦点を当てた悪名高い「フィルターバブル」よりもはるかに広範な議論です。

プラットフォームは急速に社会制度へと変貌を遂げつつあり、私たちの生活に深く長期的な身体的、そして認知的影響を与えています。自動運転車、複合現実ヘッドセット、ドローン配送といった近未来のテクノロジーは、パンデミック中に私たちが経験した孤立を、恒久的な日常へと変えるでしょう。交流のための共有空間が減少するか、アクセスが制限されるため、面識のない人と出会ったり交流したりする機会は劇的に減少するでしょう。プラットフォームは、刑務所で私たちの心身が管理されるのと似たような形で、私たちの精神的、そして物質的な生活に影響を与えています。

一人だけの社会

「一人だけの市場」は、かつて世界中のマーケターやメーカーの夢でした。誰かのユニークで切実なニーズを確信しているなら、その製品を作る前に既に販売していることになります。この究極のパーソナライゼーションこそが、消費と生産が一体となる場所です。

AIと機械学習の時代以前は、大規模なパーソナライゼーションを想像することは困難でした。しかし、GoogleやFacebookのような巨大デジタルプラットフォームの登場により、マスパーソナライゼーションがついに登場しました。これは、膨大なデータ監視と複雑な分類技術に基づいて、消費者を超細分化し、そのニーズや欲求を予測する、自動化された継続的なプロセスです。Facebook、Instagram、Twitterのフィードとそこに埋め込まれた広告から、AmazonやNetflixのおすすめ、SpotifyのWeekly Discoverプレイリストまで、企業は統計と確率を用いて、私たちが何を必要とし、何を望んでいるかを素早く把握し、それに応じて私たちを誘導しています。

ここでの疑問は、もし一人の市場が生活の他の領域に拡大され、一人の社会に変わったらどうなるかということです。

マス・パーソナライゼーションがフィードや広告の枠を超えて広がると、それは全く別のものになります。それは、真実のマス・パーソナライゼーションです。ここでの「真実」とは、長期にわたる、体現された、生きた経験、そしてすべての個人が外の世界について持つ、実践的かつ本能的な知識を指します。

プラットフォームが、認知体験だけでなく、身体や物質的な体験までもコントロールできるようになる、そんな可能性を考えてみてください。自動運転車で私たちを誘導し、不要なものを購入するルートを選ばせるかもしれません。私たちをどのイベントに連れて行くか、どんな人と接するかを決めるかもしれません。おそらく、頭上に視覚的なヒントを表示して、誰に近づくべきか、誰を避けるべきかを示すでしょう。私たちが返品しないと判断した商品を、パーソナライズされた価格で注文するかもしれません。私たちが誰とデートし、誰と交際し、誰と子孫を残すかを決めるかもしれません。私たちの精神を束縛することはできないかもしれませんが、身体を完全に支配することは可能です。そして、私たちの精神は、最終的には身体の行く先に従うことになるでしょう。

一人だけの社会とは、精神世界と現実世界の両方で、それぞれ異なる個人的な真実に基づいて生き、他者の真実を経験する機会がほとんどないことを意味します。これは二つの側面から作用する可能性があります。私が独房で、通風孔というわずかな共有空間を通して、一部の受刑者が新聞にアクセスできることを発見したように、何らかの集団性（あるいは共有空間）がなければ、正義は実現さえされません。また、研究によると、貧しい子供が裕福な子供の友達を作ると、高校卒業率が著しく高くなり、成人後の収入も平均20%増加することが明らかになっています。隔離が不平等を深めることは周知の事実です。

正義と平等だけでなく、民主主義もマス・パーソナライゼーションの影響を受けるでしょう。なぜなら、それは市民権という概念の前提条件である自律性を損なうからです。人々が互いの生活や、共有の公共空間における体現された「真実」に触れなければ、政治家が人種差別と反人種差別を同時に掲げる選挙運動を展開し、勝利することさえできるのです。勝利後も、政治家は自らの計画や実績を様々な形で提示することで有権者を操り続けることができます。一方で、人々は知らない人々との有意義な交流をますます失っていくのです。

これは刑務所の尋問官がよく使う手法だった。彼らは囚人に、民族的背景や政治的立場について様々な話を聞かせた。囚人が公共の施設に移送されるか、尋問官の証言を反対尋問する方法が見つかれば、初めて自分が操られていることに気づくことができるだろう。

信頼は集団の中でのみ形成されるため、マス・パーソナライゼーションによっても脅かされます。無名の航空会社の空の飛行機に乗りたい人がいるでしょうか？独房生活で特に不安だったのは、外の世界について彼らが教えてくれる事実を全く信じられなかったことです。彼らが私に教えてくれる情報は全て、私が隠していると考えていることを白状させるために私を操る意図がある、と常に信じていました。

例えば、私は2009年の非常に緊迫した選挙の数ヶ月前に逮捕されたため、どの候補者が選挙活動を開始したかという彼らの言うことを全く信じませんでした。イランサッカー代表の監督に誰が任命されたかといった些細な事実にさえ、不信感を抱いていました。数ヶ月後、共有スペースで他の受刑者たちと出会った時、初めて彼らが嘘をついていなかったことに気づきました。

プラットフォーム中立性

2023 年になっても、一人暮らしの社会というのは、まだ実現不可能な夢（あるいは悪夢、人によっては）のように聞こえるかもしれない。しかし、ビッグデータと機械学習の融合によって巨大なデジタル プラットフォームが出現する以前の一人暮らしの市場もそうだった。

マス・パーソナライゼーションの暗い帰結を未然に防ぐ時間はまだあります。私が2018年から推進してきた具体的な政策案の一つは、「プラットフォーム中立性」です。これは、プラットフォームがAIモデルやアルゴリズムをコアコードから分離するよう規制することで、ユーザーが購入し、任意のプラットフォームにインストールできるサードパーティ製のアルゴリズムやモデルの自由市場を創出するものです。

Googleマップにサードパーティ製のAIモデルをインストールして、デフォルトのモデルを置き換え、チェーン店のカフェや人種差別的、あるいは環境汚染の傾向がある店舗を回避できるようにしたらどうなるでしょうか。Instagramでサードパーティ製のアルゴリズムを購入して使用し、10代の少女をいじめや自傷行為から守れるようになるとしたらどうでしょうか。あるいは、同僚や家族、元パートナーから自分のプロフィールを非表示にするサードパーティ製のTinderプラグインを想像してみてください。

少なくとも、これにより AI モデルとアルゴリズムの透明性と説明責任が高まります。

もう一つの解決策は、私が独房拘禁中にやったことかもしれない。かつて盗んで独房に持ち込んだペンで、壁の大理石の自然な線に沿って、細い字で短い文章を書き続けた。自分の状況、尋問官が言ったり尋ねたりした愚かな言葉、私が最も恋しかったこと、歌詞の歌詞、他の囚人へのアドバイスなど。そして、それら全てに日付をつけて署名した。8ヶ月の独房拘禁中、3つか4つの独房に入れられたすべての場所でこれを続け、その後も続けた。

今日まで、あの独房で過ごした何十人もの人々が私の言葉を見て、そこから学び、歌い、踊りました。こうして私は、彼らの個人的な体現された真実を破壊したのです。

マス・パーソナライゼーションの最大の危険性は、私たちの精神への影響ではなく、むしろ身体への影響にあります。ほとんどのアジア文明が遥か昔に理解していたように、身体は精神から切り離されたものではなく、精神が変化するのは通常、身体を通してであり、その逆ではありません。