デジタルヘイト対策センターの創設者イムラン・アーメド氏は、偽情報の拡散を抑制しなければどうなるか、民主主義の死はもちろんのこと、現実の完全な崩壊も危惧されるという点について冷静に考えている。
フォトイラスト：WIREDスタッフ、写真：イムラン・アーメド
デジタルヘイト対策センター（CCDH）が最近発表した調査によると、怒りは儲かるビジネスだという。昨年10月にイスラエルとハマスの間で紛争が始まって以来、「反ユダヤ主義や反イスラム主義のコンテンツを投稿するアカウントのフォロワー数がX上で急増している」と調査は結論づけており、このソーシャルメディア企業はこれらの投稿の横に表示される広告で収益を上げているようだ。イムラン・アハメド氏はこの問題を痛切に理解しており、憎悪が利益を生むとどうなるかを暴くことを生涯の仕事としている。2001年9月11日、彼の23歳の誕生日の前日から、この状況は続いてきた。
「共感を覚えました」とアハメドはZoomで語った。彼の家族はパシュトゥーン人で、アフガニスタンで最大の民族の一つだ。タリバンもパシュトゥーン人だった。「世界を変えるために何かをしなくてはいけないと思いました」と彼は言う。「この根深い悪、この根深い間違いを正さなくてはいけない」。そこでアハメドは大学に戻り、ケンブリッジ大学で政治学を専攻した。それが後に、当時議会で影の外務大臣を務めていたヒラリー・ベンの政治顧問に就任するきっかけとなった。
しかし、議会には独自の課題がつきものだ。アハメド氏の人生における第二の転機は、労働党が英国のEU残留を目指して運動していた2016年に訪れた。ブレグジットをめぐる議論が激化するにつれ、党内には「反ユダヤ主義が急速に浸透」していたとアハメド氏は話す。不安定な時期だった。同氏によると、この時期に極右政党「ブリテン・ファースト」は、EUがイスラム教徒と黒人を輸入し、レイプ・キャンペーンによって白人市民を「滅ぼそう」としているという危険な陰謀論を唱えたという。「これらの嘘が、最終的に英国がEUを離脱する理由となった4%の票を動かす上で不可欠だった。しかし、これらの嘘は、同僚の[労働党議員]ジョー・コックスの殺害にも直接つながった」と、白人至上主義者に銃撃され刺された。その話を語りながら、アハメド氏は少し間を置く。コックスは親しい友人だったが、彼があの日の悪夢からまだ立ち直れていないことは明らかだ。
現在45歳のアハメド氏は、オンライン上でデジタルによって拡散される膨大な量の偽情報とヘイトに警鐘を鳴らすため、2019年にCCDHを設立しました。彼は、ソーシャルメディアがもたらす危害に対して、テクノロジー企業に責任を負わせる時が来たと述べています。なぜなら、誰も責任を負わなければ、無策の結果は壊滅的なものになるからです。
ジェイソン・パーハム：イーロン・マスクはデジタルヘイト対策センターを訴えて敗訴しました。その時の経験はどのようなものでしたか？
イムラン・アーメド氏： [長い沈黙の後、笑いが起こる]それで彼は私たちを訴えたのです。彼がTwitterを乗っ取った時に、ニューヨーク・タイムズの一面を飾った[Twitter]上でのヘイトの増加に関する調査を私たちが行ったことで、彼の広告事業に影響が出たと主張したのです。Nワードの使用が3倍になったのです。彼がTwitterを乗っ取った翌週、彼のプラットフォーム上でのNワードの使用量は、前年の1日平均と比べて3倍になりました。それは彼がTwitterを乗っ取った時に、人種差別主義者や同性愛嫌悪者、あらゆる種類の偏見を持つ人々に向けて「私のプラットフォームはあなたたちのために今、ビジネスに開放されています」とバットシグナルを発したからでしょう。
Twitterはすでに混乱状態にあったが、特に信頼性と安全性を担当するスタッフの大半を解雇した後は、未知の領域のように感じられた。
彼は、Twitterの前体制によって追放されていた何万人もの悪質な行為者をプラットフォームに戻しました。いわば「アーカム・アサイラム」の扉を開き、ここは人種差別主義者や偏見を持つ人々にとって安全な場所だと宣言したのです。彼はその調査を理由に私たちを訴えました。
でも、あなたの質問に答えるとしたら、私は気分がいいです。もしあなたがプラットフォームに鏡をかざして、その反射が特に醜いとしたら、彼は鏡を訴えるという反応をしました。彼がすべきだったのは、自分のプラットフォームを改善しようとすることでした。しかし、彼はそうしませんでした。彼は、これは本当に経済的な問題だというサインを私たちに示しました。何が彼を怒らせたと思いますか？人々が彼を「クソ野郎」呼ばわりしたからではありません。
金のためだった。彼は広告主に対し「くたばれ」とも言った。
マスクは、まるで憎悪と怒りが絶え間なく渦巻く自動車事故のように、人種差別主義者にとって安全な空間を作り出すことで、誰も目を背けられないような光景を作り出すことができると信じている。その背後には、まるでローマ帝国時代の理論がある。人種差別主義者と反人種差別主義者を大衆の娯楽のために戦わせよう。大衆はそこに殺到し、私たちは広告で莫大な利益を得られる、と。ところが、彼の理論は結局うまくいかなかった。広告主が「こんなくだらないものに広告を出したくない」と思ったからだ。しかし、そのモデルが機能しないことを証明できたことを、私は非常に誇りに思っている。
裁判官は訴訟を棄却した際、Xはプラットフォームに批判的な人々を「罰する」ための試みだったと述べました。この勝訴は、CCDHの活動が認められたものと言えるのでしょうか？
これは、何が重要かという私たちの理解に関する理論の正当性を証明するものです。当初から、私たちの仕事は、憎悪の生産と流通、そして憎悪やその他の偽情報の根底にある嘘を生み出すためのコストを生み出すことだと言ってきました。これは、真に重要なものに関する変化の理論の正当性を証明するものでした。
今年は選挙の行方を左右する年であり、選挙に関する偽情報が増加しています。もしこれを阻止しなければ、あるいはさらに悪いことに、人々がこうした嘘を信じ続ければ、一体何が問題になるのでしょうか？
これはアメリカだけの重要な選挙ではありません。今年は選挙の年です。世界中で20億人以上が民主的な選挙で投票します。そして、ソーシャルメディアが悪意ある者たちによって武器化されているのを目の当たりにしています。非国家主体、選挙プロセスに影響を与えようとするヘイトアクター、あるいはソーシャルメディアプラットフォーム上のアルゴリズム的な優位性を利用してヘイトを優位に立たせようとする政党などです。これは、欧州議会におけるファシストの増加の一因でもあります。ソーシャルメディア上で広がり、私たちの政治、民主主義、そしてオフラインの世界を急速に再社会化させているヘイトの波を食い止めることができない、というメッセージを、世界は発信しているのです。
時々、その影響は抑えきれないように感じます。
これはアメリカにおける3回目の選挙サイクルであり、2016年、2020年、2024年と続いていますが、ソーシャルメディアは選挙において非常に重要な役割を果たすことになるでしょう。アメリカは、民主主義がますます不安定になっているという事実をまだ受け入れていません。分極化が進み、憎悪が蔓延し、合意形成能力が低下しています。2020年の選挙では、人々がもはや選挙が現実のものであることさえ受け入れていないことが分かりました。選挙サイクルに多大な影響を与える情報エコシステムをコントロールするこれらのプラットフォームに求められる透明性と説明責任を、今こそ着実に実現していくことが重要です。
ソーシャル メディアとそれが引き起こす危害を規制することがこれほど難しいのはなぜだと思いますか?
世界中の国々がそれを行っています。英国はオンライン安全法を制定しました。EUはデジタルサービス法を制定しました。カナダはC-63を通じて立法化しており、私はいずれオタワでこれについて証言する予定です。米国では、ソーシャルメディア企業が世界で最も積極的な防御策を講じているのを目にしています。彼らは数千万ドルを費やして議会へのロビー活動を行い、候補者を支援し、避けられない事態を阻止しようとしています。
何かがうまくいくはずだよね？
皮肉なことに、最終的に議員たちを動かす可能性が最も高いのは、親たち、特にソーシャルメディア・プラットフォームが子供たちのメンタルヘルスに与える影響を懸念する親たちだと思います。ソーシャルメディアはまさにそれであり、あらゆるものに影響を与えます。CCDHは、ソーシャルメディアの影響、気候変動危機への対応能力への規制緩和、性と生殖に関する権利、パンデミック中の公衆衛生とワクチン、アイデンティティに基づく憎悪と子供たちへの影響を調査しています。これは子供たちの問題であり、まさに変化を求める紛れもない根拠なのです。
妻と私はもうすぐ第一子を出産します。お子さんを危害から守るために、皆さんがどんなことをするかはよく分かります。これほどまでに子供たちを傷つけるプラットフォームがある以上、変化は避けられないと思います。
楽観的な私は、あなたの言う通りだと願っています。次の世代はより良い世界を受け継ぐべきですが、それを阻むものがたくさんあります。
私が本当に恐れていることの一つは、昨年行った世論調査で、アルゴリズムで順序付けられた短編動画プラットフォームで育った最初の世代である14歳から17歳の若者が、アメリカで最も陰謀論的な世代と年齢層であることが初めて示されたことです。
ああ、すごい。
高齢者は陰謀論を信じる傾向がわずかに高いです。しかし、若年層になるとその割合は低下し、14歳から17歳では、なんと最も高くなります。これは、トランスフォビア的な陰謀論、気候変動否定的な陰謀論、人種差別的な陰謀論、反ユダヤ主義的な陰謀論、そしてディープステートに関する陰謀論という9つの陰謀論について検証した結果です。そして、どの陰謀論においても、若者はより信じる傾向が強かったのです。これは、私たちが若者のために、根本的に混沌とした情報エコシステムを作り出してきたからです。
そしてますます混乱が増すばかりです。
暴君が権力を維持する方法は、人々に嘘をつくだけではありません。真実を見分けられないようにすることです。そして、それは無関心を生み出します。無関心は暴君の道具です。ソ連でもアフガニスタンでもそうでした。CCDHの幹部が、情報エコシステムの破壊が暴君的な政府につながるのを目の当たりにした国々出身者であることは、周知の事実です。ですから、事態は急速に悪化する可能性があるという認識があるのです。そして、あなたがおっしゃる通り、私たちは子供たちのことを心配し、彼らのために世界をより良くしたいと思っています。
わかりました。
しかし、問題はここにあります。子供たち自身が、ソーシャルメディアのアルゴリズムによって急速に再社会化され、問題を解決するために必要な民主主義を損なう可能性のある世代になっているのではないかと思います。私たちは広告費のために子供たちを消費しています。サンフランシスコのソーシャルメディア幹部の小さなグループに流れる広告費のために、私たちは自分の子供たちを食い物にしているのです。
そして、AIがより主流になるにつれて、これらの問題はさらに深刻化する可能性が非常に高くなります。
ソーシャルメディアは、偽情報の核時代でした。昔は、偽情報を広めるにはある程度の努力が必要でした。パンフレットを印刷して郵送するなどです。ソーシャルメディアはそれを変えました。マーク・ザッカーバーグはかつて、コンテンツが違反行為であるほど、エンゲージメントが高くなることを示すグラフを作成しました。エンゲージメントを増幅で報いるプラットフォームでは、偽情報は良質な情報よりも増幅されるということです。つまり、根本的に非対称な競争の場になっているのです。大規模に偽情報を拡散するプラットフォームの経済性を考えてみましょう。送信者にとって、1人増えても、1メッセージ増えても、コストはゼロです。これはまるで核爆弾のようです。ウラン238の原子数個からほぼ無限のエネルギーを生み出すようなものです。そして、AIの登場です。
くそ。
つまり、かつては10億人に無料でこれらのメッセージを拡散するのにかかるコストは、メッセージの作成のみでした。AIは偽情報の作成にかかる経済性を変革し、そのコストもゼロにします。つまり、私たちは今、従来の偽情報の時代からソーシャルメディアを基盤とした核兵器時代の偽情報時代へと、そしてAIとソーシャルメディアが融合した熱核兵器時代の偽情報時代へと、非常に急速に移行しているのです。AIが生成した偽情報は、ソーシャルメディアプラットフォーム上でアルゴリズム的に優位に立つため、情報システムに完全な混乱を引き起こす可能性があります。
それは今起こっています。
そして問題は、混乱が必ずしも1月6日という日をもたらすわけではないということです。それは無関心にもつながります。つまり、私たちは認識論的不安の状態に陥り、何が真実かそうでないかがわからないだけでなく、何が真実で何がそうでないかを判断する方法もわからなくなってしまうのです。
そして、私たちにはそのための資源もありません。私たちの政府が部分的に私たちを失望させたからです。
見たり聞いたりしたものが信じられないという今の状況は、前例のないものです。
