アルゴリズムが自傷行為を助長した場合、誰が責任を負うのか？

2017年に14歳のモリー・ラッセルが亡くなった際、彼女の携帯電話には自傷行為の鮮明な画像や、「うつ病に効くピン」を集めたメール、そして愛する人から精神疾患を隠すためのアドバイスが保存されていました。捜査官は当初、このイギリスの少女の死を自殺と判断しました。しかし、約5年後、英国の検視官裁判所は判決を覆しました。現在、検視官裁判所はラッセルが「うつ病とオンラインコンテンツの悪影響に苦しみながら、自傷行為によって」死亡したと主張しており、アルゴリズム自身もその兆候に気づいています。

科学と法律の限界を押し広げる注目を集める事件で、テクノロジーと自殺が衝突するのは今回が初めてではない。そして、これが最後でもないことは間違いないだろう。ソーシャルメディアプラットフォームが、利用者のうつ病、ボディイメージの問題、その他のメンタルヘルスの問題に影響を与えていることを示唆する研究が増えている。これまでのほとんどの事件は、プラットフォームを利用して他者をネットいじめする個人に焦点を当てているが、ラッセル氏の死に関する調査は、「インターネット企業が自殺の法的責任を問われたのはおそらく初めて」だとニューヨーク・タイムズ紙は報じて いる。

しかし、英国の判決は必ずしもソーシャルメディア企業の責任追及を意味するものではない。まず、検死官裁判所は刑罰を科すことはできない。MetaとPinterestの幹部は証言を強制されたが、誰も金銭を支払わず、ましてや刑務所に入る者はいない。さらに重要なのは、精神疾患とソーシャルメディア・プラットフォームを関連付ける既存の研究は、主に関連性に基づいているということだ。XとYは両方とも変化したが、どちらかが他方を引き起こしたかどうかは断言できない。ソーシャルメディアに関連した自殺の明確な責任追及は、依然として全く不可能である。

結局のところ、死因判定に裁判所の裁定が必要とされるのはモリー・ラッセルだけではない。毎年650万人が大気汚染で亡くなっているのだろうか、それとも化石燃料による資本のせいだろうか？アメリカにおける死因の第1位は心臓発作なのか、それとも貧困の連鎖なのか？そもそも、自殺とは、長きにわたる苦悩の連鎖を断ち切る自傷行為ではないのだろうか？

これらの問いにどう答えるかは重要です。しかし、米国では、こうした事件の将来は、ますます長くなる因果関係の連鎖に向き合う裁判官と陪審員の意欲にかかっています。それはまた、立法者とその有権者に、既存の自殺科学の枠を大胆に超えるか、それとも新たな結果を待ち焦がれるかという、難しい選択を迫ることになるでしょう。

念のため言っておきますが、自殺を奨励するのは、それが学校のいじめっ子であれ、匿名アカウントであれ、あるいはニュースフィードであれ、本当にひどいことです。しかし、だからといって違法になるわけではありません。

2006年、ミズーリ州のロリ・ドリューという母親と従業員は、ジョシュ・エバンスという名の10代の少年になりすますための偽のMySpaceアカウントを作成しました。ドリューはこのアカウントを使って、13歳の隣人であるメーガン・マイヤーと会話をしていました。ドリューは、マイヤーがドリューの10代の娘サラに関する噂を広めたと信じていました。メッセージは最初は軽い口調で交わされていましたが、最終的に「ジョシュ・エバンス」はマイヤーに「君がいなければ世界はもっと良い場所になるだろう」と告げたとされています。その後まもなく、マイヤーは亡くなりました。

偽のMySpaceアカウントの情報が広まった後も、地元警察はドリューの逮捕を拒絶した。マイヤー夫妻はドリューに対して民事訴訟を起こすことはなかった。ロサンゼルスの連邦検事局が、1986年のサイバーセキュリティ法であるコンピュータ詐欺・濫用防止法（CFAA）に基づき連邦法違反の罪でドリューを追及したが、訴訟は頓挫した。最終的にドリューは自由の身となった。

こうした疑問が米国で再び浮上した時、事態は少し様相を変えました。2014年、マサチューセッツ州に住む18歳のコンラッド・ロイが自殺しました。彼の携帯電話には、遠距離恋愛中の恋人ミシェル・カーターとの長年にわたるやり取りが残されていました。カーターはロイに繰り返しテキストメッセージで自殺を促していたのです。ロイが亡くなった当時17歳だったカーターは、その後、少年裁判所で過失致死罪で有罪判決を受け、11ヶ月間服役しました。

フロリダ・アトランティック大学の政治理論家マーク・チュニック氏は、カーターの行動に関するメディア報道を踏まえれば、彼女を処罰したいという気持ちは理解できると述べている。しかし、チュニック氏は著書『Texting, Suicide, and the Law』の中で、マサチューセッツ州における過失致死の2つの分類――不作為（介入の失敗）と作為（無謀さによる危害）――はカーターには当てはまらないと主張している。第一に、カーターには親や医師のようにロイを守る責任がなかった。さらに重要なのは、裁判所がカーターがロイの死を引き起こしたことを証明できなかったことだ。

多くの法学者も多かれ少なかれ同意している。米国の裁判所では、原因の問題はしばしば「but-for」テストによって決定される。「プラム教授が温室でピーコック夫人の頭を燭台で殴りつけなければ、ピーコック夫人はまだ生きていただろう」というものである。自殺は伝統的に個人の自発的な行為とみなされているため、裁判所は通常、あの決定的な最期の瞬間に他の因果関係の連鎖が断ち切られたとみなしてきた。カーターは好きなだけメッセージを送ることもできただろうが、この考え方では、真の「but-for」はロイ自身の行動だった。

社会的伝染の力は、自殺に対する個人の責任という概念をさらに複雑にしている。自殺は個人の行動である可能性もあるが、「大部分は社会的な混乱である」と、ニューヨーク州精神医学研究所の社会疫学者デビッド・フィンク氏は述べている。自殺の方法や根拠は時代や文化によって大きく異なる。経済的要因は自殺率に大きな影響を与えているようだ。現在、医師や科学者たちは、ソーシャルメディアが有害な考えを広める上で果たす役割について研究を進めている。

少なくとも1970年代以降、疫学者たちは、友人や家族の死、あるいはマスメディアを通して自殺に接すると、自殺念慮や自殺行為のリスクが高まることを示してきました。こうした背景から、個人を責めることは逆効果であり、不完全であるように思われます。

しかし、研究者たちは、こうした考えがどのように広がるのかという明確なメカニズムを特定するのに苦労している。ブリティッシュコロンビア大学の社会学者セス・アブルティン氏は、問題の一部は研究者が利用できる研究手法にあると指摘する。

自殺のスペクトルの片側には、刑務所の受刑者、高校生、ネイティブアメリカンの若者など、親密なつながりの中で形成される自殺が集中している。コミュニティにおけるある自殺が他の自殺の引き金となったのかどうか、またどのように引き金となったのかを理解するため、アブルティン氏のような研究者たちは、まだ存命の人々に詳細な聞き取り調査を行っている。彼らは、自殺願望や自殺行為の広がりは「伝染」というよりもむしろ教育によるものであることを発見した。チェスを習ったり喫煙を始めたりするように、自殺者は周囲の人々に、自分たちの苦悩や自殺の手段などについて、新たな考え方を教えるようだ。

一方、著名人の自殺のように、規模は小さいものの、より広範囲に広がる自殺もあります。このようなケースは、特定の年のデータに基づいて予想される自殺件数の変動を統計的に調べる手法を用いて研究されます。例えば、俳優ロビン・ウィリアムズの注目を集めた自殺から数ヶ月後、研究者たちは予想よりも10%多い自殺件数を発見しました。これはおそらく、メディアによる大規模な報道の結果でしょう。

しかし、どちらの方法も、自殺に関する最も根本的な疑問のいくつかに答えるには不十分です。インタビューは、自己申告の正確さと、自殺クラスターに巻き込まれた多くの人々が既に亡くなっており、自らの体験を語れないという両方の制約によって限界があります。統計的手法は自殺に関する物語が重要であることを証明できますが、それらのメッセージをどのように改善できるかについて、多くの洞察を提供しません。

近年、ソーシャルメディアがこれら二つの極端な状況の中間に位置していることが明らかになっています。そして、このグレーゾーンを埋めるために必要なデータは、ユーザーへの影響を隠蔽しようとする企業に帰属しています。TikTok、Instagram、Facebook、Twitterといったプラットフォームは、遠く離れた人々との密接なつながりを育むことを明確に目指している一方で、その結果に関する独立した分析には消極的です。そのため、デジタルネットワークを通じた自殺の伝染を研究することは事実上不可能です。

自殺学者たちは、自殺の責任を誰かに押し付けようとする試みが、驚くほどの形で裏目に出る可能性があることも知っています。アブルティン氏の研究は、自殺についての私たちの語り方が、それ自体が逆効果になっていることを示唆しています。2019年に若者の自殺が相次いだあるコミュニティを対象に行った調査で、アブルティン氏らは、若者の自殺を「学校のストレス」などの問題から「逃げたい」という学生の願望として合理化すると、同じような問題を抱える他の学生に、自殺という選択肢もあると教えてしまう可能性があることを示しました。

この論理をラッセル氏のケースに当てはめるのは簡単です。ソーシャルメディア上の憂鬱な投稿が人を自殺に追い込む可能性があるという点に誰もが同意するのであれば、当然のことながら、この理由で亡くなる人が増えるでしょう。しかし同時に、アブルティン氏は、適切な語り口は自殺念慮や自殺行為のリスクを軽減することもできると述べています。個人やコミュニティのレジリエンス（回復力）について話し合う方法や、自殺念慮に苦しむ人々のためのリソースの利用可能性を見つけることは、実際には自殺を防ぐ効果を持つ可能性があります。

モリー・ラッセルの死、あるいは他の誰かの死はソーシャルメディアのせいだと、誰もが納得する形で断言することは決してできないかもしれない。しかし、だからといって、将来の被害を防ぐために努力できないわけではない。

米国では、自殺を助長する言論が新たな法律によって明確に禁止される可能性がある。この問題に関する研究はまだ初期段階にあるが、弁護士ニコラス・ラパルムは「意志の圧倒」と呼ばれる新たな枠組みを提案した。この基準は、カーターのような人物が「被害者が既にうつ病と闘っている場合、その言葉がどれほど強力であるか」を認識することになる。裁判所が、誰かが他者の意志を圧倒できることを認めれば、因果関係の連鎖は「被害者が当時、他者の言葉に抵抗することを選択できる精神的能力を有していなかった」ため、そのまま維持される可能性がある。

「精神的能力」と自律性という議論の多い問題はさておき、「意志の圧倒」という枠組みは、ラッセル氏のようなケースにも容易に当てはまる。10年前なら、Facebookのようなサイトを、個々のユーザーが善悪を問わず利用する中立的なツールとして軽視するのは容易だった。しかし今日では、アルゴリズムプラットフォームはユーザーの弱点を特定し、ユーザーの関与を高め、気分を悪くさせるようなコンテンツでターゲットを絞ることで、「意志の圧倒」を行っていると断言できるだろう。

問題は、アメリカ人はこのような法律の影響を受けて生きていきたいのか、ということだ。

こうしたコンテンツが違法となれば、プラットフォームは自社のアルゴリズムがユーザーを鬱や自殺願望に追い込んでいないことを証明する方法を考案する必要がある。しかし、これらの企業は、プラットフォームから犯罪の可能性のあるコンテンツを排除するために、より多くのアルゴリズムを使用する可能性が高いことを認識しておくことが重要だ。「アルゴリズムはグレーゾーンをうまく処理できません」と、イースト・ロンドン大学のデジタル文化研究者、トニー・D・サンプソン氏は言う。そのため、どのようなフィルターが作られても、非常に粗雑なものになるだろう。自殺に関連するものがすべて禁止されれば、この記事のような記事は通過できないかもしれない。自殺の伝染メカニズムに関するさらなる洞察がなければ、これらの機器の精度を高める現実的な方法もない。

こうした制約を踏まえると、法整備においては、ソーシャルメディア企業に対し、推奨システムの再構築と、有害コンテンツを検索結果から段階的に削除するよう求めることに重点を置くべきでしょう。こうした投稿がもたらすとされる結果を犯罪化するのではなく。重要なのは、政府がソーシャルメディア企業に対し、独立した研究者にデータを提供することを義務付けることです。研究者は、その調査結果を用いて、より的確なコンテンツの禁止措置を講じるだけでなく、自殺念慮や自殺行為に苦しむユーザーをこれらのプラットフォームがどのように支援できるかについても、具体的な方法を見出すことができるでしょう。

マイヤー氏、ロイ氏、そしてラッセル氏のような死を政治問題化することは計り知れない価値があるかもしれないが、それは同じような状況にある人々を助ける場合に限る。今は、情報に基づいた議論のために必要な証拠を集めることの方が有益かもしれない。

あなた自身またはあなたの知り合いが自殺を考えている可能性がある場合は、自殺・危機ライフライン（電話番号 988）に電話してサポートを受けてください。