欠陥だらけの壊れたインターネットを生み出した、知られざる法律、セクション230の奇妙な物語

クライストチャーチ襲撃事件の直後、FacebookとYouTubeはプラットフォームに殺到する恐ろしい映像への対応に苦慮しており、インターネットは根本的に機能不全に陥ったかのようでした。YouTubeでは、モデレーターが1秒に1本のペースでアップロードされる動画の削除に奔走し、Facebookは襲撃後24時間で150万本の動画をブロックまたは削除しました。

しかし、インターネットは壊れていませんでした。設計通りに機能していたのです。

ウェブの歴史の大部分において、二つの黄金律がありました。それは、好きなものを何でもオンラインに掲載できる一方で、あなたの発言をホストする企業は、気に入らないものを削除することもできるというものです。これらのルールのおかげで、今日のインターネットは実現しました。ほぼすべてのコンテンツがユーザーによって提供されています。Google、Twitter、Facebook、Amazonといったインターネットの巨人たちも、このルールなしには存在し得なかったでしょう。

これらはどれも必然ではありませんでした。1995年までに、わいせつな表現や卑猥な表現が検閲され、オンラインコメントのモデレーションを行う企業が数百万ドル規模の訴訟に晒されるようなインターネットへと向かうことは確実視されていました。

しかし、その後、思いもよらぬ一連の出来事がインターネットの方向性を永遠に変えてしまった。それは、初期のトロール、アメリカ史上最悪の国内テロ攻撃、そして1990年代半ばの極端に党派的な政治とみなされていた状況の橋渡しを必死に試みた、与野党の政治家2人の物語だ。そして、その中心には、今日のインターネットの礎を築いた26語がある。

クリス・コックス下院議員は、アメリカ上空36,000フィート上空でウォール・ストリート・ジャーナルをめくり、現代のインターネットの形成を決定づける記事に偶然出会いました。1995年の春、共​​和党下院議員だったコックスは、ワシントンD.C.から故郷のカリフォルニア州へ戻る飛行機に乗っていました。

コックスはニューヨーク州最高裁判所の判決に関する記事にたどり着いた。この訴訟は、当時アメリカ最大級のウェブサイトの一つを運営していた、現在は解散したプロディジー社が運営するオンライン掲示板に関するものだった。訴訟の核心は、ある掲示板への投稿だった。匿名のユーザーが、後に『ウルフ・オブ・ウォールストリート』で不朽の名声を博したニューヨークの証券会社、ストラットン・オークモントとその社長が詐欺行為を行ったと主張していたのだ。

ストラットン・オークモントはプロディジーを名誉毀損で訴えたが、この訴訟は単純な疑問に帰結した。プロディジーはユーザーの投稿に対して法的責任を負うべきなのか、という疑問だ。この問題は名誉毀損法の根幹に関わる問題だった。プロディジーがコメントの「発行者」とみなされるならば、責任は問われる。一方、単なる「配信者」であれば、責任は問われない。

1995年5月、裁判所はプロディジーに対し、名誉毀損的な発言に対する責任を認める判決を下しました。同社はコンテンツガイドラインを定め、不快な言葉を削除するソフトウェアを使用していたため、投稿内容に対する法的責任は同社にあると主張しました。この理屈はコックス氏を憤慨させました。なぜオンラインコンテンツのモデレーションを試みた企業が罰せられなければならないのでしょうか？

1991年の同様の訴訟では、被告であるCompuserveが自社のフォーラム上の膨大なコンテンツを確認する努力を怠ったため、逆の結果に終わった。このため、オンライン企業は奇妙な立場に置かれた。オンラインコンテンツをモデレートすれば、ユーザーの発言全てに責任を負うことになる。このリスクを回避したければ、モデレートを一切行わなければよかったのだ。

コックス氏にとって、この理屈は完全に逆説的に思えた。彼はよりクリーンなウェブ、つまりわいせつなコンテンツや不快なコンテンツに遭遇しにくいウェブを望んでいた。ウェブのモデレーションを試みた企業が数百万ドルの訴訟を起こされたら、一体誰がウェブをクリーンアップしたいと思うだろうか？「もしこのルールが施行されれば、インターネットは無法地帯と化し、インターネットを秩序ある場所に保つインセンティブを誰も持たなくなるだろうと感じました」と彼は言う。

しかし、1995年のインターネットは、今日のインターネットとは想像し得るほぼあらゆる点で異なっていました。当時、全世界でオンライン人口はわずか1600万人でした。マーク・ザッカーバーグは中学に入学したばかりで、Googleが登場するのはそれから3年後のことでした。オンラインで会話する人々は、主に映画、ゲーム、個人金融など、ニッチな専門分野の掲示板に集まっていました。

そして、ユーザー生成型インターネットが登場しました。ニッチな関心グループの代わりに、ザッカーバーグのような人々がインターネットの「タウンスクエア」を作ることを語るようになりました。現在、Facebookは月間22億人のユーザーを抱えています。ジェフ・ベゾスは、書籍を販売するよりも、購入者と第三者の販売者を結びつける方が収益性が高いという認識に基づき、1兆ドル規模の企業を築き上げました。Googleは、人々をウェブ上のユーザー生成コンテンツへと導くために登場しました。これらすべては、より初期の、よりシンプルなインターネットのために考案された一連のルールによって支配されていました。

1995年に共和党の下院指導部に選出されたばかりのコックスは、両党が合意できる法案を探していました。そして、このウォール・ストリート・ジャーナルの記事こそがそれかもしれないと気づきました。オレゴン州選出の民主党下院議員、ロン・ワイデンと共に、彼は電気通信法に小さな追加条項を書き加えました。これは、インターネット規制の問題に初めて取り組もうとした、米国法の大幅な改正でした。

その結果が第230条である。わずか26語で、この法律はインターネットの未来を描き出した。その核心は、オンラインプラットフォームはユーザーがオンラインに投稿したコンテンツに対して責任を負わないことを明確にした条項だった。「インタラクティブコンピュータサービスのプロバイダーまたはユーザーは、他の情報コンテンツプロバイダーが提供する情報の発行者または発言者とみなされない」と規定されている。

しかし、同様に重要なのは、「善きサマリア人」条項です。この条項は、プラットフォームがオンライン上で何を許可するか、許可しないかについて最終的な決定権を持つものです。プラットフォームは、「わいせつ、卑猥、好色、下品、過度に暴力的、嫌がらせ、その他不快」とみなしたコンテンツを自由に削除できます。

セクション230のこれら二つの条項は、今日のインターネットのゴールポストを定めました。ザッカーバーグ氏が夢見た「グローバルなタウンスクエア」は、まさにその萌芽的な形でセクション230に存在しています。この条項は、インターネットのスタートアップ企業とその投資家に、一般ユーザーのコンテンツをプラットフォームに載せても、ユーザーが書き込んだ内容に対して法的責任を負うことなく、安心して利用できるという自信を与えました。そして、ザッカーバーグ氏は自らのタウンスクエアの規約を定めることができました。もし特定のユーザー、あるいは特定の発言をサイトに表示したくない場合は、何の質問も受けずに削除することができたのです。

「ある種の技術革新を可能にする上でのその役割は明白です」と、スタンフォード大学ロースクールのインターネットと社会センターのダフネ・ケラー氏は述べている。「膨大な量の言論や情報の伝達を事業とする企業に対し、投資家が資金援助を行うことが可能になりました。その全てを評価し、何が合法で何が違法かを判断するのは到底不可能だからです。」

230条があらゆるオンラインイノベーションを可能にする上で、どれほど基礎的な役割を果たしてきたかは、いくら強調してもし過ぎることはありません。サードパーティの販売業者がナチスの記念品や危険な医学的誤情報を売りつけている時でさえ、Amazonが存在できるのは、この法律があるからです。小児性愛者が動画のコメント欄に殺到している時でさえ、YouTubeが存在できるのは、この法律があるからです。そして、テロリストがFacebookを利用して罪のない人々の虐殺をストリーミングしている時でさえ、Facebookが存在できるのは、この法律があるからです。この法律は、プラットフォームに法的責任を負わせることなく、これらすべての悪質なものを排除することを可能にしました。

これらはすべてひどいことのように聞こえるかもしれませんし、その通りです。しかし、セクション230のない世界では、これらすべてがさらに悪化する可能性があります。「サイトが公開する第三者コンテンツに対して責任を負うというポリシーを採用した場合、サイトは2つのうちどちらかの行動を取るでしょう」と、セクション230の研究者であり、サンタクララ大学法学部の教授であるエリック・ゴールドマン氏は述べています。「サイトは、全くコンテンツを公開しないか、責任を他者に転嫁する方法を探すでしょう。」

言い換えれば、もし法律がプラットフォームに思う存分モデレーションを許可しなければ、インターネットはモデレーションがほとんど行われない状態に陥ってしまうでしょう。まるで、ユーザー生成コンテンツを扱うウェブサイトがすべて、8chan、Gab、あるいはRedditの最悪の部分をモデルにしているようなものです。ゴールドマン氏によると、セクション230がなければ、オンラインは際限なく無秩序な状態になるということです。「狂った連中にコントロールを委ねれば、狂った連中が勝つでしょう。」

1996年2月、ビル・クリントンの筆によって、コックスとワイデンが夢見たインターネットの無法地帯を制圧するという夢が法制化された。しかし、第230条が現実にどう機能するかは依然として不透明だった。裁判所は第230条を広く解釈し、企業は極めて限定的な状況においてのみコンテンツに対する責任を負うべきであると判断するのだろうか。それとも、特定の種類のコンテンツは第230条の適用範囲外であると主張するのだろうか。

クリントンが同法に署名してから20ヶ月後、これらの疑問に答えを出すことになる事件が浮上した。それは爆弾テロ事件であり、オンライン荒らしの典型例であり、インターネットにおける最大の未解決ミステリーの一つであった。ケネス・ゼランを陥れたのは誰だったのか？

1995年4月19日、2人の国内テロリストがオクラホマシティのダウンタウンにある連邦政府ビルを爆破しました。合計186人が死亡、500人以上が負傷し、2001年9月11日までアメリカ国内で発生した最悪のテロ事件となりました。6日後、AOLの掲示板に「オクラホマを訪ねて…最高だよ!!!」など、爆破事件を揶揄するメッセージが書かれたTシャツを販売するメッセージが掲載されました。この投稿は読者に「ケン」に電話するよう呼びかけ、ケネス・ゼランの実在の電話番号も記載していました。電話が殺到するまで、ゼランはこの広告の存在を知りませんでした。彼はAOLのアカウントすら持っていなかったのです。

その月末までに、ゼランは2分に1件の割合で中傷電話を受けるようになった。地元のラジオパーソナリティがリスナーにケンに電話して不満をぶつけるよう促したことで、状況はさらに悪化した。「問題は、それがケン本人の投稿ではなかったことです。匿名の投稿者によるものでした。誰が投稿したのかは分かりません。彼らはいまだに見つかっていないのです」とゴールドマンは言う。

1年後の1996年4月、ゼランはAOLを提訴し、同社が彼に関する悪意ある情報の削除を拒否したことは過失であると主張した。下級裁判所がAOLに有利な判決を下した後、訴訟は最終的にバージニア州リッチモンドの第4巡回区控訴裁判所に持ち込まれた。これは第230条にとって決定的な瞬間であった。第4巡回区控訴裁判所は重要性において最高裁判所のすぐ下に位置し、その判決はその後の訴訟の判決方法に影響力のある判例となる。ゼランの失望をよそに、判事の判決は明らかにAOLに有利なものであった。第230条は再び勝利したのである。

「AOLがどのような決定を下したとしても――投稿を残すか削除するか――第230条によって等しく保護される」とゴールドマン氏は述べている。上級裁判所が新法をこのように解釈したのは初めてであり、その後の訴訟における第230条の解釈の法的先例となった。第4巡回区控訴裁判所の第230条の解釈は寛大で、AOLが悪質なコンテンツを認識していながら何もしなかったとしても、第230条によって同社は法的責任を免責されると述べている。これは、オンライン上の言論の自由に関しては、第230条がオンラインプラットフォーム側に立つことを示唆している。

無差別攻撃の被害者であると主張するゼラン氏は、インターネット言論の世界で思わぬ形で重要な存在となった。2011年、ゴールドマンは、自身が主催した第230条施行15周年記念カンファレンスにゼラン氏を招き、講演を依頼した。「残念ながら、彼は（講演で）自身の体験を語るのではなく、第230条を激しく非難し、立法議題を提案することに終始しました。聴衆はそうした発言をするのに適した相手ではなかったのです。」

ゼラン氏にとっては残念なことに、この法廷闘争は、後に数え切れないほど多くの第230条に基づく抗弁の土台を築くこととなった。ゴールドマン氏によると、大手テクノロジープラットフォームは第230条を何十回も援用しており、今ではこの法律はあまりにも広く知られているため、ほとんどの弁護士は大手プラットフォームに対してこのような訴訟を起こすことさえしない。第230条は後に、eBayのユーザーが同プラットフォーム上で偽造記念品を販売した事件や、13歳の少女がオンラインで年齢を偽ったことで同プラットフォームで出会った人物に性的暴行を受けた事件で、eBayの免責を支持するために利用された。

アメリカ自由人権協会（ACLU）の監視・サイバーセキュリティ顧問、ジェニファー・グラニック氏にとって、この法的保護はインターネット・スタートアップ企業がオンラインで繁栄するために必要な余地を与えた。「誰かがすべての動画を視聴しなければならないYouTubeはあり得ません。誰かがすべての投稿を視聴しなければならないFacebookもあり得ません。誰かがすべての検索結果をチェックしなければならないGoogleも存在しなかったでしょう」と彼女は言う。「とても単純な話に聞こえるかもしれませんが、今日のインターネットがあるのは、まさにこのためです。疑いようもありません。」

しかし、制定から24年が経ち、インターネットの礎を築いたこの法律は、かつてない規模と影響力を持つプラットフォームの重圧に耐えかねて、軋み始めている。ソーシャルネットワークが選挙への干渉、偽情報、そしてオンライン上の憎悪を助長する役割を果たしているとして、ますます批判を浴びる中、第230条自体も非難の的となっている。かつては超党派の革新推進立法の誇るべき例であった第230条だが、ゴールドマン氏によると、今や与野党双方から頻繁に非難されているという。「第230条への支持は過去最低水準にあり、今後再び上昇傾向に転じるとは到底思えません。」

2018年4月、オンライン上の性的人身売買の抑制を目的とした2つの物議を醸す法案が米国で成立しました。FOSTA-SESTAは、第230条に例外を設け、第三者がプラットフォーム上に売春（合意に基づく性労働を含む）の広告を掲載していることが判明した場合、オンラインサービス事業者は法的責任を負うことになります。FOSTA-SESTAに関する上院の採決では、ロン・ワイデン上院議員とランド・ポール上院議員のみが反対票を投じました。

FOSTA-SESTA法の批判者たちは、この法律は性的人身売買の問題を改善することなく、オンラインでの政治的、性的、芸術的な表現を抑圧していると主張している。ダフネ・ケラー氏は、FOSTA-SESTA法が違憲であると主張している多くの弁護士の一人だ。「もし第230条を改正してプラットフォームに削除義務を課したいのであれば、賢い方法と愚かな方法があります。FOSTA法は愚かな方法でした。非常に下手な起草で、プラットフォームが何をすべきかが全く分かりません」と彼女は述べている。

この法律を受けて、オンライン分類広告サイトCraiglistは、FOSTA-SESTAに抵触する恐れがあるとして個人広告セクションを削除した。「彼らは、直面している賠償責任制度をうまく乗り越えようと努力するよりも、あきらめてしまったのです」とゴールドマン氏は述べている。また、2018年12月には、Tumblrもこの法案に準拠するため、ウェブサイト上のすべてのポルノコンテンツをブロックし始めた。

FOSTA-SESTAのような法案が第230条の枠を徐々に削り取っていく一方で、議会では一部の議員がオンライン上の言論の自由に対する攻撃をさらに露骨に強化しているようだ。2019年3月、デビン・ヌネス下院議員は、Twitterと2つのパロディアカウントを名誉毀損と保守派に対する政治的偏見で訴えた。もちろん、第230条の研究者が知っているように、Twitterは好きなものを削除したり、オンライン上に残したりすることができ、法的責任を負わない。しかしゴールドマンは、ヌネス氏の訴訟はこうしたオンライン保護に対する危険な軽視を示していると述べている。ヌネス氏はTwitterを傷つけるために訴訟を起こす必要はなく、第230条を攻撃する法案を提出できると指摘する。

さらに遠く離れた地域では、他の国々がオンライン上の言論の規制方法について議論を始めており、インターネットの歴史上初めて、力関係が米国から欧州へと移行しつつあります。2016年5月、Twitter、Facebook、YouTube、Microsoftは、欧州委員会のヘイトスピーチ対策行動規範に準拠するよう、利用規約を更新することに合意しました。これは、これらの企業が実質的に、世界中のすべてのユーザーに欧州の規則を適用することに同意したことを意味します。

英国政府は、ネットいじめから児童性的搾取に至るまで、様々な問題への取り組みを強化するため、ソーシャルメディア企業に義務付ける法案を検討している。ドイツでは、ソーシャルメディアのウェブサイトに対し、ヘイトスピーチの存在を認識してから24時間以内に削除することを義務付ける法律が2018年に施行された。

欧州での規制に熱心なテクノロジー企業は、欧州委員会のヘイトスピーチ行動規範がそうであったように、自主的に世界規模で同様の規則を展開することになるかもしれない。ケラー氏は、このことがオンライン上の言論をめぐる力関係を欧州に有利に傾けたと指摘する。「今や言論規制の純輸出国は欧州なのです」と彼女は言う。

しかし、より厳格なモデレーション法が、インターネットが直面している問題のいずれかを解決するという保証はありません。インターネットを調和のとれた形で規制するという夢は、より広範な社会不安の原因はインターネットにあるという思い込みに基づいているのかもしれません。「人々が不満を漏らす多くの事柄は、インターネットが加速装置ではなく鏡として機能しているというものです。そのため、インターネットが責任を負わされていると人々は思っていますが、インターネットを整備しても問題は解決しません。ただ鏡が消えてしまうだけです」とゴールドマン氏は言います。

グローバルな公共広場という響きは魅力的かもしれないが、プラットフォーム上に20億人もの人々が集まれば、意見の相違を抱える人が大量に残ってしまう。「私たち皆が共存できる空間を作ろうとしているグローバルメディアネットワークにとって、良い解決策はない。これは負け戦だと思う。誰かが本当に腹を立てることなく、こんなことを許せるはずがない」と彼は言う。

ケラー氏にとって、インターネットの問題への解決策は、言論規制の強化ではなく、競争法の強化かもしれない。「もし10のFacebookがあり、それぞれが言論に関するルールをそれぞれ異なっていたとしたら――何が削除され、何が残り、アルゴリズムによって何が拡散されるのか――、どれもそれほど重要ではなくなるでしょう」と彼女は言う。私たちは、厳格なルールを持つ少数の企業に支配されていると感じるのではなく、より個人的な視点を反映した言論ルールを持つ、オンライン上の自分だけの空間を見つけることができるのだ。

ゴールドマン氏にとって、解決策は法律の見直しではなく、ソーシャルネットワークの仕組みを見直すことだ。「ワクチン賛成派と反対派のコンテンツが共有され、隣り合って存在するような環境であれば、そのコミュニティは成功しないでしょう」と彼は言う。「彼らが互いに話し合うことは不可能だと思います。」

しかし、ソーシャルネットワークの魔神を再び瓶に戻すことは可能なのだろうか？「今のウェブは、全く別の生き物です」とコックス氏は言う。ウェブを子供たちにとってより健全な場所にしようとした彼の試みは、巨大プラットフォームの台頭を促し、人間の不寛容と憎しみのかつてない規模を露呈させることになった。結局のところ、私たちは当然のインターネットを手に入れたのかもしれない。

この記事はWIRED UKで最初に公開されました。