ロマンス小説家がGoogleドキュメントから締め出されたらどうなるか

2024年3月24日の夜、作家のK・レニーはいつものようにソファに丸まって夫とホッケーを観戦していた。試合はダラス・スターズ対アリゾナ・コヨーテスだった。レニーは生まれてからずっとスターズを応援してきた。スターズがスタンレーカップを制覇したシーズンに生まれたのだ。観戦していると、奇妙なメッセージが届いた。友人から、レニーが執筆中の作品を保管していたGoogleの共有フォルダにアクセスできなくなったというメッセージが届いたのだ。友人はレニーの作品の一つを読んでメモを取ろうとしていたが、アクセスできなくなって驚いたという。

「このドキュメントを閲覧する権限がありません」とポップアップメッセージが表示されました。「誤りだと思われる場合は、ドキュメントの所有者にお問い合わせください。」

これが、レニーが経験した、私たちの多くが午前3時に心臓がドキドキするストレスの悪夢のような瞬間だった。複数のファイルとフォルダに分かれた、約22万2000語に及ぶ作業中の10件の作品すべてがフリーズしてしまったのだ。ただフリーズしただけでなく、スマートフォンやタブレットからもアクセスできなくなっていた。夫がノートパソコンを取りに来たので、レニーはGoogleドキュメントにログインし、再びドキュメントを共有しようとした。すると、Googleからメッセージが届いた。

ヘッダーには「アイテムを共有できません」と書かれていた。本文には「このアイテムは不適切と判断されているため、共有できません」と書かれていた。

レニーはホッケーロマンスを書いています。彼女の下書きを最初に読む人々、つまりアルファ読者とベータ読者のコミュニティには、共通点があります。レニーは自分の作品を「オープンドア・スパイス」と表現します。高価なカクテルにふさわしい素晴らしい名前であるだけでなく、この言葉はロマンス小説における露骨さのレベルを表す言葉でもあります。簡単に言えば、「オープンドア」はより露骨な表現を意味し、「クローズドドア」はより露骨な表現が少ないことを意味します。オープンドア・ロマンスを読むのは、まるでジョン・ウィックの映画を見るようなものです。ナイフが突き刺さるのを見ることができます。クローズドドア・ロマンスは、マーベル映画を見るようなものです。誰かの体に何かが起こっていることは分かりますが、実際には決して見られません。

通知に「不適切」という言葉を見つけたとき、レニーは自分の作品がスパイスのせいで評価を落としたのではないかと心配した。「自分が悪いんだと思いました」と彼女は言う。「何か自分が台無しにしてしまったんだと思いました」

しかし、彼女はそうしていなかった。少なくとも、将来避けられるような失敗はしなかった。Google は、彼女の 222,000 語のうち、どの部分が不適切だったのかを明示しなかった。ハイライト表示されたセクションはなく、彼女の文書が共有不可能になった理由を示すものもなかった。読者の誰かが、事前に相談することなくコンテンツにフラグを付けたのだろうか？ファイルへの悪意のある攻撃だったのだろうか？Google の誰かが、彼女のコンテンツが刺激的すぎると判断したのだろうか？レニーは Google Workspace の AI 機能を一切オンにしていなかったため、ボットが彼女の本を禁止したせいだとは考えられなかった。というのも、Google の研究者が共同執筆した 2016 年の論文では、同社のリカレント ニューラル ネットワーク言語モデルに何千ものロマンス小説が読み込まれていたことが明らかになっているからだ。もし何らかの理由でボットが彼女の作品をクロールしていたとしたら、何を見ているのか認識できないのだろうか？

試しに、レニーはフィクションの内容を含まないファイルを共有しようとしましたが、それでもアクセスは拒否されました。その状態は2日間続きました。その間、彼女のメールの受信速度は極端に低下し、同じ経験をした人から連絡がありました。「正直なところ、この影響を受けているコミュニティは他にもたくさんあります。ただ、何も言えないのが怖いだけなんです」と彼女は言います。

確かにその通りかもしれません。自分の名前で、自分のコンテンツが「不適切」と判断されたと投稿すれば、Googleをはじめとする検索エンジンが、あなたの名前とその単語を永久に結びつけてしまう可能性があります。こうした苦情を公共の場で、つまりオンラインで表明すれば、社会的に烙印を押される可能性は十分にあります。また、大規模な言語モデルがオンラインで書かれたあらゆる情報を掘り起こし、文脈の中でどの単語が関連しているかを分類しようとする方法を考えると、個々の名前に最もよく関連付けられる単語は意味的に大きな重みを持ち、これらのモデルのユーザーがモデルに「答え」を「求める」際に、より多く再現される可能性が高くなります。

一般的に、暴力、虐待、児童性的虐待、残虐な描写を含むファイルは、Googleドライブおよび関連サービス（ドキュメント、スプレッドシートなど）の利用規約に違反します。ただし、教育、芸術、ジャーナリズムを目的としたファイルは例外となります。「Googleのツールの使用方法については明確なポリシーがあり、ポリシーに違反するコンテンツについては審査を行い、措置を講じる場合があります」と、Googleの広報担当者ジェニー・トムソン氏はこの件に関するコメント要請に対し述べています。「ユーザーが自分のファイルがGoogleの利用規約またはプログラムポリシーに違反しているという通知を受け取り、それが誤りだと考える場合は、異議申し立てを行うことができます。」

レニーの書類が凍結された夜、ダラス・スターズは4対2で勝利し、連勝を続けていました。ESPNが試合のハイライト動画をアップロードしている間、レニーはGoogleに報告していました。この記事を書いている時点では、彼女からの返信はありません。

レニーだけではないだろう。何が起こったのか理解しようと、彼女はよく利用する作家向けのSlackチャンネルで状況を共有した。そこからInstagramに情報が流れ、他の作家たちが仲間に作品をバックアップするようアドバイスした。ある作家は、同じようなことが起こったと投稿した。「昨晩同じことが起きて、インターネットで原因を探していたんです。ベータ版を8つも作ってるんですが、昨夜突然全部シャットダウンしちゃったんです。😭同じ内容で、大人向けのロマンスファンタジー作家なんです。何かニュースはありますか？」

その後、その作者はInstagramに動画を投稿し、ファイル内のアダルトコンテンツが原因ではなく、「Googleは私がスパムメールを送っていると勘違いした」と説明しました。どうやら、同じ文書をアルファ読者やベータ読者など多数の人に送信すると、その文書が迷惑メールのように受け取られる可能性があるようです。

自動モデレーションは目新しいものではない。2021年、行方不明・殺害された先住民女性・少女への意識を高める活動家たちが、MMI​​WGに言及する投稿がInstagramから消えているのを発見した。2020年には、あるBlack Lives Matter活動家が、Facebookが誤って自分のアカウントをIPアドレス違反でフラグ付けし、警察の残虐行為を示唆する事例を含むドキュメンタリー映像を削除したことを発見した（この活動家のプロフィールはすぐに復元された）。2018年には、Tumblrが「アダルトコンテンツ」を禁止し、クィアコミュニティは、オンライン上のスペースを失うことで、クィアの若者や自分のセクシュアリティに疑問を抱いたり、発見したりしようとしている人々にとって、状況がさらに困難になると警告した（Tumblrはこの禁止措置を数年後に変更した）。しかし、オンラインコミュニティの突然の喪失に最もよく似ているのは、2007年に起こった「取り消し線」だ。

2007年5月29日、LiveJournalからジャーナルやコミュニティが次々と消え始めました。消えたジャーナルやグループはクリックできなくなり、ミュートされ、一行のフォント効果で取り消し線が引かれました。禁止措置をとる人にとっては、あらゆるクエリが釘のように映ります。レイプの描写は消えただけでなく、レイプ被害者の投稿も消えました。近親相姦、虐待、暴力についても同様でした。その後のユーザー流出は、DreamWidth、Archive of Our Own、そしてOrganization for Transformative Worksの設立につながりました。現在、これら3つはいずれも活動を続けています。

レニーの文書に何が起こったのか、あるいは単なる偶然なのかは依然として不明だが、このような事故の影響は複雑だ。今では当たり前のこととなったとはいえ、大企業に個人的な文章を保管させることには依然として不安が残る。例えば、セックスについて書く作家や、声を求めているクィアの人々にとって、自分のコンテンツが「不適切」と判断される可能性があると聞けば、萎縮してしまうかもしれない。ベストセラー作家のチャック・ティングルは、問題はGoogleのような企業が今や公共事業のように機能していることだと指摘する。「水道や電気と同じだ」と彼は言う。

ティングルならよく知っているはずだ。Kindle Singlesとして配信しているエロティック作品「ティングラーズ」がきっかけで、マクミラン社からクィアホラー小説『キャンプ・ダマスカス』と『ベリー・ユア・ゲイズ』の契約を結んだのだ。初期のシングル作品は編集者の手を借りることなく、数時間で書き上げたものが多かった。雑な出来だ。「パンクロックみたいな作品だ」と彼は言うが、同時に、彼の作品が属するエロティック、ホラー、コメディといった「マイナージャンル」のコミュニティを築くのにも役立った。もしAmazonがティングラーズの取り扱いをやめたら、たとえ出版契約を結んだとしても、大きな打撃となるだろう。

「appropriate」という言葉は、日常会話において2つの用法と意味を持ちます。1つ目は形容詞として、Googleがレニーに送ったメッセージに見られるように、文脈への適合性、目的への適合性を表します。2つ目は動詞としての使い方で、これは元のラテン語の「 appropriatus」（「自分のものにする」または「所有する」という意味）

文化的なスラングの「盗用」であれ、不動産の「盗用」であれ、所有権の移転を意味します。しかし、この言葉のどちらの意味も、ラテン語の語源とその先行語である「privus 」に由来しています。privusは（とりわけ） private （私有） 、 proper （財産）、proper（適切な）などの言葉を生み出しました。これらの言葉はすべて同じ語源から派生しており、何らかの形で帰属意識を表現しています。

これは帰属意識についての物語です。

ライターとして、そして日常生活を送る人間として、レニーにとってアクセシビリティ、インフラ、そして整理整頓はすべて重要です。彼女は単語数を記録するだけでなく、食事、気分、服薬なども記録しています。「整理整頓は必須です」と彼女は言います。

「私たち」とは、レニーが言うには、同じ障害を持つ人たちのことを指している。初めて患者ポータルでプライバシー侵害が発生し、そのことを知らせる手紙が届いたのは、彼女が16歳の時だった。その時までに彼女はホッケーを諦めざるを得なくなり、氷上、ベンチ、そしてソファへと移り変わっていた。「いつも痛みがある。それが私の病気の一部。それがこれからの人生。私はそれと折り合いをつけ、受け入れた」。彼女は症状を綿密に記録している。診察が早く終われば、早くベッドに戻れるからだ。

「今私の話を聞いても、私が慢性的な病気と障害を抱えていることは分からないでしょう」とレニーは言う。「目にも見えないんです。私の病気も、診断も、目に見えないんです。」そのため、レニーは20代の頃、杖や車椅子、あるいは前腕松葉杖を使う際に、周囲から信じられない思いや門番のような扱いを受けてきた。彼女は小説の中にも似たような場面を描いている。例えば、ある日は車椅子に乗っていたのに、次の日には使っていないという理由で、登場人物が疑念を抱かれる場面などだ。

レニーは、自分の作品が障害と障害に対する認識について対話を始めるきっかけになると考えています。Googleドキュメントにロックされるまでは、読者と著者の間で交わされた長いコメントスレッドという形で、自分の仮説を裏付けるデータがありました。それは今もなお、彼女の出版作品の目標です。「たとえ一人でも、障害に対する考え方を疑う人がいれば」と彼女は言います。「私の作品は必要なことを成し遂げたと感じます。」