アンチポルノ「シェイムウェア」アプリの不道徳な監視

グレイスポイントは、カルトではないことを公に列挙せざるを得ない、南部バプテスト派の福音派教会です。「大宣教命令と福音を伝えることに少し熱心すぎることを認めます」と、「グレイスポイントはカルトですか？」というよくある質問のページには書かれています。グラント・ハオウェイ・リンがグレイスポイント教会の指導者との毎週の個別面談でカミングアウトした際、彼は追い出されないと知って驚きました。指導者によると、ハオウェイ・リンは「同性愛との闘い」にもかかわらず、神は彼を愛し続けてくれたそうです。

しかし、グレースポイントはこの問題を神に委ねることはしませんでした。翌週、ハオウェイ・リンと面談した際、教会の指導者は彼に「Covenant Eyes」というアプリを携帯電話にインストールするように頼んだそうです。このアプリは明確にポルノ対策ソフトとして宣伝されていますが、ハオウェイ・リンによると、教会の指導者は彼に「あらゆる衝動をコントロールするのに役立つ」と言ったそうです。

Covenant Eyesは、いわゆるアカウンタビリティ・アプリの数百万ドル規模のエコシステムの一部です。これらのアプリは、オンライン活動を監視するツールとして教会と保護者の両方に販売されており、月額料金を請求しています。WIREDの調査によると、これらのアプリの中には、ユーザーがデバイス上で見たり行ったりするすべてのものを監視し、スクリーンショットを撮ったり（Covenant Eyesの場合は少なくとも1分に1枚）、ウェブトラフィックを盗聴したりするものもあります。その後、アプリはユーザーのすべてのオンライン活動のフィードを、アプリ用語で「アカウンタビリティ・パートナー」と呼ばれる監視者に直接報告します。しかし、WIREDが調査結果をGoogleに提示したところ、Googleは主要なアカウンタビリティ・アプリのうち2つ、Covenant EyesとAccountable2Youがポリシーに違反していると判断しました。

コヴェナント・アイズの全知は、グレースポイントを去ったハオウェイ・リンにすぐに重くのしかかった。アプリをインストールしてから1カ月も経たないうちに、彼は教会の指導者から、オンラインで見たものについて言及する非難のメールを受け取るようになった。ハオウェイ・リンがWIREDに共有したメールには、「何か伝えたいことはありますか？」と書かれていた。添付されていたのはコヴェナント・アイズのレポートで、ハオウェイ・リンが前の週に消費したデジタルコンテンツのひとつひとつが詳細に記されていた。それは、何晩も目的もなくインターネットを閲覧したせいで蓄積されたデジタルデータの痕跡であり、ハオウェイ・リンはほとんど見たことを覚えておらず、教会のメンバーに指摘されなければ忘れていたであろうものだった。教会の指導者は、コヴェナント・アイズが「成人向け」とフラグ付けしたひとつのコンテンツに狙いを定めた。ハオウェイ・リンがStatigr.amというウェブサイトで「#Gay」を検索したところ、アプリがそれにフラグを付けたのだ。

大学に特化したグレースポイントは、全米70以上のキャンパスで「学生にサービスを提供している」と主張している。WIREDが確認したコヴナント・アイズの担当者とグレースポイント教会の元指導者との間のメールによると、同社は2012年に450人ものグレースポイント教会の信者がコヴナント・アイズによる監視対象に登録されたと述べている。

「スパイウェアと呼ぶのはちょっと違うと思います」と、コヴナント・アイズの使用を依頼され、プライバシー保護のため匿名を条件に話してくれたグレースポイントの元会員は言う。「どちらかといえば『恥辱ウェア』のようなもので、教会があなたを支配するもう一つの手段に過ぎません」

家庭や学校で子供を監視するために使用されるBarkやNetNannyなどの監視ソフトウェアと同様に、「シェイムウェア」アプリは、親や宗教団体が不健全または不道徳とみなす行動を追跡するために使用されるあまり知られていないツールです。例えば、Fortifyは、ポルノ反対の非営利団体Fight the New Drugの創設者によって開発され、「性的強迫性」を克服するために、個人のマスターベーションの頻度を追跡します。このアプリは10万回以上ダウンロードされ、Google Playストアで数千件のレビューを獲得しています。

コヴナント・アイズ・アプリの現在のバージョンは、元NSAの数学者で現在は同社のデータサイエンティストを務めるマイケル・ホルム氏によって開発されました。このシステムは、ポルノ画像と非ポルノ画像を区別できると言われています。このソフトウェアは、デバイスの画面に表示されているすべての画像をキャプチャし、画像をローカルで分析してからわずかにぼかしを入れてサーバーに送信し、保存します。「画像ベースのポルノ検出は、コヴナント・アイズにとって大きな概念的変化でした」とホルム氏は2019年、福音派キリスト教ニュースメディアのクリスチャン・ポストに語っています。「私はまだ気づいていませんでしたが、神は当時、私よりも高次の目的のために私をその場所に置いたのです。私や他の人々が望み、祈っていた通りです。」

コヴナント・アイズの広報担当者ダン・アームストロング氏は、同社は「適切な同意なしに人々が監視されること」を「懸念している」と述べた。さらに、「親しい友人や家族など、既にお互いを知っていて、お互いの最善を願っている人々の間では、責任ある関係がより良好に保たれる」と付け加え、力関係が不均衡な関係にある人々の間でのアプリの使用は推奨していないと述べた。

Accountable2YouやEverAccountableといった人気アカウンタビリティアプリの中で、Covenant Eyesは最大のプレーヤーと言えるでしょう。同社は数千人が参加するカンファレンスを開催し、ポルノの危険性について参加者に啓発活動を行うとともに、自社製品を「深刻化する道徳的危機」に対する緊急の解決策として売り込んでいます。アプリ分析会社AppFiguresによると、過去1年間で5万人以上がCovenant Eyesをダウンロードしています。Rocketreachは、同社の年間売上高を2,600万ドルと推定しています。

カリフォルニア州バークレーのグレースポイント教会の牧師であり、同教会の主要人物でもあるエド・カン氏は、メールで、ボランティアスタッフは「職員契約の一環として」Covenant EyesまたはAccountable2Youのインストールを義務付けられていると述べています。しかし、教会指導者が信徒の携帯電話の活動を監視するよう指示されたという点には異議を唱えています。「通常は信徒が指名した人物が監視対象となりますが、指導者がアカウンタビリティ・パートナーになることは、少し負担が大きすぎるように思われるため、実際には推奨していません」とカン氏は記しています。（WIREDの取材に応じた5人の元グレースポイント信徒全員が、教会指導者がアカウンタビリティ・パートナーだったと述べています。）カン氏はさらに、Covenant EyesまたはAccountable2Youを利用するグレースポイント信徒の数は「現在では450人を大幅に上回っている可能性がある」と述べ、Accountable2Youの方が「価格設定が優れている」と付け加えています。

Covenant Eyes、Accountable2You、EverAccountableに共通するのは、ポルノに対するゼロトレランスの姿勢です。3団体とも、マーケティング資料の中で、ポルノを見ることは道徳的な失敗であるだけでなく、ポルノの消費量はどれだけであっても健康に悪いと示唆しています。彼らの解決策は、「ラディカル・アカウンタビリティ」と呼ばれるものを通して、清廉潔白を推進することです。これは、コミュニティが団結して罪深い生活を送っている人に対峙するという概念です。最も基本的なレベルでは、その考え方は非常に単純です。両親や牧師に相談しなければならないのに、なぜポルノを見る人がいるのでしょうか？

これらのアプリは多くの人々がポルノ依存症を克服するのに役立ったと主張しているが、性健康を研究する専門家たちは、これらのアプリが永続的なプラス効果をもたらすかどうかに懐疑的だ。「これらのアプリを使った人が長期的に自己肯定感を高めた例を私は見たことがありません」と、カリフォルニア大学ロサンゼルス校でポルノが脳に及ぼす影響と、偽情報の拡散が性健康に及ぼす影響を研究しているニコール・プラウス氏は言う。「これらのアプリを使った人は、結局、自分に何か問題があるように感じてしまうのですが、実際にはそうではない可能性が高いのです。」

しかし、Covenant EyesとAccountable2Youは、ポルノグラフィを取り締まるだけにとどまりません。WIREDがCovenant EyesとAccountable2Youをダウンロード、デコンパイル、テストしたところ、両アプリともあらゆる種類の無害な行動を収集、監視、報告するように作られていることがわかりました。これらのアプリはAndroidのアクセシビリティ権限を悪用し、ユーザーがスマートフォン上で行うほぼすべての行動を監視していました。アクセシビリティ機能は、開発者が障がい者を支援する機能を開発するのに役立つことを目的としていますが、これらのアプリはこうした権限を悪用し、デバイス上でアクティブに閲覧されているすべてのスクリーンショットを撮影したり、使用中のアプリの名前を検出してデバイスのブラウザでアクセスしたすべてのウェブサイトを記録したりしていました。

ハオウェイ・リンの場合、Amazonでの購入履歴、読んだ記事、さらにはInstagramで閲覧した友人のアカウントまでが記録されていた。ハオウェイ・リンによると、問題は、教会の指導者にオンラインでの行動記録をすべて提供することで、指導者は常に質問のネタを見つけることができ、Covenant Eyesのコンテンツフラグ付けも役に立たなかったことだ。例えば、ハオウェイ・リンがWIREDに提供したCovenant Eyesのレポートによると、彼のオンライン精神医学の教科書は「高度に成熟した」と評価されていた。これは「匿名化、ヌード、エロティカ、ポルノ」に与えられる最も深刻なカテゴリーだ。ハオウェイ・リンが「少しでもゲイっぽい」と感じたもの、例えばStatigr.amでの検索についても同様だった。

WIREDがCovenant EyesとAccountable2YouについてGoogleに連絡したところ、両アプリはGoogle Playストアから削除されました。「Google Playは、幅広いアプリケーションでアクセシビリティAPIの使用を許可しています」と、広報担当のダニエル・コーエン氏はメールで述べています。「ただし、アクセシビリティツールであると宣言できるのは、障がいのある人がデバイスにアクセスしたり、障がいに起因する課題を克服したりできるように設計されたサービスのみです。」

Covenant EyesとAccountable2YouはどちらもiOSで引き続き利用可能です。WIREDはAppleデバイスでこれらのアプリをテストしていませんが、どちらのアプリもiOSのアクセシビリティ権限を利用していないようです。Appleはコメント要請にまだ回答していません。

Accountable2You が停止される前に実施したテストでは、URL に「ゲイ」や「レズビアン」といったキーワードが含まれるコンテンツも同様にフラグ付けされることが分かりました。例えば、テストアカウントを作成し、米国疾病予防管理センター（CDC）のLGBTQ 青少年向けリソースのウェブサイトにアクセスしたところ、アカウンタビリティパートナーとして指定した携帯電話に、テスト用携帯電話が「非常に疑わしい」ウェブサイトにアクセスしたことを示す「疑わしいアクティビティレポート」が、テキストメッセージとメールで即座に送信されました。

「これはポルノとは関係ありません」と、プライバシー保護のためファーストネームのみを明かしたAccountable2Youの元ユーザー、ブリットは言う。「牧師の望む通りにさせようとするんです」。ブリットによると、ポルノを見ているところを両親に見つかってからこのアプリをインストールするよう言われたという。母親と牧師は、彼女の担当のアカウンタビリティ・パートナーだったという。「無神論に関する記事をウィキペディアで調べた後、牧師とじっくり話し合わなければならなかったのを覚えています」と彼女は言う。「私は子供だったけれど、だからといって読みたいものを読む権利がないわけではありません」

アカウンタビリティアプリは主に親や家族向けに販売されていますが、中には教会向けにサービスを宣伝しているものもあります。例えば、Accountable2Youは教会や小グループ向けの団体料金を設定しており、特定の教会向けに会員登録用のランディングページを複数開設しています。一方、Covenant Eyesは、教会・ミニストリーアウトリーチ担当ディレクターを雇用し、宗教団体への導入を支援しています。

Accountable2YouはWIREDのコメント要請に応じなかった。

エヴァ・ガルペリンは、デジタル権利擁護の非営利団体である電子フロンティア財団のサイバーセキュリティ担当ディレクターであり、ストーカーウェア対策連合の共同設立者でもある。ガルペリン氏は、こうした監視への同意が大きな懸念事項だと指摘する。「同意の重要な要素の一つは、相手が安心して「ノー」と言えることです」とガルペリン氏は語る。「教会にアプリがインストールされるのは、強制的な方法だと言えるでしょう」。スパイウェアではよくあることだが、WIREDはアプリが自分の携帯電話にインストールされていることに気づいていない人物にはインタビューしていない。しかしハオウェイ・リン氏は、教会の指導者に「コヴナント・アイズ」のインストールを求められた際、ノーと言える立場にはないと感じているという。グレースポイントは、彼が通っていた大学バークレーに月400ドルのアパートを確保していた。教会の支援がなければ、彼は住む場所がなかったかもしれない。

しかし、これは私たちが話を聞いたすべての人が経験しているわけではない。ジェームス・ナギー氏はグレイスポイントの元メンバーで、コヴナント・アイズの報告書のどちらの側にもいたという。ゲイであるナギー氏は、幼い頃から同性愛は罪であると教えられていた。そのため、グレイスポイントから、当時彼が道徳的ジレンマだと思っていたものを助けることができるというソフトウェアソリューションを提供されたとき、彼はその機会に飛びついた。彼は、グレイスポイントの多くの人がアプリをインストールするようプレッシャーをかけられていると思っていたが、彼の場合は、プレッシャーは彼自身から来ていたと言う。「グレイスポイントは私を変えようとしませんでした」とナギー氏は言う。「私が自分を変えようとしたのです。」ナギー氏は現在、米国長老派教会の長老であり、2021年までは教会におけるLGBTQの包摂を推進することを使命とする非営利団体、リフォーメーション・プロジェクトのファシリテーターを務めていた。

教会が不道徳と見なす行為を抑制するため、これらのアカウンタビリティアプリは、18歳未満を含むユーザーから極めて機密性の高い個人情報を収集・保管する。依存症回復アプリを自称するFortifyは、ユーザーに最後に自慰行為をした日時、そのときの場所、使用したデバイスに関する情報の記録を求めている。Fortifyのプライバシーポリシーでは、このデータを第三者に販売または共有しないとしているが、統計分析を行うために信頼できる第三者とデータを共有することは許可している。ただし、これらの信頼できる第三者が誰なのかは明記されていない。Fortifyの親会社Impact SuiteのCEO、クレイ・オルセン氏は電話インタビューで、信頼できる第三者には、Webおよびモバイルアプリケーションでのユーザーインタラクションを追跡する分析サービス企業Mixpanelなどの企業が含まれることを明らかにした。

WIRED は、いくつかの教会が信者たちに Fortify を推奨していることを発見したが、オルセン氏は、Fortify も Impact Suite も宗教機関を顧客としてカウントしていないと述べている。

WIREDがFortifyソフトウェアをテストしたところ、このアプリはユーザーを追跡するために他の技術も利用していることが判明しました。例えば、FacebookのPixelが組み込まれているため、Fortifyのマスターベーション追跡フォームに関するデータがFacebookに送信されます。このデータには追跡フォームの内容は含まれていないようですが、フォーム自体のメタデータ、例えば記入日時などは含まれています。Facebookはこれらのデータを保存し、可能な場合はユーザーのアカウントに関連付けているようです。Facebookでテストアカウントを作成し、ログインしてFortifyとやり取りしたところ、Facebookのプライバシーセンターから取得したテストアカウントのデータのコピーで、Fortifyとのやり取りを確認することができました。

FortifyがFacebook Pixelを組み込んでいるのは、プライバシーの問題だけでなく、セキュリティ上の問題でもあります。アプリのテスト中に、アカウントのパスワードが追跡リクエストのURLで平文のままFacebookに送信されていることにも気づきました。Facebookは、この種の個人情報がシステムに保存されるのを防ぐフィルタリングメカニズムを備えていると主張していますが、Fortifyの明らかな見落としは、ガルペリン氏のような専門家にとって依然として懸念材料です。「これは大きな脆弱性です」と彼女は言います。「このような行動を見ると、Facebookにはアプリやポリシーをレビューするセキュリティ専門家がいないのではないかと感じてしまいます。」

Facebookの広報担当者エミル・バスケス氏は、Meta傘下のFacebookと機密性の高いユーザーデータを共有する企業は同社のポリシーに違反していると述べた。「広告主は、当社のビジネスツールを通じて個人に関する機密情報を送信すべきではありません。そうすることは当社のポリシーに違反しています」とバスケス氏は述べた。「当社のシステムは、機密性の高い可能性のあるデータを検出し、フィルタリングするように設計されています。」Facebookは、Fortifyから送信された平文のパスワードをフィルターで検出したかどうかについては言及しなかった。

パスワード問題の通知を受けた後、オルセン氏はFortifyがユーザーの暗号化されていないパスワードをFacebookに送信するのを停止すると述べた。本稿執筆時点では、この問題はまだ解決されていなかった。

ハオウェイ・リンはグレイスポイントを去ったものの、教会が自分にもたらしたトラウマを今も抱えている。今月初め、ニューヨークのパーソンズ・スクール・オブ・デザインで行われた卒業制作展で彼に会った。彼はそこで写真の修士号を取得するところだ。彼は、学校に戻って初めて、グレイスポイントで経験したことを整理し始めるのに十分な安心感を得られたと語ってくれた。

ハオウェイ・リンの写真は重苦しい雰囲気を漂わせていたが、ユーモアも忘れていなかった。その一つは、日曜日の礼拝の後、彼とグレースポイントのメンバーたちが集まっていたという部屋の3Dレンダリングだった。一人の人物がプラスチックの椅子に頭を預け、前かがみになって祈っている。写真を見ながら、ハオウェイ・リンは、見る人に部屋の隅に設置された監視カメラになったような気分になってほしいと語ってくれた。作品名は「Covenant Eyes（契約の目）」。

2022年9月29日午前10時30分（東部標準時）更新：記事掲載後、GracepointはFAQページへのリンクをこの記事への回答ページにリダイレクトしました。 こちらでご覧いただけます。冒頭部分のリンクをFAQページのアーカイブ版に置き換えました。また、James Nagy氏はGracepointで教会指導者の役職に就いていなかったことを明確にし、それに合わせてこの記事を更新しました。