ワイヤード
マッチ。それは小さな言葉の裏に、様々な判断が隠されている。オンラインデートの世界では、それはひっそりと選別と評価をしてきたアルゴリズムから飛び出す、ハンサムな顔のようなものだ。しかし、こうしたアルゴリズムはあなたが思うほど中立的ではない。人種差別的な結果を、それを利用する社会に繰り返し返す検索エンジンのように、マッチは偏見にまみれている。「好み」と偏見の境界線はどこに引くべきなのだろうか？
まず、事実から。オンラインデートには人種的偏見が蔓延しています。例えば、黒人が出会い系サイトで白人に連絡する可能性は、白人が黒人に連絡する可能性の10倍です。2014年、OKCupidは、黒人女性とアジア系男性はサイト上で他の民族グループよりも大幅に低い評価を受ける傾向があり、アジア系女性と白人男性は他のユーザーから最も高い評価を受ける傾向があることを発見しました。
もしこれらが既存の偏見だとしたら、出会い系アプリにはそれらに対抗する責任があるのでしょうか？確かに、出会い系アプリはそれらから学んでいるようです。昨年発表された研究で、コーネル大学の研究者たちは、米国で最も収益の高い25の出会い系アプリにおける人種的偏見を調査しました。その結果、人種がマッチングに頻繁に影響していることがわかりました。19のアプリはユーザーに人種または民族を入力するよう求め、11のアプリはユーザーが希望するパートナーの民族を収集し、17のアプリはユーザーが民族で他のユーザーを絞り込むことができました。
これらのアプリを支えるアルゴリズムは独自のものであるため、マッチングの背後にある正確な計算方法は厳重に守られた秘密です。出会い系サービスにとって、社会的な偏見を反映しているかどうかに関わらず、マッチングを成功させることが最優先事項です。しかし、これらのシステムの構築方法は大きな波紋を巻き起こし、誰が出会うか、ひいては私たちの魅力に対する考え方にも影響を与えかねません。
「集団の親密な生活の多くは出会い系や出会い系プラットフォームから始まるため、プラットフォームは誰が誰とどのように出会うかを形作る比類のない構造的力を持っている」とコーネル大学の論文の筆頭著者であるジェヴァン・ハットソン氏は言う。
特定の人種をフィルタリングできるアプリでは、ある人にとっての好みは、別の人にとっての差別となってしまいます。アジア人男性とデートしたくない？ チェックボックスを外すと、そのグループに属する人が検索対象から除外されます。例えば、Grindrは民族性でフィルタリングするオプションを提供しています。OKCupidも同様に、民族性だけでなく、身長から学歴まで、様々なカテゴリーで検索できます。アプリはこのような検索機能を許可すべきでしょうか？ これは、バーでくつろぐときに私たちが内心行っていることを現実的に反映しているのでしょうか？ それとも、オンラインポルノのようにキーワードを多用し、民族性の検索語で欲望を細分化しているのでしょうか？
フィルタリングにはメリットもある。匿名を条件にOKCupidを利用しているあるユーザーは、多くの男性が「エキゾチック」とか「変わっている」と言って会話を始めるが、すぐに飽きてしまうと話した。「このアプリは圧倒的に白人男性が多いので、時々『白人』のオプションをオフにしています」と彼女は言う。「そして、私にこういう質問をしたり、こういう発言をするのは圧倒的に白人男性なんです」
TinderやBumbleのように、出会い系アプリで人種による明確なフィルタリングが選択肢にないとしても、その根底にあるアルゴリズムに人種的偏見がどのように入り込んでいるのかという疑問は残る。Tinderの広報担当者はWIREDに対し、ユーザーの民族や人種に関するデータは収集していないと述べた。「当社のアルゴリズムでは人種は考慮されていません。お客様の性別、年齢、居住地の希望に合う人をご紹介しています。」しかし、このアプリはユーザーを相対的な魅力で評価していると噂されている。こうすることで、人種的偏見が依然として根強い、社会特有の美の理想を強化しているのだろうか？
2016年、何千枚もの女性の写真で訓練された人工知能（AI）によって、ある国際的な美人コンテストが審査されました。100カ国以上から約6,000人が写真を提出し、機械は最も魅力的な女性を選びました。44人の受賞者のうち、ほぼ全員が白人でした。肌の色が濃いのはたった1人だけでした。このシステムの開発者はAIに人種差別的になるように指示したわけではありませんでしたが、肌の色が濃い女性の写真を比較的少ない数しか入力しなかったため、AIは白い肌が美しさと結びつくと勝手に判断しました。出会い系アプリも、その不透明なアルゴリズムによって同様のリスクを抱えています。
「アルゴリズムの公平性という分野における大きな動機は、特定の社会で生じるバイアスに対処することです」と、オックスフォード大学のコンピュータサイエンス准教授、マット・クスナー氏は述べている。「この問いを考える一つの方法は、社会に存在するバイアスによって、自動化システムがいつバイアスを受けるのかということです。」
クスナー氏は、出会い系アプリを、米国で犯罪者の再犯可能性を測るために使われているアルゴリズムによる仮釈放制度の事例と比較しています。この制度は、白人よりも黒人に高リスクスコアを与える可能性がはるかに高かったため、人種差別的であると暴露されました。問題の一部は、この制度が米国の司法制度に内在する偏見から学習していたことです。「出会い系アプリでは、人種を理由に人々が相手を受け入れたり拒否したりするのを目にしてきました。ですから、こうした受け入れや拒否に基づいて人々の好みを予測しようとするアルゴリズムを導入すれば、間違いなくこうした偏見を拾ってしまうでしょう。」
しかし、厄介なのは、これらの選択肢が魅力の中立的な反映として提示されている点だ。「デザイン上の選択はどれも中立的ではない」とハットソン氏は言う。「出会い系や出会い系プラットフォームの中立性を主張する声は、人間関係の形成に悪影響を与え、システム的な不利益につながる可能性を無視している」
2016年、米国の出会い系アプリ「Coffee Meets Bagel」がこの論争の中心に躍り出た。このアプリは、アルゴリズムがユーザーの好みに基づいて厳選した、1人のパートナー（「ベーグル」）を毎日ユーザーに提供するという仕組みだ。論争の発端は、ユーザーがパートナーの人種について「特に希望しない」と選択したにもかかわらず、表示されるパートナーは自分と同じ人種ばかりだったという報告が寄せられたことだ。
「『民族にこだわりはない』と言っているユーザーの多くは、実際には非常に明確な民族の好みを持っているのです。[…]そして、その好みは往々にして彼ら自身の民族性です」と、サイトの共同創設者であるダウーン・カン氏は当時BuzzFeedに語り、Coffee Meets Bagelのシステムは、人々が自身の民族性に惹かれるという経験的データを用いて、ユーザーの「つながり率」を最大化していると説明した。このアプリは現在も存在しているが、同社はシステムが今でもこの前提に基づいているかどうかという質問には回答していない。
ここには重要な緊張関係があります。それは、「どちらにも優先順位がない」というオープンな姿勢と、デートのチャンスを最大限に活かそうとするアルゴリズムの保守的な性質との間の緊張です。接続率を優先することで、システムは未来の成功は過去の成功と同じだと言っているようなものです。つまり、現状維持こそがシステムの機能を果たすために必要なことだと。では、たとえ最終的に接続率が低下するとしても、これらのシステムはこうしたバイアスに対抗すべきなのでしょうか？
クスナー氏は、出会い系アプリは欲望の意味をより慎重に考え、それを定量化する新しい方法を見つける必要があると提言する。「今では大多数の人が、恋愛関係を結ぶのは人種のためではなく、他の理由によるものだと考えています。世界の仕組みに関する根本的な信念を共有していますか？相手の考え方を気に入っていますか？なぜか笑ってしまうようなことをしますか？出会い系アプリは、こうしたことを理解しようと真剣に取り組むべきです。」
しかし、言うは易く行うは難しです。人種、性別、身長、体重などは、アプリにとって（比較的）分類しやすいカテゴリーです。しかし、世界観やユーモアのセンス、思考パターンなどは、そう簡単ではありません。これらは真の繋がりの基盤となる可能性のある、捉えどころのない概念ですが、たとえアプリがあなたについて800ページにも及ぶ詳細な情報を持っていたとしても、定義づけるのが難しい場合が多いのです。
ハットソン氏も、「想像力に欠けるアルゴリズム」が問題であることに同意しており、特に人種的な「好み」といった疑わしい歴史的パターンに基づいている場合はなおさらだ。「プラットフォームは、人種や民族とは無関係な、全く新しい創造的な軸でユーザーを分類する可能性があります」と彼は示唆する。「こうした新しい識別方法は、歴史的に偏見のあった関係を解き放ち、境界を越えたつながりを促進する可能性があります。」
インターネットが登場するずっと以前、デートは行きつけのバー、礼拝する教会や寺院、週末に付き合う家族や友人といったものと結びついていました。そして、それらはすべて人種や経済的な偏見に縛られていることが多かったのです。オンラインデートは障壁を打ち破る上で大きな役割を果たしましたが、同時に多くの時代遅れの考え方を継承してきました。
「私の出会い系は白人男性ばかりでした」と、匿名のOKCupidユーザーは語る。「私は白人中心の業界で働いていて、白人中心の大学にも通っていました。オンラインデートのおかげで、そうでなければ出会えなかったような人たちと出会えるようになったのは間違いありません。」
ユーザーをより幅広い民族へと誘導することで、確かに効果があるという兆候があります。2013年にOKCupidを分析したある研究では、あらゆる人種的背景を持つユーザーが、恋愛関係において「人種の境界を越える」可能性は等しく、異人種間のメッセージに返信したユーザーは、その後も異人種間の交流を深める傾向があることが分かりました。また、オンラインデートが異人種間の結婚率を高める可能性があることを示唆する研究もあります。
出会い系アプリ各社は、人種問題への対応方法を変える努力をしてきました。Grindrは昨年、「Kindr（キンドル）」と呼ばれる反差別キャンペーンを展開しました。これは、サービスが露骨な人種差別的行為の温床になっているという長年の批判を受けてのことです。同社の広報担当者は、「より包括的で敬意のあるコミュニティを育むために、いくつかの措置を講じてきた」と述べ、「アプリの利用において、私たちが望むほど包括的な行動をとらない可能性のある少数のユーザーがいることを認識している」と述べました。
憎悪的な言葉を排除することは重要ですが、アプリの基盤となるデータに人種がいかに浸透しているかを考慮することはまた別の問題です。偏見は根深く根付いており、アプリ開発者はそれをどこまで掘り起こすかを判断する必要があります。政治的な二極化と社会の分断が進む今、たとえシステムが必ずしも良いマッチングだと判断しなかったとしても、人々を結びつけるためにどこまで努力すべきかを考える必要があります。
愛と人間関係の未来についてもっと知りたいですか?
この記事は、テクノロジーが愛、セックス、人間関係をどのように変えているのかを詳しく調査するシリーズの一部です。
インターネットで個人的な秘密を守ることからスーパー淋病を撲滅するための戦いまで、良くも悪くも私たちの暮らしや愛を変えるテクノロジーとアイデアを探ります。
このシリーズの他の記事を読むにはここをクリックしてください。
– 中国の恋愛ビデオゲームの奇妙な世界
– スーパー淋病との、気持ち悪くなるほどドロドロした戦いの内幕
生まれてくる子供をインターネットから秘密にしておくことがなぜ難しいのか
この記事はWIRED UKで最初に公開されました。
