この出会い系アプリはアルゴリズムの恐ろしい偏りを暴露する

ベン・バーマンは、私たちのデートの仕方に問題があると考えている。現実世界での問題ではない。彼は現在、幸せに婚約している。しかし、オンライン上での問題だ。彼は、多くの友人がアプリを何の楽しみもなくスワイプし、同じプロフィールを何度も繰り返し見ても、恋人を見つけることができずにいるのを見てきた。こうしたアプリを動かすアルゴリズムにも問題があるようで、ユーザーを自分の好みという檻に閉じ込めているのだ。

そこでサンフランシスコ在住のゲームデザイナー、バーマンは、いわば自分だけの出会い系アプリを作ることを決意した。デザイナーのミゲル・ペレスとMozillaの協力を得て開発された「Monster Match」は、出会い系アプリの基本的な構造を借用している。ユーザーは（可愛いイラストのモンスターたちから）プロフィールを作成し、スワイプして他のモンスターとマッチングし、チャットでデートの約束をする。

しかし、ここで意外な展開が。スワイプしていくうちに、出会い系アプリのアルゴリズムがもたらす、より陰険な結末が明らかになる。選択肢は狭まり、同じモンスターに何度も遭遇することになるのだ。

モンスターマッチは、厳密には出会い系アプリではなく、出会い系アプリの問題点を浮き彫りにするゲームです。最近試してみました。エッフェル塔の前でポーズをとっている、戸惑い気味のクモのモンスターのプロフィールを作成してみました。自動生成されたプロフィールには、「私のような人を知るには、私の5つの言葉すべてに耳を傾けてください」とありました。（こちらから自分で試してみてください。）いくつかのプロフィールをスワイプすると、マッチングアルゴリズムが動作していることを示すためにゲームが一時停止しました。

アルゴリズムはすでにMonster Matchのプロフィールの半分を私のキューから削除していた。Tinderに換算すると、これは約400万件に相当する。さらに、アルゴリズムは私が何を好み、何を嫌いかという単純なヒューリスティックスを用いて、初期の「好み」を反映するようにキューを更新した。まるで目がキラキラ光るドラゴンを左にスワイプ？今後ドラゴンを見る機会は減るだろう。

バーマンのアイデアは、こうしたレコメンデーションエンジンの実態を明らかにするだけではありません。出会い系アプリの開発方法における根本的な問題点を浮き彫りにするのです。Tinder、Hinge、Bumbleといった出会い系アプリは、「協調フィルタリング」という手法を用いており、これは多数派の意見に基づいてレコメンデーションを生成します。これはNetflixが視聴作品を推薦する方法に似ています。つまり、ユーザーの個人的な好みと、幅広いユーザーベースで人気のある作品の両方に基づいて推薦されているのです。初めてログインした時は、レコメンデーションはほぼ完全に他のユーザーの意見に左右されます。しかし、時間が経つにつれて、こうしたアルゴリズムは人間の選択を制限し、特定のタイプのプロフィールを疎外していきます。バーマンの作品では、ゾンビを右にスワイプし、吸血鬼を左にスワイプした場合、新規ユーザーがゾンビに「はい」とスワイプしても、その吸血鬼はキューに表示されません。多種多様なモンスターたちは、厳しい現実を露呈しています。出会い系アプリのユーザーは狭い前提に押し込められ、特定のプロフィールは日常的に排除されているのです。

しばらくスワイプしていると、私のクモ型アバターはMonster Matchで実際にこの現象を目にし始めた。キャラクターには人型モンスターとクリーチャーモンスター（吸血鬼、悪霊、巨大昆虫、悪魔のようなタコなど）の両方が含まれていたが、すぐに人型モンスターはキューにいなくなった。「実際には、アルゴリズムは私たちが見ることができるものを制限することで、バイアスを強化しているのです」とバーマン氏は言う。

ベン・バーマン

現実の出会い系アプリにおける生身の人間に関しては、アルゴリズムによる偏りは十分に裏付けられています。OKCupidの調査によると、黒人女性はプラットフォーム上でどの年齢層よりも一貫してメッセージ数が少ないことが分かっています。また、コーネル大学の研究では、OKCupidやThe Leagueのように、人種でマッチング相手を絞り込める出会い系アプリは、現実世界における人種的不平等を助長することが明らかになっています。協調フィルタリングは推奨を生成するために機能しますが、その推奨は特定のユーザーに不利な状況をもたらします。

さらにバーマン氏は、これらのアルゴリズムはほとんどの人には機能しないと述べています。JdateやAmoLatinaといったニッチな出会い系サイトの台頭は、協調フィルタリングによって少数派が取り残されている証拠だと指摘しています。「ソフトウェアは出会いの場として素晴らしいと思います」とバーマン氏は言います。「しかし、既存の出会い系アプリは、本来成功できるはずのユーザーを犠牲にして、成長にばかり焦点を絞っているように思います。では、もしユーザーが原因ではなかったらどうでしょう？もしソフトウェアの設計が、人々に成功していないと感じさせているのならどうでしょう？」

モンスターマッチは単なるゲームですが、バーマン氏はオンラインやアプリベースの出会い系体験を改善するアイデアをいくつか持っています。「アプリの履歴を消去するリセットボタンがあれば大いに役立つでしょう」と彼は言います。「あるいは、推奨アルゴリズムをオフにしてランダムにマッチングさせるオプトアウトボタンがあればいいのに」。彼はまた、デートの相手と「クエスト」に挑戦し、デートでアンロックできる実績など、ゲームをモデルにした出会い系アプリのアイデアも気に入っています。

WIREDのその他の素晴らしい記事