Facebookの広告システムは差別的になるようハードコードされている可能性がある

市民権団体、議員、ジャーナリストは長年にわたり、Facebookの広告プラットフォームにおける差別について警告を発してきた。しかし、彼らの懸念とFacebookの対応は、主に広告ターゲティング、つまり企業がどのようなユーザーに広告を見せたいかを選択する方法に焦点を当ててきた。ノースイースタン大学、南カリフォルニア大学、そして非営利団体Upturnの研究者による新たな研究によると、広告配信、つまりどのユーザーに広告を表示するかを決定するFacebookのアルゴリズムも同様に重要である可能性があることが明らかになった。

企業が包括的なオーディエンスに広告を表示することを選択した場合でも、Facebookは広告を「主に広告主が選択したオーディエンスの偏ったサブグループに配信することがある。これは広告主が意図していなかった、あるいは認識していなかった結果である可能性がある」と研究者らは述べている。例えば、男性と女性の両方をターゲットにした求人広告は、依然として男性の閲覧者が大幅に多い可能性がある。

この研究はまだ査読を受けていないが、Facebookの自動広告システム（同社に年間数百億ドルの収益をもたらす）が、雇用や住宅などの広告における差別を禁じる公民権法に違反している可能性があることを示唆している。問題はFacebook自体にあり、企業によるプラットフォームの利用方法にあるわけではない。Facebookはコメント要請に応じなかったが、他の出版物への声明では研究者らの調査結果に異議を唱えていない。

Facebookでは長年、広告ターゲティングにおける差別が問題となってきました。2016年、ProPublicaは、企業が人種などの特性に基づいて住宅広告の表示を除外できる可能性があると指摘しました。これは1968年公正住宅法に明らかに違反するものでした。先月、Facebookは、企業が女性や高齢者などの層に対して求人、住宅、融資の広告を非表示にできると主張していた市民権団体による5件の訴訟を和解させました。和解の一環として、Facebookは今後、広告主が年齢、性別、郵便番号に基づいてこれらの広告をターゲティングすることを許可しないと発表しました。しかし、これらの修正は、今回の新たな研究の研究者が発見した問題に対処するものではありません。

「これは、機械学習が社会の既存の偏見をいかに取り込み、永続化させているかを如実に示しており、深刻な影響を及ぼします」と、Facebookを提訴した団体の一つであるACLU（アメリカ自由人権協会）女性権利プロジェクトの上級スタッフ弁護士、ゲイレン・シャーウィン氏は述べている。「これらの結果は、プラットフォームがこうした傾向に対抗するために、強力かつ積極的な対策を講じる必要があることを明確に示しています。」

ある実験では、研究者たちはノースカロライナ州における看護師、レストランのレジ係、タクシー運転手といった11種類の一般的な職種の広告を、同じオーディエンスに表示しました。Facebookは、清掃員の求人広告を5件、女性65%、黒人75%のオーディエンスに表示しました。木材業界の求人広告5件は、男性90%、白人70%のユーザーに表示されました。そして最も極端なケースでは、スーパーマーケットの店員の求人広告が女性85%、タクシー運転手の求人広告が黒人75%のオーディエンスに表示されました。

研究者らは同様の一連の住宅広告を実施し、ターゲットと予算が同じであったにもかかわらず、一部の広告は85パーセント以上が白人の視聴者に表示されたのに対し、他の広告は65パーセントが黒人の視聴者に表示されたことを発見した。

Facebookは企業に対し、広告を見た人の人種は伝えないが、大まかな所在地は提供している。人種の代替データを作成するために、研究者たちはノースカロライナ州の公開投票記録を数十万件利用した。これには、有権者の住所、電話番号、そして申告された人種が含まれている。これらの記録を用いて、研究者たちは州内のある地域では黒人有権者、別の地域では白人有権者に広告をターゲティングした。そして、Facebookのレポートツールを確認する際に、ユーザーの居住地に基づいて人種を推測することができた。

研究の別の部分では、研究者たちはFacebookが広告に関連付けられた画像を自動的にスキャンし、誰に広告を表示するかを判断しているかどうかを検証しました。研究者たちは、サッカーボールや香水瓶の写真など、典型的な男性と女性のストック画像を同一の文言で使用した一連の広告を掲載しました。次に、同じ画像を使用した対応する広告を掲載しましたが、写真は人間の目には見えないように加工されていました。機械学習システムは写真内のデータを検出できましたが、Facebookユーザーにとっては白い四角形に見えました。

研究者たちは、「男性」と「女性」の広告は、画像が空白であっても、性別が特定されたオーディエンスに表示されたことを発見しました。あるテストでは、男性画像の表示と非表示の両方が60%の男性オーディエンスに表示されたのに対し、女性画像の表示と非表示の両方が65%の女性オーディエンスに表示されました。この結果は、Facebookが広告を誰に見せるべきかを判断するために事前に分析を行っており、ジェンダーステレオタイプに基づいてその判断を行っていることを示しています。

Facebookの画像分析プロセスがどのように機能しているかを正確に知る方法はない。同社の広告アルゴリズムは秘密だからだ。（しかし、Facebookは過去に、毎日10億枚以上の写真を分析できる能力があると述べている。）「結局のところ、Facebookが何をしているのかは分からない」と、ノースイースタン大学のコンピュータサイエンス教授で、この研究論文の著者でもあるアラン・ミスラブ氏は述べている。

この研究では、広告価格設定が性差別を引き起こす可能性も明らかになった。女性は広告へのエンゲージメントが高い傾向があるため、一般的にリーチ費用が高くなるためだ。研究者たちは、広告キャンペーンに1ドルから50ドルを投じた場合をテストし、「1日の予算が高いほど、視聴者に占める男性の割合が少なくなる」ことを発見した。以前の研究でも同様に、STEM分野の機会を宣伝する広告は女性にターゲティングするコストが高いため、広告アルゴリズムによって表示される広告が少なくなることが示されていた。

研究の著者らは、今回の研究結果がFacebook上のすべての広告に一般化できるわけではないことを注意深く指摘している。「例えば、木こりに関する広告はすべて、主に白人男性のユーザーに配信されているが、木こりに関するすべての広告に当てはまるわけではない」と著者らは記している。

しかし、この研究は、Facebookの高度にパーソナライズされた広告システムが、少なくとも時には世界に既に存在する不平等を反映していることを示唆しており、これは議員たちが未だ対処していない問題である。この研究は、住宅都市開発省が先月末にFacebookを相手取って提起した住宅差別訴訟に影響を与える可能性がある。訴訟において、住宅都市開発省の弁護士は、Facebookの「広告配信システムは、ユーザーが特定の広告に反応する可能性が高いか、あるいは「関連性がある」と判断するかに基づいて差別しているため、幅広いユーザーにリーチしたい広告主の行動を妨げている」と主張している。

規制当局は、インターネットプラットフォームをユーザーの投稿内容に対する責任から免除する通信品位法第230条に基づき、Facebookに付与されている保護措置についても検証する必要があるかもしれない。Facebookは、広告主が「広告をどこに、どのように、いつ掲載するかを決定する」責任を完全に負っていると主張してきた。しかし、今回の調査では、必ずしもそうではないことが示されており、広告主は誰が自社の広告を見るかを正確に制御することはできない。Facebookは中立的なプラットフォームではないのだ。

Facebookが、この調査で提起された問題に対処するために、広告システムをどのように改革するのかは明らかではない。Upturnのシニア政策アナリストで、この調査のもう一人の著者であるミランダ・ボーゲン氏は、同社は公平性を優先するために、ある程度の効率性を犠牲にする必要があるかもしれないと述べている。Facebookの元最高セキュリティ責任者であるアレックス・スタモス氏も同様にTwitterで、この問題は「特定の広告クラスに対するアルゴリズム最適化を一切行わない」ことによってのみ解決できる可能性があると述べた。

しかし、こうした最適化こそが、Facebookが広告主にとって価値あるものとなっている大きな理由です。もし議員がFacebookのアルゴリズムを規制することに決めた場合、同社の事業に深刻な影響を及ぼす可能性があります。

WIREDのその他の素晴らしい記事