ケンブリッジ・アナリティカの危険性を何年も前に察知した男

2018年6月19日午前7時

心理測定センターの研究者たちは、フェイスブックのデータがどのように操作されるかをほとんどの人よりよく知っていたが、調査と資格停止により研究は中断された。

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

2014年12月、ジョン・ラスト氏は自身が教授を務めるケンブリッジ大学の法務部長に手紙を書き、嵐が起こりそうだと警告した。

WIREDが確認したメールによると、ラスト氏は大学に対し、同大学の心理学教授アレクサンドル・コーガン氏が、自身が開発したアプリを使って何百万人ものFacebookユーザーのデータを本人に知らせずに収集していると報告した。このアプリは、登録したユーザーのデータだけでなく、そのユーザーのFacebook上の友達のデータも収集していた。ラスト氏は、10万人が登録し、各人が平均150人の友達を持つとすれば、コーガン氏は1500万人分のデータにアクセスでき、政治的な説得に利用できると記していた。すでにジャーナリストらが調査を始めており、ラスト氏は大学に介入を求め、コーガン氏の研究は大学を「ほぼ全面的に否定的なメディアの注目」にさらすリスクがあると主張した。

「彼らの意図は、これを全米に広げ、選挙運動に利用することだ」とラスト氏は、コーガン氏とそのクライアントである、後にケンブリッジ・アナリティカと呼ばれるようになった無名の政治コンサルティング会社について記した。「この件がなくなるとは到底思えない」と彼は予測した。

6ヶ月後、ドナルド・トランプ氏はアメリカ合衆国大統領選への出馬を表明し、ケンブリッジ・アナリティカの調査に一部依存した選挙活動を開始しました。2016年の大統領選でのトランプ氏の衝撃的な勝利により、ケンブリッジ・アナリティカは一躍脚光を浴び、世界中の大手企業との契約を獲得しました。しかし、トランプ氏のホワイトハウス入りを支援してから1年以上経った後、ケンブリッジ・アナリティカがコーガン氏を雇い、数千万人に及ぶアメリカ人Facebookユーザーのデータを本人の同意なしに収集していたというニュースが報じられ、プライバシーを侵害されたと感じた人々から国際的な怒りが巻き起こりました。

心理テストの研究開発を行う同大学の心理測定センター所長として、ラスト氏はFacebookデータがどのように操作されるかを誰よりも熟知していた。Facebookの「いいね！」から、人々の性格や政治的信条に関するあらゆる機密情報を推測できることを最初に発見したのは、彼自身の研究室の研究者たちだった。しかし、その研究の目的、そしてこの分野で40年間培ってきた目標は、このデータを使って何ができるのか、そしてそれがこれほど自由に取引されることの危険性について世界に警告することだったと彼は語る。

数年経った今、ラストは自分の正しさが証明されたことに喜びを感じていない。「4年前でさえ、それがもたらす潜在的な損害は分かっていたのに、それを止める術は何もなかった」と彼は語る。

Facebookは現在、コーガン氏が最大8700万人のアメリカ人のFacebookデータを収集し、ケンブリッジ・アナリティカに売却していたことを認めている。しかし、CEOのマーク・ザッカーバーグ氏と彼のチームがこの混乱の収拾に取り組んでいる中、ラスト氏はデジタル版ポール・リビアとして称賛されることはまずない。むしろ、彼の部署全体、そして彼の遺産の全てがコーガン氏とケンブリッジ・アナリティカに巻き込まれ、ザッカーバーグ氏自身から、ラスト氏が警告しようとしたまさにその違反行為を犯したと非難されている。「私たちの最大の目標は、何よりもまず人々のデータを保護することです」と、Facebookの製品パートナーシップ担当ディレクター、イメ・アーチボン氏は述べている。「私たちには、より良くするチャンスがあるのです。」

スキャンダルのニュースが報じられた今春以降、Facebookは心理測定センターの業務に使用されていた複数のアプリを停止しました。また、ザッカーバーグ氏は今年初めの議会証言で、同センター内で「何か悪いこと」が起こっている可能性があり、Facebookによる更なる調査が必要だと示唆しました。先週議会に提出された書面による回答の中で、Facebookは心理測定センターについて16回言及しており、その全てにおいて、同センターの研究者と短期間共同研究を行ったコーガン氏と関連づけて言及しています。

ラスト氏をはじめとする関係者は、現在、Facebookの調査結果を待っている。Facebookの調査自体は、英国の規制当局が独自の調査を完了するまで保留されている。しかし、センターの評判は、ケンブリッジ・アナリティカ事件の影響と既に切っても切れない関係にあるようだ。ラスト氏は、Facebookからの非難がセンターの伝統を汚しただけでなく、最も必要とされている重要な研究分野を停滞させてしまったのではないかと懸念している。

ラスト氏は、心理測定学という科学は悪用されるために生まれたと考えている。心理測定学は、最も基本的な意味では、人々の精神的・心理的特性、強み、弱みを測定する科学である。SATやIQテストの基礎となっているだけでなく、優生学を含むあらゆる陰険で不穏な目的にも利用されてきた。

「『すごい、これはすごい。世界を変えるだろう』と言われる科学として、長い歴史を歩んできました。確かに世界は変わりますが、必ずしも人々が望むような形で世界を変えるわけではありません」とラスト氏は言う。彼は、小さな心理測定センターを構成する、ほとんど人がいないコンピューターの列の近くに座っている。そのセンターは、キャビネットの上に置かれた細長い看板と、それに寄りかかっているジークムント・フロイトの指人形とソファで、控えめに区切られている。

心理学を研究し始めた頃、ラストはIQテストやその他の適性テストが、人種の異なる人々に対する差別を正当化するために利用され、学術的・職業的な機会から締め出されていることを目の当たりにしました。彼の博士課程の教授の一人であるハンス・アイゼンクは、人種の異なる人々は遺伝的にIQが異なる傾向があるという理論の著名な提唱者でした。

「右傾化が進む分野に身を置き、彼らのアプローチが間違っていることを示す義務があると感じていました」と、若い頃はアナーキストだったと自称するラスト氏は語る。「ほとんどの人はこの分野を諦めていたでしょう。でも私はそうしませんでした。私たちはこれらの問題すべてに取り組まなければならなかったのです。」

ラスト氏は1989年、ロンドン市立大学に心理測定センターを設立し、当初は子供向けの知能検査の開発に注力しました。2005年には、センターをケンブリッジ大学に移しました。しかし、2012年にデイビッド・スティルウェルという学者が着任してからは、センターの活動はソーシャルメディアへと移行しました。ほとんどの性格検査は学校や企業によって実施され、参加者に結果が開示されることはありませんが、スティルウェル氏は、参加者が自分で性格検査を受け、結果を受け取ることができるアプリを開発しました。また、結果を研究者と共有することも選択できました。

「myPersonality」と呼ばれるこのアプリはFacebookにも接続し、Facebookプロフィールのデータを共有する場合は、参加者に再度オプトインを求めました。オプトインした人のみのデータを収集し、友人のデータは収集しませんでした。また、情報は「ビジネス目的で保存・使用される場合があり、また、研究機関など（ただしこれに限定されません）第三者に匿名で開示される可能性がある」という免責事項も記載されていました。MyPersonalityは急速に普及し、2007年から2012年の間に600万人の参加者のデータを収集しました。そのうち約30～40%がFacebookデータを研究者と共有することを選択しました。

2013年3月、スティルウェル氏、博士課程のミハル・コシンスキー氏、そしてもう一人の研究者が、今では有名となった論文を共同執筆しました。この論文は、カーリーフライや雷雨といった一見無害な話題であっても、Facebookの「いいね！」から、性的指向、民族、宗教観、政治的見解といった、非常にデリケートな情報を予測できることを示していました。当時、Facebookページの「いいね！」はまだ公開されており、誰でも特定のページに「いいね！」した人全員の情報を独自に収集することができました。この論文は、こうした予測が「個人の幸福、自由、さらには生命を脅かす可能性がある」と警告し、Facebookのような企業に対し、ユーザーに「情報に対する透明性とコントロール」を与えるよう訴えて締めくくっていました。

「怖かった。今でもそうだ」とラスト氏はこの事実について語る。「サイバースペースでのコミュニケーションは、手紙を書いたり電話で話したりするのとは全く違うことが分かりました。デジタルフットプリントは、いわばアバターのようなものなのです。」

彼は、この研究が、膨大なデータセットに対してアルゴリズムを暴走させることが実際に何を意味するのかという重要な議論を引き起こすことを期待していたと述べています。こうした議論は、シリコンバレーではほとんどが密室で行われていました。この論文とその後の発表は、2人の研究者と心理測定センターに国際的な注目を集めました。2013年、センターは匿名データセットを他の研究者が利用できるようにライセンス供与を開始し、数十本の追加研究論文が発表されました。これらの共同研究者は、データの共有、匿名性の解除、または商業目的での使用を禁止する条件に同意する必要がありました。

当時、Facebookの利用規約では、データの販売やデータブローカーへの譲渡は禁止されていました。しかし、アプリ開発者が一定の条件の下で学術研究のためにデータを共有することは許可されていました。例えば、ユーザーはデータの共有に同意する必要がありました。開発者は、他の研究者がデータにアクセスする前に、利用規約に同意していることを確認する必要がありました。つまり、データセットをウェブサイトにそのまま掲載することはできないのです。Facebookの利用規約は頻繁に変更されており、同社によると、開発者は最新の規約に従う義務があります。つまり、利用規約が変更されるたびに、アプリがFacebookの利用規約に準拠していることを確認するのは開発者の責任です。

ラスト氏によると、彼の部署の研究者たちはFacebookの規則をすべて遵守していると信じており、少なくとも当時はFacebookもそれに同意していたようだ。2011年には、Facebookがスティルウェル氏にFacebookのデータを使った研究に関するワークショップへの参加費を負担させた。また2015年には、Facebookの研究者がコシンスキー氏をカリフォルニア州ロングビーチで開催された会議に招待し、研究結果を発表した。仮に彼らの研究に何か問題があったとしても、Facebookも研究者もそれに気づいていなかったようだ。

2012年頃、ラストは大学の心理学部に新しく着任したコーガン教授を心理測定センターの会議に招いた。コーガン教授はケンブリッジ・プロソーシャル性とウェルビーイング・ラボを設立しており、ウェブサイトによると、同ラボは「人間の優しさとウェルビーイングの心理学」を研究していた。

「大学の新任講師へのおもてなしとしては、これは親切で温かい行為だと思ったんです」とラスト氏はその招待について語る。だが、今ではその決断を後悔している。

コーガンは心理測定センターのデータとそのモデルに精通するようになり、コジンスキーの博士論文の審査員も務めた。そして2014年、スティルウェルとコジンスキーの画期的な論文が発表されて1年後、コーガンとパートナーのジョー・チャンセラーはグローバル・サイエンス・リサーチという会社を設立した。同社の顧客であるSCLエレクションズ（後のケンブリッジ・アナリティカ）は、コーガンに心理測定センターと協力し、アメリカの有権者に関するFacebookデータを収集し、政治広告に活用するために人々の性格タイプを理解することを依頼した。しかし、コーガン、スティルウェル、コジンスキーの関係は、心理測定センターが当初の協議よりもはるかに少ない予算しか得られないという契約交渉をめぐってすぐに悪化した。スティルウェルとコジンスキーは最終的にコーガンとの協力を断り、その後、大学はコーガンに対し、大学のリソース（データを含む）を自身の事業に使用しないという法的文書に署名させた。

「私たちはただ、次に何が起こるのかという状態で見ていました」とラスト氏は言う。

その後に起こった出来事は、速報プッシュアラートのネタとなる。2014年の夏、コーガン氏とチャンセラー氏は「This Is Your Digital Life」という自社アプリを通じて、人々に性格診断クイズを受けてもらい、Facebookデータに加え、数千万人の友人のデータにアクセスした。その夏の間に、彼らは5000万件のレコードを収集し、そのうち3000万件をケンブリッジ・アナリティカに売却した。Facebookはデータ販売を禁止していたにもかかわらずだ。コーガン氏は、Facebookのポリシーに違反していることに気づいていなかったと主張している。そもそもFacebookはポリシーをほとんど適用していなかったと彼は主張している。

ラスト氏は、コーガン氏と共同研究を行っている博士課程の学生たちからこの研究に関する報告を聞くにつれ、ますます懸念を抱くようになったという。一方、 2015年にコーガン氏の手法について報じたガーディアン紙の記者は、コーガン氏、スティルウェル氏、そしてコシンスキー氏に質問を投げかけ、調査を開始していた。WIREDが確認したメールによると、研究者たちは自分たちの研究がコーガン氏の研究と一括りにされることを懸念していた。こうした状況下で、ラスト氏は2014年末に警鐘を鳴らすことを決意した。

先週木曜日、アレクサンドル・コーガンはセントラルパークのすぐ南にあるスターバックスに足を踏み入れた。水色のTシャツとジーンズ姿は、まるでザッカーバーグを彷彿とさせる。彼と妻は昨年11月からニューヨークに暮らしているが、その数ヶ月前、彼の言葉を借りれば「とんでもない核爆弾」が彼らの生活に投下されたのだ。3月、ニューヨーク・タイムズ紙とガーディアン紙がコーガンの件を報じ、一面トップを飾り、フェイスブックから追放された。フェイスブックは繰り返しコーガンを「とんでもなく悪いリンゴ」と呼び、インターネット上の探偵たちは、彼のロシア系ルーツやサンクトペテルブルク大学との研究関係を盾に、ロシアのスパイだと非難してきた。今、ケンブリッジ大学での契約満了を待つコーガンは、学問の世界でのキャリアが終わったことを自覚している。

「個人的には、これはうまくいってない」とコーガンは、誰が聞いているかなど気にせず大声で言った。これは、自分がスパイとしてまずい理由の一つだと、彼は笑いながら付け加えた。

コーガン氏は既に英国議会で証言しており、火曜日には上院公聴会にも出席する予定だ。その際には、ラスト氏とは異なる見解を述べることになるだろう。まず、コーガン氏はスティルウェル氏とコシンスキー氏が人々の性格やその他の特性を予測する手法は実際にはそれほど効果的ではなかったと繰り返し主張してきた。しかし、この主張は、コーガン氏がまさにこれらの手法をケンブリッジ・アナリティカに売却していたという事実と整合しない。しかし、このような主張をしているのはコーガン氏だけではない。ケンブリッジ・アナリティカの活動に詳しい他の学者や政治関係者も、同社がインチキ薬を売っていると非難している。

コーガン氏はまた、ラスト氏が事件の修正主義的な歴史を書いていると指摘し、心理測定センターが契約交渉が決裂するまでプロジェクトへの参加を望んだにもかかわらず、自らを内部告発者だと位置づけていると指摘する。「彼らがプロジェクトに参加できなくなったとき、『これは倫理違反だ』と言ったんです」とコーガン氏は皮肉を込めて指を空に向けながら言った。「欲がこれほど人を苦しめたことはかつてなかった」

しかし彼は、当時ラスト氏の警告に耳を傾けていれば皆にとって良い状況になっていただろうと認め、このデータを鵜呑みにしていた当時、世論の反発のリスクに気づいていなかったことを認めている。彼は自分が引き起こした混乱について謝罪している。「もし人々が動揺しているなら、それはそれで構わない。我々は何か間違ったことをしたんだ」と彼は言う。

しかし彼は、自分だけではないと主張している。問題の核心は、心理測定センターで「何か悪いこと」が起こっていることではなく、Facebookが何年もの間、最小限の監視しか行わずにユーザーデータを開発者に提供してきたことだと彼は主張する。同社はスティルウェルとコジンスキーの研究を称賛し、コーガンのパートナーであるチャンセラーを研究チームに採用し、コーガン自身の研究のために特別にキュレーションされたデータセットを提供した。しかし今、Facebookは、これらの研究者がポリシーに違反している可能性を認識していなかったと主張している。

Facebookのアーキボン氏は、「潜在的に起こり得る違反行為について、私たちは全く把握していませんでした」と述べている。「だからこそ、私たちは今、調査を強化しているのです。」

ケンブリッジ大学も独自の調査を実施していると発表しました。広報担当者は、「この件に関して入手可能なあらゆる情報を幅広く精査しています。この精査、あるいはFacebookへの要請から何かが明らかになった場合、大学は方針と手順に従い、必要な措置を講じます」と述べました。

しかしコーガン氏にとって、こうした学者へのスケープゴート化はすべて、ただの邪魔でしかない。ケンブリッジ・アナリティカがコーガン氏からデータを購入するのではなく、自らデータを収集していたら、Facebookのポリシーに違反する者は誰もいなかっただろう。しかし、それでもなお、数千万人もの人々のデータが、本人の知らないうちに政治目的で利用されていただろう。これはFacebook、そして規制当局が取り組まなければならない、はるかに根深い問題だとコーガン氏は言う。少なくともこの点に関しては、彼とラスト氏は意見が一致している。

Facebookは今春以降、同センターが関与したほぼすべてのアプリを停止している。アーチボン氏は、不正行為の証拠が見つからなければアプリを復活させると述べているが、それには時間がかかる可能性がある。Facebookは英国情報コミッショナー事務局による調査が終わるのを待ってから、独自の監査を開始する。その間、同社は心理測定センターのアプリがどのようなポリシーに違反した可能性があるかについてコメントを控えており、研究者たちは宙ぶらりんの状態となっている。

「彼らにとっては、何か対策を講じていると言うための単なるPR活動に過ぎません」と心理測定センターの事業開発ディレクター、ヴェセリン・ポポフ氏は言う。

FacebookはmyPersonalityに加え、CubeYouという企業と共同開発したYouAreWhatYouLikeというアプリも停止しました。このアプリもFacebookから追放されています（Facebookによると、CubeYouの停止理由は「心理測定センターとの関係とは無関係の違反の疑い」によるものです）。このアプリは、Facebookの「いいね！」数からユーザーの性格を予測し、友人についても予測を示していました。CubeYouによると、同社はこれらのデータを販売したことはなく、当時のFacebookの規約に従って、匿名でデータを保存・共有することに同意したとのことです。Facebookはまた、心理測定センターが開発した「Apply Magic Sauce」というツールも停止しました。このツールには、ユーザーが性格診断クイズに答えられる消費者向けアプリと、企業が心理測定センターの性格プロファイリングモデルを自社のデータセットに適用できるAPIが含まれていました。心理測定センターは、このデータも販売したことはないとしていますが、企業にAPIを販売することで利益を得ていました。

Facebookの決定は、ソーシャルメディア研究が極めて重要な時期に、同センターの能力を劇的に低下させたとポポフ氏は主張する。「Facebookの対応の一つは、私たちが資金を提供し、有能だと判断したベテラン研究者をスタッフとして配置する学術委員会を設立するというものでした」とポポフ氏は言う。「私にとって、これは全くの茶番です。問題を引き起こしている人たちが、自分たちが解決しているふりをしているだけです。」

もちろん、Facebookの幹部は心理測定センターの研究者についても同じことを言うかもしれない。5月、ニューサイエンティスト誌は、スティルウェル氏とコシンスキー氏が収集した数百万件の匿名化された記録へのログイン情報が、別の大学の研究者によってGitHubにアップロードされていたと報じた。1^スティルウェル氏とコシンスキー氏が厳しい条件を課していたにもかかわらず、このような事態が起きたのだ。データは4年間も公開されていた。スティルウェル氏はこの件についてコメントを控えたが、アプリのウェブサイトに掲載された声明の中で、「9年間の学術的共同研究の中で、このような事態が発生したのは今回が唯一の例です」と述べている。今回のデータ流出は、善意の開発者であっても、Facebookのデータが共有された後は安全に保つことができる保証がないことを如実に示している。

ラスト氏がもし責任を認めるとすれば、それは、自分の学部がFacebookデータの不正利用について行っていた研究が、実際には人々にFacebookデータの不正利用を促してしまう可能性があることを、事前に予見できなかったことだ。しかし、仮に予見できたとしても、それが彼を止められたかどうかは確信が持てないという。「ケンブリッジでは、自分が行っている研究が画期的だと分かっていれば、それは常に良いことにも悪いことにも使われる可能性があると思います」と彼は言う。

ラスト氏は、情報コミッショナー事務局の調査に協力していると述べた。情報コミッショナーのエリザベス・デナム氏は、Facebookが同センターに対して提起した「申し立てを検討中」と述べるにとどまり、この件についてコメントを控えた。しかしラスト氏は、デナム氏の事務所にメールやその他の文書を提出し、人工知能分野における規制監督の緊急性を強く訴えてきたと述べた。

「AIは実はサイコパスのようなものだ」と彼は言う。感情を操作するのは得意だが、道徳心は未発達だ。「ある意味で、機械もそれと似ている。機械は道徳的発達の段階を経ている。AIにおいて道徳的発達がどのように起こるのかを私たちは研究する必要がある」

もちろん、ラスト氏が「私たち」と言うとき、それは彼自身のことではない。彼は来年退職する予定で、この問題解決の仕事を、現在の混乱を乗り越えられると期待している部署に託すつもりだ。74歳で、定年退職年齢から既に7年が経過しているが、それでも現状のままで去るのは容易ではない。角縁眼鏡の奥から覗く彼の目は、自分が残していくであろう功績を思いながら、物憂げで、少し生気さえ漂っている。

「世界の諸問題を解決し、脳の働きを解明しようと学問の世界に入るんです」と彼は、足を組んだ上で両手を組んで言った。「10年も研究を続ければ、『講師か上級講師になりたいから、次の論文のために次の助成金を取ろう』と思うようになります。でも、その道を突き抜けて初めて、『私の人生はどこへ行ってしまったんだ？』と思うんです」

彼は、データを使って人々を分類・組織化することが、なぜ人々を分裂させてしまうのかという議論を始めるためにこの分野に参入しました。世界で最も権力のある人々から悪役に仕立て上げられたことは、どれほど苛立たしいことだったとしても、データプライバシーに関する待望の議論がようやく始まったことに感謝しています。

「私たちは今、様々な方向に進む可能性のある段階にいます。ビッグブラザーと『すばらしい新世界』の組み合わせ、つまり個体群が個々の行動を完全に制御・予測できるような状況になるかもしれません。あるいは、新たに創造された生物が私たちと共に進化できるようにするための何らかの制御システムを開発する必要があるかもしれません」と彼は言う。「もし私たちの行動がそれに影響を与えたのであれば、それは価値あるものになるでしょう。」

¹更新: 2018年6月19日午前10時23分 (東部標準時) このストーリーは、データベース全体ではなく、スティルウェルとコシンスキーのデータのサブセットが漏洩したことを明確にするために更新されました。

WIREDのその他の素晴らしい記事