マーク・ザッカーバーグQ&A：Facebook CEOがケンブリッジ・アナリティカ、同社の問題、そしてビッグデータについて語る

データサイエンス企業ケンブリッジ・アナリティカがFacebookユーザー5000万人分のデータを入手したとの報道を受け、Facebookは過去4日間、批評家、株式市場、そして規制当局から厳しい批判にさらされてきました。水曜日までマーク・ザッカーバーグは沈黙を守っていました。しかし水曜日の午後、彼はFacebookの個人投稿でこの問題に触れ、今後導入する解決策のいくつかを示しました。

その後、彼はWIREDのインタビューに応じ、最近の危機、Facebookが犯した過ち、そして同社を規制するための様々なモデルについて語った。さらに、ロシアによる新たな脅威が降りかかる可能性についても言及した。以下はその会話の記録である。

ニコラス・トンプソン：あなたは2015年末にケンブリッジ・アナリティカの情報漏洩を知り、不正に流用されたFacebookデータを削除したという法的文書に署名させました。しかし、それから2年の間に、ケンブリッジ・アナリティカへの疑念や不信感を抱かせるような様々な報道がなされました。なぜ、Facebookデータの不正使用の有無を深く調査しなかったのですか？

マーク・ザッカーバーグ： 2015年、ガーディアン紙の記者からアレクサンドル・コーガン氏がケンブリッジ・アナリティカをはじめとする複数の関係者とデータを共有していた可能性があるという情報を得た際、私たちが直ちに取った行動は、コーガン氏のアプリを禁止し、コーガン氏と彼がデータを共有していた他の関係者全員に法的証明を求めることでした。私たちはそれらの証明を取得しました。ケンブリッジ・アナリティカは、実際にはFacebookの生のデータを一切受け取っていないと私たちに伝えていました。それはある種の派生データでしたが、彼らはそれを削除し、一切使用していなかったのです。

しかし、振り返ってみると、ここで指摘されていることは、私たちが犯した最大の過ちの一つだと思います。だからこそ、今私たちが取るべき最初の行動は、開発者から取得した認証だけに頼るのではなく、より厳格なプラットフォームポリシーが導入される以前に運用されていた、大量のデータにアクセスしていたすべてのアプリを徹底的に調査することです。疑わしい活動が見られるアプリについては、徹底的なフォレンジック監査を実施します。そして、これに同意しない開発者は、プラットフォームから排除します。つまり、簡潔に言えば、ケンブリッジ・アナリティカに対してはまさにこの措置を取るべきだったと思います。そして今、2014年にプラットフォームをロックダウンする以前から大量のデータにアクセスしていた、プラットフォーム上のすべての開発者に対して、この措置を講じるつもりです。

NT：わかりました。今週、Facebookが犯した最大のミスはこれだと思うという記事を書きました。

MZ:幸いなことに、このような事態を防ぐために必要な大きな対策は、3、4年前に講じました。しかし、5、6年前に講じていたなら、今頃はここにはいなかったでしょう。プラットフォームの初期段階では、データポータビリティによって様々な新しい体験が可能になるという、非常に理想的なビジョンを抱いていました。そして、コミュニティや世界から得たフィードバックは、プライバシーとデータの保護こそが、より多くのデータを容易に持ち込んで様々な体験をできるようにするよりも、人々にとってより重要であるというものでした。もし私たちがこの考えをもっと早く理解し、2014年に行った変更を、例えば2012年や2010年に実施していたら、多くの被害を回避できたのではないかと考えています。

NT：それは非常に興味深い哲学的変化ですね。というのも、この話で私が一番興味を引かれたのは、あらゆる物事には厳しいトレードオフがあるということです。2週間前のFacebookへの批判は、データに対してもっとオープンになるべきだというものでしたが、今では特定のデータは閉じられるべきだという方向に変わってきています。データを暗号化することはできますが、暗号化すればするほどデータの有用性は低下します。では、この72時間、この問題を掘り下げていく中で、あなたの頭の中で起こった他の哲学的変化について教えてください。

MZ:そうですね、それは大きな問題ですが、現時点ではかなり明確に決まっていると思います。今回のエピソードだけでなく、長年にわたり人々から寄せられてきたフィードバックは、友人のデータを使ったソーシャル体験をより簡単に他の場所に持ち込むことができることよりも、自分のデータへのアクセスが少ないことの方が重要だということです。これは哲学的な部分もあるかもしれませんが、実際には開発者がプラットフォーム上で何を構築できるか、そして実際的な価値交換が大きな要素となっているのかもしれません。私も同感です。私たちが直面している多くの問題の根底には、人々が大切にしている真の価値観の間のトレードオフがあると思います。フェイクニュースやヘイトスピーチといった問題を考えるとき、言論の自由と表現の自由、そして安全性と情報に通じたコミュニティを持つことの間のトレードオフがあります。これらは全て、私たちが最善を尽くして乗り越えようとしている困難な状況です。

NT:ということは、ここ数日のプロセスの中で、トレードオフについて話し合い、幅広い解決策を検討し、その中から本当に優れた、確固たる、異論の少ない4つか5つの解決策を選んだと考えてよろしいでしょうか？しかし、今後数週間のうちに、より複雑な一連の変更についてお話を伺うことになるのでしょうか？

MZ:長期的な視点で検討している点も確かにあります。しかし、これには多くのニュアンスがありますよね？プラットフォームには、データへのアクセスをさらに制限するために15件ほどの変更を加える予定です。すべてを列挙したわけではありません。なぜなら、多くの変更はニュアンスが複雑で説明が難しいからです。そこで、問題点を大まかに説明してみました。まず、今後は開発者がこの種のデータにアクセスできないようにする必要があります。幸いなことに、最も重要な変更は2014年にすでに行われていました。しかし、検討した結果、今行うのが理にかなっていると判断された点もいくつかあります。そしてもう一つは、他にケンブリッジ・アナリティカのような企業が存在しないことを確認したいということです。もし彼らが、例えば不正な法的認証を与えることで、私たちに責任を負わなかったとしたら、コミュニティに対する私たちの責任は、あなたがおっしゃるように、疑わしい行動の兆候を示す可能性のある様々な関係者からの情報に頼るよりも、はるかに大きいと考えています。ですから、私たちの責任は、すべてのアプリを徹底的に調査し、疑わしい点があれば、より詳細に調査し、徹底的な監査を行うことだと考えています。これらが最も重要な点だと思います。

NT：分かりました。ケンブリッジ・アナリティカについては毎日多くのことが分かっており、彼らの行動も明らかになりつつあります。Facebookのデータがロシアの工作員、インターネット・リサーチ・エージェンシー（IRA）、あるいはまだ発見されていない他のグループの手に渡っていないという確信はどの程度お持ちですか？

MZ：それは言えません。監査が終われば、より確実に分かるようになると思います。ちなみに、2015年の報告書では、コーガン氏がケンブリッジ・アナリティカなどとデータを共有していたとされていました。ケンブリッジ・アナリティカに証明を求めたところ、彼らはこう返答しました。「実は、Facebookの生のデータは受け取っていません。コーガン氏から性格スコアや派生データをいくつか受け取ったかもしれませんが、どのモデルにも役立たなかったので、既に削除済みで、何にも使っていません。」つまり、基本的に全てを完全に削除し、この件を終わらせるということです。

ですから、この件がどうなるのか、正直言って分かりません。先週受け取ったニューヨーク・タイムズ、ガーディアン、チャンネル4の報道は、ケンブリッジ・アナリティカが依然としてデータにアクセスできていたことを示唆していると思います。つまり、それらの報道は十分に信憑性があり、それに基づいて大規模な措置を講じる必要があると感じました。しかし、この監査が完了した後に何が明らかになるかについて、早急に結論を出すつもりはありません。もう一つ申し上げたいのは、英国の規制当局であるICO（情報コミッショナー事務局）に監査を一時的に停止し、政府の調査を委ねることです。刑事捜査になる可能性もありますが、少なくとも政府の調査です。ですから、まずは彼らに任せるつもりです。しかし、私たちは、このデータがどのように使用されたのかを確実に把握し、Facebookコミュニティのデータが流出していないことを完全に確認したいと考えています。

NT：しかし、おそらく第二段階の分析は可能でしょう。それは、インターネット・リサーチ・エージェンシー（IRA）から入手した既知の情報、コーガン氏が保有していたとされるファイルのデータ署名、そして監査済みデータではなく、ご自身のデータを通して、その情報がIRAに渡された可能性があるかどうかを確認することです。その調査は現在も進行中ですか？

MZ： IRAの広告支出とその利用については、確かに非常に詳細に調査してきました。コーガン氏のアプリが取得したデータには、いかなる透かしも入っていませんでした。もし彼がケンブリッジ・アナリティカに、性格スコアなどに基づいた派生データを渡していたとしても、私たちはそれを知ることも、見ることもできなかったでしょう。ですから、そのような分析を行うのは困難でしょう。しかし、IRAの活動については、継続的に調査を行っています。しかし、私たちがそこで行っていることの中でより重要なのは、政府が必要なコンテンツに確実にアクセスできるようにすることです。政府から令状が発行されており、私たちはこれらの捜査に可能な限り協力しています。少なくとも私の見解では、米国政府と特別検察官は、システム内の様々なシグナルについて、私たちよりもはるかに広範な情報を持っているはずです。例えば、送金など、私たちにはアクセスできず理解できない情報も含みます。ですから、おそらくそれが、そのような関連性を見出すための最善策だと思います。これまで社内で行った調査では関連性は見つかっていません。関連性がないという意味ではありませんが、特定できていません。

NT：議会の話ですが、あなたが自発的に証言に臨むのか、それともツイートではなくもっと正式な形で要請されるのか、多くの疑問が投げかけられています。議会に行く予定はありますか？

MZ:では、私たちの考え方をお話ししましょう。Facebookは様々なトピックについて定期的に議会で証言を行っていますが、そのほとんどは最近のロシア疑惑捜査ほど注目度の高いものではありません。私たちの考え方はこうです。「私たちの仕事は、政府と議会に、私たちが知っているあらゆる事柄について、できる限り多くの情報を提供することです。そうすることで、彼らは企業全体、情報機関全体にわたる全体像を把握し、それらをまとめ、必要な対応をすることができます。」です。ですから、もし私がFacebookで最も情報に精通し、証言に最適な立場にある人物だと判断されたら、喜んで証言します。しかし、これまで証言を行ってこなかったのは、社内には法令遵守など様々な業務を専任で担当している人材がおり、彼らの方が根本的にそれらの詳細に精通しているからです。ですから、人々ができるだけ多くの情報を得ようとしているような実質的な証言であれば、私が適任かどうかは分かりません。しかし、適任であれば喜んで証言します。

NT：分かりました。規制モデルについて考えると、実に様々な側面があります。例えば、広告の透明性を高める「正直広告法」のような、単純で限定的な規制もあります。一方、はるかに厳格なドイツモデルや、フランスが既に議論しているような規制もあります。あるいは、ソーシャルメディアを閉鎖したスリランカのような極端な例もあります。では、様々な規制モデルについて考える時、Facebook、そのユーザー、そして市民社会にとって何が良いのか、どのようにお考えですか？

MZ：そうですね、まさにその通りだと思います。問題は「規制すべきか、すべきでないか」ではなく、「どのように規制するか」ですから。そして、いくつかはもっと分かりやすいと思います。例えば、「誠実広告法」を例に挙げましょう。私が見た限りでは、そこに盛り込まれている内容のほとんどは良いものです。私たちはこれを支持しています。私たちは完全な広告透明性ツールを構築しています。この法案が必ずしも可決されるとは思えませんが、いずれにせよ大部分は実施するつもりです。インターネットサービスが多くの点で同じ基準を満たし、テレビや従来型メディアが広告で行ってきた以上のことを行えば、最終的には私たちのコミュニティとインターネットにとって良い結果になると考えているからです。それは理にかなっていると思います。

しかし、規制のあり方については、非常に微妙な問題がいくつかあり、知的に非常に興味深いと考えています。私が考えてきた最大の問題は、「企業はAIツールを使ってコンテンツを自主規制する責任をどの程度持つべきか」というものです。ここで少し立ち止まって考えてみましょう。2004年に寮の一室でサービスを開始した当時、サービス上のコンテンツの管理方法には2つの大きな違いがありました。基本的に、当時は人々がコンテンツを共有し、フラグを立て、私たちがそれを確認するというやり方でした。しかし、「誰かが不適切な投稿をした際に、それを事前に把握できるべきだ」と言う人は誰もいませんでした。当時はAI技術がはるかに未発達で、寮の一室には数人しかいなかったからです。ですから、この問題に対処できる完全な体制が整っていなかったことは、皆が理解していたと思います。しかし、それから15年近くが経ち、AIの問題はまだ解決されていませんが、多くのコンテンツを事前に特定できるレベルまで進歩しています。もちろん、すべてではありませんが。非常に微妙なヘイトスピーチやいじめなど、対応できるようになるまでにはまだまだ何年もかかるでしょう。しかし、ヌードやテロリストのコンテンツの多くは、多くの場合、事前に判断できます。同時に、私たちはセキュリティや様々なコミュニティ活動に1万5000人を雇用できるほど成功した企業です。そこで、非常に興味深い疑問があります。AIツールがますます進化するにつれ、今後5年から10年の間に、企業はますます、何が不快なコンテンツや規則に違反しているかを事前に判断できるようになるでしょう。では、それを行う企業の責任と法的責任はどうなるのでしょうか？これは、これをどのように規制するかをめぐる、おそらく最も興味深い知的かつ社会的議論の一つでしょう。米国の「Honest Ads」のようなモデルや、あなたが挙げた具体的なモデルのいずれかに似たものになるかどうかはわかりませんが、これを正しく行うことが、今後のインターネットとAIにとって重要な課題の一つになると思います。

NT：法律制定には何年もかかり、その後も何年も施行され、AIも2年後には今とは全く異なるものになっていることを考えると、政府は一体どのようにして正しい方向に近づけるのでしょうか？ 政府はガイドラインを設定するだけなのでしょうか？ それとも、ある程度の透明性を求めるのでしょうか？ このプロセスを支援するために、政府は何ができるのでしょうか？

MZ:まさに今おっしゃった両方だと思います。つまり、うまく機能するのは透明性だと思います。これは私たちがもっと改善する必要がある分野であり、現在も取り組んでおり、今年一年を通してコンテンツの透明性についていくつかの大きな発表をする予定です。具体的なプロセスを指示するよりも、ガイドラインの方がはるかに効果的だと思います。

食品安全に関する私の理解は、鶏肉は加工過程である程度の粉塵が混入する可能性があるということです。しかも、その量は多くはなく、ごく少量でなければなりません。何億人もの人々に食料を供給しようとする場合、あるいは私たちの場合のように20億人のコミュニティを築く場合、あらゆる問題を完全に解決することはできないという認識はある程度あると思います。しかし、非常に高い基準を維持する必要があり、私たちがヘイトスピーチをきちんと排除することを期待すべきだと考えます。そして、企業に適切な柔軟性を与えて、その実行方法を決めることが、おそらく正しい方法だと思います。「ああ、こういう順番でやらなきゃいけない」といったマイクロマネジメント、つまりあなたがおっしゃったドイツモデル、つまりヘイトスピーチにはこう対処しなければならないといった細かい管理をし始めると、ある意味では裏目に出てしまうと思います。なぜなら、現在、ドイツではヘイトスピーチに対し、ドイツ独自の方法で対処しているからです。そして、世界各国における私たちの対応能力は、もはやドイツ国内で対応できる範囲をはるかに超えています。しかし、ドイツ国内では依然として、義務付けられている方法で対応しています。ですから、ガイドラインはおそらくもっと良くなるでしょう。しかし、これは今後数年間、おそらく今日よりもずっと、興味深い議論になると思います。いずれにせよ、興味深い質問になるでしょう。

NT：最後の質問です。これまで多くの大きな変化がありました。有意義な交流は大きな変化でした。誤情​​報の拡散を発見し、阻止する方法も変化しました。そして今日、開発者との連携方法も変化しました。大きな変化ですね。多くのことが起こっています。Facebookの設立を振り返ってみて、もう少し違った選択をしていれば、このような状況に陥らずに済んだのに、と願うようなこと、あるいは方向性の選択はありますか？

MZ:分かりません。難しいですね。ある程度、コミュニティが、つまり私たちが多くの人々にサービスを提供していなければ、こうしたことの一部はそれほど重要ではなくなったでしょう。しかし、私はそのような変化を元に戻したいとは思いません。ご存知の通り、世界は急速に変化しています。社会規範も急速に変化し、ヘイトスピーチやフェイクニュースの定義も変化しています。これは数年前まではそれほど重要視されていませんでしたが、政府や様々な機関に対する人々の信頼と恐怖は急速に変化しています。世界中の20億人のコミュニティに、それぞれ異なる社会規範を持つサービスを構築しようとすると、価値観の難しいトレードオフに直面し、システムの変更や調整、そして多くの点でより良い対応を迫られることなく、この状況を乗り越えていくことはほぼ不可能だと思います。ですから、私はそれを恨んではいません。私たちには重大な責任があると考えています。これを真摯に受け止め、真摯に取り組むよう努めたいと思っています。ジャーナリストの方々から批判を受け、私たちがすべきことについて重要なことを教えていただき、感謝しています。なぜなら、私たちはこれを正しく進めなければならないからです。これは重要なことです。2004年に寮にこもっていては、すべてを事前に解決することはできません。これは本質的に反復的なプロセスです。ですから、私は「ああ、あの間違いを犯していなければよかった」とは考えません。もちろん、間違いを犯していなければよかったとは思いますが、間違いを避けることはできません。重要なのは、そこからどのように学び、改善し、今後どのようにコミュニティに貢献していくかということです。

論争に直面

• ケンブリッジ・アナリティカ論争について数日間沈黙していた後、マーク・ザッカーバーグはフェイスブックに投稿した。
• フェイスブックはケンブリッジ・アナリティカに関する暴露への対応に苦慮している。
• Facebook 社内での過去 2 年間の闘いについて、WIRED の記事をお読みください。