あなたが心配すべきなのはZaoアプリのプライバシー問題ではない

スマートフォンから、ここ数十年で大ヒットした映画の主役にシームレスに変身できるなんて、まるで未来のようです。中国の顔交換アプリ「Zao」が大ヒットしているのも不思議ではありません。

「かなりシンプルで直感的なインターフェースです」と、このアプリを試用した中国のテクノロジー専門家、マシュー・ブレナン氏は説明する。「動画クリップの中から選んでページをスクロールするだけです。ほとんどは中国映画ですが、西洋映画や『ゲーム・オブ・スローンズ』のような作品もいくつかあります。」

ユーザーは、自分を移植したいシーンやミームを選び、頭の動きも含めた顔の映像を録画し、アプリにアップロードします。「アップロードしたら、あとは超高速でクリップが生成されます」とブレナン氏は言います。「一番印象的だったのは、一枚の写真から動画が作られる速さです。」アプリは、既存のクリップでAIをトレーニングし、ユーザーの顔をその映像にマッピングすることで機能します。

このアプリは、金曜日にリリースされたにもかかわらず、中国のiOS App Storeで最も多くダウンロードされた無料アプリです。開発元のMomo社は、週末の急激な人気によりサーバーが限界まで逼迫したと述べています。人気チャットアプリWeChatでこのアプリへの言及が禁止されているという噂が飛び交っていますが、ブレナン氏によると、これは競合企業がこのアプリを脅威と見なしているか、ユーザーが同じようなコンテンツを投稿しすぎてフィードが退屈になっていることを示していることが多いとのことです。

しかし、このアプリの情報が中国のソーシャルメディアに広まるとほぼ同時に、アプリの利用規約や、既存のビデオクリップにユーザーの顔を不気味なほど正確にマッピングする機能について懸念が相次いだ。

この論争は、ロシアで開発されたFaceAppをめぐる懸念を彷彿とさせる。このアプリはユーザーの写真を老化させる機能を持っていたが、ロシアが私たちの顔を大量に収集するための隠れ蓑だったと非難されていた。（ネタバレ注意：実際にはそうではなかったが、利用規約は別の理由で問題となっていた。）

では、人々は何を懸念しているのでしょうか？一つには、テクノロジーが不気味の谷に到達しつつあるのではないかという懸念があります。ディープフェイクの登場時に人々が感じた不安は、テクノロジーが消費者の手に渡り（そして、これほど迅速かつ容易に使用できるようになった今）、より顕著になっています。一部の人々は、これは既成のビデオクリップからより自由な形式のディープフェイクへの移行としては小さな一歩だと考えています。しかし、ZaoのAIが生み出した驚異的な成果が、コアとなるクリップライブラリ以外の映像で再現できるという証拠はありません。

「特にこのアプリのプライバシーへの影響は、ユーザーが提供したコンテンツを挿入できるオリジナルのライブラリが限られているため、一見したほど重大ではありません」と、Protectureのプライバシーとデータ保護の専門家であるロウェナ・フィールディング氏は言う。

「しかし、ディープフェイク技術が消費者の領域に浸透することは、個人生活と政治生活の両方にとって大きな意味を持ちます」と彼女は付け加える。「この技術が有害な方法で利用されるのを検知し、防止するために、デジタル画像の法医学的分析への投資が必要になる可能性が高いでしょう。」

FaceAppがロシアのサーバーに顔画像をアップロードしているのではないかと懸念する声が上がったのと同様に、Zaoも同じことをしているのではないかと懸念する声も上がっている。しかし、フランスのセキュリティ研究者バティスト・ロベール氏によると、それは事実ではないという。

Zaoユーザーが7月にFaceAppユーザーと共通して懸念していたもう一つの点は、アプリの利用規約が広範囲に及ぶことです。この利用規約では、開発者に対し、アプリで作成されたあらゆる画像を無料で永久的に使用できる世界的な権利が付与されています。しかし、FaceAppと同様に、このような法律用語は昨今のアプリ利用においては当たり前のことです。

続きを読む: 速度、信頼性、プライバシーをテストした最高のVPNサービス

「多くのアプリやウェブサイトではすでに同様の利用規約が設けられており、ユーザー生成コンテンツはサービスを提供する企業の知的財産となります」とフィールディング氏は述べる。「肖像の無制限な商業的再利用によって個人が被る損害の可能性は、状況によって大きく異なりますが、公平性を保つためには、利用規約を一般の人々がアクセスしやすく理解しやすいものにする必要があることは明らかです。」

FaceAppとの類似性は、ロバート氏が懸念している点です。「懸念事項は全く同じです」と彼は言います。「私たちには、とてもクールなものを作るアプリがありますが、ユーザーが自分の顔をアプリにアップロードすると、写真に対する権利を直接失ってしまいます。Zaoはユーザーの顔写真で何でもできるのです。」

Zaoに対する最大の批判は、それが中国政府のツールとして利用される可能性があるという点だ。ユーザーを騙して鮮明な顔写真を提供させることが可能になる。中国政府が国内に住むウイグル族のイスラム教徒を標的に、大規模なiPhoneハッキングを仕掛ける可能性があるという最近の報道を考えると、これは懸念すべき事態だ。

しかし、中国のテクノロジー・エコシステムにおける3つの重要な要素が見落とされています。1つ目は、国民が電車の切符などの支払いや飛行機へのスムーズな搭乗のために、既に政府に顔認証を進んで提供していることです。2つ目は、Momoが既に確立された企業であることです。「WeChatとほぼ同時期、中国でモバイル革命が始まった頃に設立されました」とブレナン氏は言います。Momoは、どこからともなく現れて素晴らしいサービスを生み出した、一夜限りのアプリ開発会社ではありません。

これが、Zaoが国民の顔の特徴を収集しようとする中国の陰謀ではないという最終的な理由につながる。「データを入手するにはもっと簡単な方法があります」とブレナンは言う。「Weiboからデータを取得することも可能でしょう。それに、ほとんどのアプリと同様に、あれだけ努力して構築しても、それがバイラルになる保証はありません。データ収集が目的だというのは、私には全く理解できません。」

この記事はWIRED UKで最初に公開されました。