偽ニュースを作る人々の偽写真に関する実話

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

9月1日、写真界のエリートたちがフランスのペルピニャンに集結し、毎年恒例のフォトジャーナリズム・フェスティバル「Visa Pour L'Image」に参加した。その夜、屋外スクリーンには、ソビエト時代のアパートでノートパソコンを使う人々や、荒廃した工業地帯を歩くクマの姿が映し出された。これらは、受賞歴のあるドキュメンタリー写真家、ヨナス・ベンディクセンの著書『The Book of Veles』からの抜粋だった。ベンディクセンは、2016年の米国大統領選でフェイクニュース産業が活発に活動していた北マケドニアを訪れた。同僚たちが彼の作品に見入る中、ベンディクセンは観客席から、次第に不快感を募らせながら見守っていた。

2週間後、クロエ・ミスキンという名のTwitterアカウントが、ベンディクセン氏を詐欺だと非難するツイートをタグ付けした。彼女はベレス出身だと主張し、ベンディクセン氏が地元住民に50ドルを支払って写真撮影を依頼したため、「このプロジェクト全体が冗談だ」と断言した。1時間後、写真業界を頻繁に批判する英国の映画監督ベンジャミン・チェスタートン氏が、この疑惑をリツイートした。

その後、チェスタートンはミスキンのTwitterフォロワーの一人が、『ヴェレスの書』に登場する軽食スタンドの前にいる女性と同じ、風変わりなピンクのセーターを着ていることに気づいた。それが彼の疑念をさらに強めた。「ジョナスは今にも、画像に写っている人物はフェイクニュースに対する『巧妙な』『解釈』としてコンピューターで生成されたものだと暴露するだろう」とチェスタートンはツイートした。ベンディクセンは安堵の念をこめてその言葉を読み上げた。

実際、ベンディクセンは写真に写っている人物をソフトウェアで作成していた。翌日、権威ある写真出版社マグナム・フォトはインタビュー記事を掲載し、ベンディクセンはヴェレス島を実際に旅したにもかかわらず、写真に写っている人物やクマはすべて、ビデオゲームで使われるような3Dモデルを使ってデジタル的に偽造したものだと明かした。また、旅の様子を描いた本の序文も人工知能ソフトウェアで生成されたと明かした。ミスキンもまた偽物で、ベンディクセンが自らの露出を促すために作ったものだった。

彼は、写真界における欺瞞技術の増大する力について議論を巻き起こすために、この奇策に着手した。写真界のエリート層を騙す彼の能力は、画像や情報を操作するためのツールがより広く入手可能になるにつれ、問題を引き起こす前兆となる。「地球上で最も視覚的に洗練された人々がこれに騙されたというのは恐ろしいことです」とベンディクセンはWIREDに語った。「視覚的にそれほど精通していない人々を騙すための閾値はどこにあるのでしょうか？」

ベンディクセンは、写真詐欺師とは思えない人物だ。2006年に出版された画期的な著書『Satellites（衛星）』は、崩壊しつつある旧ソ連諸国を長年調査し、記録したものである。その後、国際的な賞を受賞し、マグナム・ピクチャーズの会員となり、一時期は会長も務めた。2018年、ユーゴスラビア崩壊後の北マケドニア共和国、ヴェレスにあるフェイクニュースの拠点について調べ始め、次第に深みにはまっていくことになった。

ベンディクセン氏は多くの人々と同様に、2016年の選挙がデジタル時代の事実に関する不都合な真実を明らかにしたと感じていた。かつて彼が撮影した都市と同様に共産主義都市であったヴェレスを訪れることで、フェイクニュースに対する彼自身の視点を提示する機会が得られるかもしれない。オンラインで検索してみると、この都市には概念的な装飾を加えることができるような関連性があることがわかった。スラヴの策略の神ヴェレスは、「ヴェレスの書」と呼ばれる考古学文書に登場するが、これは現在では20世紀の贋作と考えられている。

ヴェレス市もまた、課題を抱えていた。フェイクニュース産業はテック企業の粛清によって壊滅状態にあり、写真を撮る相手を見つけるのが困難だった。そこでベンディクセンは、合成画像の進歩について読んだことがあれば、フェイクニュースの作り手を巧みに操り、仲間を騙せるのではないかと考えた。「答えが何なのか分からず怖かったので、『試してみなければ』と思ったんです」と彼は言う。

ベンディクセンが2019年と2020年にヴェレスを訪れた際、プロジェクトへの不安は奇妙な解放感で和らげられた。「普段ならほとんどの時間を人と会うことに費やすでしょう」と彼は言う。「今回はずっと楽でした。誰にも会うつもりがなかったからです」。荒れ果てた通りや工場を巡りながら、彼は自分自身を追い求め、どのような典型的な作品のイメージが人々の期待に応えるのかを想像しようと努めた。撮影場所ごとに、ポケットサイズの360度カメラで光の加減も捉え、後で偽の人物を使ってその光を再現できるようにした。

新型コロナウイルスによるロックダウンがヨーロッパを襲う中、ベンディクセンはノルウェーの自宅スタジオにこもり、創作活動を始めた。ビデオゲームや映画の制作でよく使われる3Dモデルをダウンロードし、架空の人物、動物、物体をキャストに集めた。それぞれのシーンに合わせてキャラクターのポーズを注意深く決め、ロケ地で捉えた照明を再現した。

初期の画像を同僚の写真家や写真編集者に見せたところ、「誰も気づかなかった」とベンディクセン氏は語る。彼の手法は、機械学習で生成されるディープフェイク画像よりも、従来の写真加工やハリウッドの特殊効果に近いものだった。ディープフェイク画像は、新たな詐欺の波を懸念させるものだった。

ベンディクセンは自信を深めるにつれ、自身の作品やドキュメンタリー写真全般の比喩を巧みに取り入れたシーンを作り上げていった。ソ連時代のどっしりとした建物の中に、時代遅れのコンピューター機器が散乱する中で、フェイクニュースを作る青白い女性とがっしりとした体格の男性が隠れている。別の場所では、山高帽をかぶり銃を持った警備員が有刺鉄線の向こうに立ち、薄暗く赤みがかった路地裏で女性が車の窓から身を乗り出している。彼はまた、多くの手がかりを残そうとした。「パンくずをたくさん残しました。何かがおかしいというヒントです」と彼は言う。手がかりになりそうなものの一つは、人口4万3000人のヴェレスを覆い尽くしたように見えるクマが、工業地帯やノルウェー大使館の看板の前をぶらぶら歩いている姿だ。クマは、いたずら好きの神ヴェレスが好んでいた姿だ。

ベンディクセンは本書の序文で、別の形の偽造に着手した。ニューヨーク・タイムズ、BBC、WIREDなどの出版物からヴェレスに関する報道を収集し、それを用いてGPT-2と呼ばれるオープンソースのテキスト生成ソフトウェアを調整した。様々なプロンプトを試すことで、ヴェレスでのフェイクニュース制作者との会合、地元住民の発言、そして当然のことながらクマとの遭遇を捏造した断片を生成した。彼はこれらを人間の手と機械の手によって作られたパッチワークのように組み立てたが、ベンディクセンは「そのテキストは一言も書いていません」と述べている。

ベンディクセンの『ヴェレスの書』は5月に出版され、あの非現実的なエッセイで幕を開ける。50枚以上の合成画像に加え、コンピューターで生成された引用や、偽造された『ヴェレスの書』に関する学術的分析の転載が散りばめられている。この作品の真の性質――虚偽――を知ったのは、マグナム社とベンディクセンの出版社ゴスト社のほんの一握りの人間だけだった。両社とも、従来通りの告知で本書を宣伝した。

カメラメーカー、ライカ傘下の光沢紙LFI誌は、8月/9月号でこの本に1ページを割き、数枚の写真を掲載し、「知的で面白い」と評する一方で、「デジタル偽情報の有害な潜在性についての不快な教訓」でもあると評した。7月のプロモーションでは、マグナム社は、殺風景なアパートの窓に男性のシルエットが映る中、一群の鳥が通り過ぎる写真を100ドルで販売した。

ベンディクセンは普段、新しいプロジェクトの写真をまとめて大手新聞や雑誌に掲載していた。今回は、一般大衆ではなく写真業界に狙いを絞りたかったため、問い合わせのあった編集者を断った。しかし、彼は写真集を宣伝し、ソーシャルメディアに写真を投稿した。すぐに誰かが「リアルじゃない」と批判したり、北マケドニアの街をクマが徘徊している理由を疑問視したりするだろうと予想していたのだ。「その代わりに、集まったのはただただ親指を立てて拍手喝采だった」と彼は言い、機械で生成された冒頭のエッセイの報道を称賛するメッセージさえ届いた。「その時、私たちは皆、危機に瀕していると悟った」とベンディクセンは言う。「これがどれだけ長く続くのか、どれほど深刻になるのか、全く分からなかった」。彼は自らの破滅を企み始めた。

ベンディクセンは、写真界で最も権威のある舞台の一つ、毎年夏にペルピニャンで開催される「ビザ・プール・リマージュ」という国際写真フェスティバルで、自らを妨害しようと企んだ。2021年初頭に写真集を応募したところ、自身の写真を使った短編動画でステージ上で紹介されることになり、驚いたという。このイベントに向けて、彼はフランス行きの航空券を購入し、クロエ・ミスキンという名前で、事前に加工された偽のFacebookアカウントに約40ドルを支払った。

ミスキンのアカウントには、プロフィール写真がAIによって生成されたという、裏付けの難しい約束が付いていた。ベンディクセンは数週間かけて、彼女のアカウントを北マケドニア出身の熱心なフリーランス写真家に見せかけた。彼は写真業界の何百人もの人々に友達リクエストを送り、美術館の学芸員や雑誌の写真家など、多くの人が返信した。

ペルピニャンに到着したベンディクセンは、自分の二面性が重くのしかかるのを感じた。「吐き気がしましたが、上映会が実際に行われたことを記録に残さなければならないと感じました」と彼は言う。彼は人脈作りの喧騒を避け、一人で食事をし、ホテルの部屋にこもって知り合いに会うのを避けた。上映会当日の夜、彼は早めに会場に到着し、観客席の高い位置の席に陣取り、フェイスマスクで身を隠そうとした。ヴェレスのビデオが流れると、すぐに彼が撮影した熊の映像が次々と画面に浮かび上がった。「心臓がドキッとしました」とベンディクセンは言う。「熊が一番弱いと思ったんです」

ベンディクセンは翌日、ノルウェーの自宅に戻り、数日後に映画祭のメインプログラムが終了する前に真実が明らかになるよう自ら攻撃を開始した。彼はミスキンのFacebookアカウントにログインし、被写体に金銭を支払って偽のポーズを取らせたと自ら非難する投稿を投稿し、「彼のプロジェクトこそが真のフェイクニュースだ！！」と宣言した。

ベンディクセン氏にとって残念なことに、この投稿はあまり注目を集めなかった。彼はこの疑惑をプライベートな写真Facebookグループに再投稿し、議論を巻き起こした。参加者はミスキン氏の主張を概ね受け入れたものの、被写体に金銭を支払うことには大して異論はないとした。焼身自殺の計画が頓挫する中、ベンディクセン氏はミスキン氏のTwitterアカウント構築に何日も必死だった。そしてついに、このプロジェクトを批判したイギリス人映画監督、チェスタートンの鋭い目を引きつけた。「肩の荷が下りたような気分でした」とベンディクセン氏は語る。

彼はマグナムのCEO、ケイトリン・ヒューズに電話をかけた。彼女もエージェンシーのほぼ全員と同様に、何も知らされていなかった。夫と夜遊びに出かけ、霧雨の降るロンドンの路上に立っていた彼女は、会社が贋作の書籍を出版し、プリントを販売していたことを知った。「彼が何か秘密裏に何かに取り組んでいることは知っていましたが、こんなことになるとは思いもしませんでした」と彼女は言う。「ドキュメンタリー写真の天地を揺るがす事態です」。翌日、マグナムはベンディクセンが真実を明かしたインタビューを掲載し、写真界全体に警鐘を鳴らした。

長年、Visa Pour L'Imageのディレクターを務めてきたジャン＝フランソワ・ルロワ氏は、ベンディクセン氏からインタビューへのリンクがメールで送られてきたことで、自らが率いる名門映画祭がパンク行為に及んでいたことを知った。この事実は、ルロワ氏に苦い思いを残した。「ジョナス氏とは長年知り合いで、信頼していました」とルロワ氏は言い、「罠にかかった」と語る。映画祭は写真家に未加工の未編集画像を見せるよう求めることがあるが、過去に作品が取り上げられたベンディクセン氏には求めなかった。「ジョナス氏は私に偽物だと言ってくれるべきだったと思います」とルロワ氏は語り、映画祭がこの行為とその影響について公表し、議論することを大々的に宣伝することにした。

ベンディクセンのプロジェクトに心を動かされた人たちの中には、もっと温かい気持ちを抱いている人もいる。ニューヨーク州バッファロー在住のアーティスト兼グラフィックデザイナー、ジュリアン・モンタギューは、ベンディクセンがFacebookでマグナムのインタビューへのリンクを投稿しているのを見て、興味深く読んだ。彼は今年初め、フェイクニュース産業という概念と旧東側諸国の美学に興味を持ち、その本を購入した。ベンディクセンの写真は、粗く、雰囲気のある照明で撮影されており、作為的なものではなく、芸術的なものとして彼には感じられた。しかし今、それらは違った感覚に陥っている。騙されたという気持ちではなく、むしろ彼の体験を豊かにしてくれるのだ。「そうした知識を持って写真を見直すのは興味深い」と彼は言う。「実験であり、芸術作品でもあることを高く評価していますし、恐ろしい未来を予感させるという彼の意見にも同意します。」

ベンディクセン氏の発表のきっかけを作ったチェスタートンは、このプロジェクトを「素晴らしい」と評するが、その理由は異なる。彼は、このプロジェクトの最大の価値を、合成画像の力の増大を示す指標ではなく、写真業界の弱点に光を当てることにあると考えている。

チェスタートンは、ツイートや会社のブログで、ドキュメンタリー写真における不正行為や倫理に疑問のある事例を頻繁に取り上げている。「業界はそれをCGIやコンピューターのせいにして、議論を巻き起こすんです」と彼は言う。「フォトジャーナリズムでは、不正をしようと思えばできるし、チェック・アンド・バランスがないから止められない、という事実を彼らは取り上げようとしないんです」

ベンディクセン氏は、安堵とともに以前のような真実を語る活動に戻ると述べ、議論を巻き起こしたいと願っている。「自分が怖かったように、多くの人を怖がらせてしまったと思います」と彼は言う。「これがちょっとしたショック療法になって、この問題について話し合うきっかけになればいいなと思っています」と彼は言う。

マグナム社は、書籍やプリントを購入した人々に連絡を取り、支払った金額に見合うものが得られなかったことを伝えるかどうか、またどのように連絡を取るかを検討中だ。同社は現在も『The Book of Veles』を販売しているが、プロジェクトの真実を明らかにするための情報更新は行っていない。ゴスト社の情報も更新されていないが、このスタントに関する記事へのリンクをさりげなく掲載している。LFIの広報担当者によると、同誌の編集者は、6月に同書について掲載した記事が真実を語っていなかったことをどのように開示するかについて協議中だという。

ベンディクセン氏も全てを明かそうとはしない。人物はすべて偽物だが、動物や車、その他の物も偽物だと彼は言う。「どの写真にも怪しいところがある、としか言えません」と彼は言う。「写真探しの楽しみを奪いたくないんです」

WIREDのその他の素晴らしい記事