西側諸国が中国の社会信用システムを誤解した理由

2018年10月、マイク・ペンス副大統領はワシントンD.C.の保守系シンクタンク、ハドソン研究所を訪れ、米国と中国の関係について幅広い演説を行った。光沢のある青いネクタイを締め、硬直した様子で立つペンス氏は、まず中国共産党が米国の政治に干渉し、中国企業に「あらゆる手段」を使って米国の知的財産を盗むよう指示していると非難した。その後、ペンス氏は中国の人権侵害に目を向け、宗教的少数派への迫害ではなく、奇妙な政府主導の取り組みである社会信用プロジェクトに着目した。「2020年までに、中国の支配者たちは、人間の生活の事実上あらゆる側面を支配することを前提とした、オーウェル風のシステム、いわゆる『社会信用スコア』を導入することを目指しています」とペンス氏は述べた。「このプログラムの公式計画には、『信頼できる者は天下のあらゆる場所を自由に行き来できる一方で、信用を失った者は一歩も踏み出せない』と記されています」

副大統領の発言は、ここ数年、西側諸国のメディア数十社が報じてきた一連の報道と呼応するものだ。これらの報道は、中国の社会信用システムをまるで映画『ブラック・ミラー』から飛び出してきたようなディストピア的な悪夢として描いている。記事や番組では、中国中央政府が未来的なアルゴリズムを用いて、人々のソーシャルメディアでのつながり、購入履歴、位置情報などを集約し、人々の権利と自由を規定する単一のスコアにまとめていると頻繁に報じられている。政府は、顔認識機能を備えた数億台の監視カメラの映像をリアルタイムで分析し、横断歩道を渡らない、ビデオゲームのやりすぎといった不正行為に対して減点することができるとされている。

しかし、少なくとも今のところ、中国ではすべての個人に割り当てられた単一の万能のスコアは存在しない。ペンス氏が言及した「公式の青写真」とは、中国の最高行政機関が5年前に発表した計画文書である。この計画文書は、一般市民、企業、政府職員の信頼性を追跡するための全国的な制度の確立を求めている。中国政府と国営メディアは、このプロジェクトは国民の信頼を高め、汚職や企業詐欺などの問題と闘うことを目的としていると述べている。西側諸国の批評家は、社会信用システムを反体制派を処罰し、人々のプライバシーを侵害するための侵入的な監視装置と見なすことが多い。

社会信用制度を規定する法律と規制の制定という、政府が自らに課した期限まであと1年余りとなった今、中国の法研究者たちは、この制度は欧米の人々が想像するような最先端のビッグブラザー体制とはかけ離れていると指摘する。「中国の社会信用制度について知っているアメリカ人の割合は、中国人が知っている割合よりもはるかに高いと思います」と、北京にあるイェール大学ロースクール、ポール・ツァイ中国センターの上級研究員、ジェレミー・ダウム氏は言う。現状の制度は、地域的なパイロットや実験的なプロジェクトの寄せ集めであり、全国規模で導入できる可能性はほとんど示唆されていない。

だからといって、社会信用に関する懸念が全く根拠がないわけではない。中国政府は既に、国民を恐ろしい方法で統制するために新たな技術を活用している。インターネットは厳重に検閲されており、各人の携帯電話番号とオンライン活動には、実名に紐付けられた固有のID番号が割り当てられている。顔認識技術も中国でますます普及しており、国民の追跡や監視に利用される方法についてはほとんど規制がない。最も憂慮すべき虐待行為は、中国西部の新疆ウイグル自治区で行われている。人権団体やジャーナリストによると、中国政府はイスラム教徒の少数民族であるウイグル族数百万人を、ほぼ前例のない規模で拘束し、監視しているという。

しかし、中国の社会信用システムに何が起こるかという西側諸国の懸念は、ある意味では、すでに実際に起こっていることに関する議論を凌駕している。批判は往々にして遠い将来の最悪のシナリオに基づいており、現状のシステムの問題点を矮小化する危険性をはらんでいる。また、誇張された描写は、世界の他の地域における監視活動を軽視する一因にもなりかねない。「中国はしばしばスペクトルの一方の極端として取り上げられるため、議論全体のゴールポストがずれてしまうと思います」とダウム氏は言う。「そのため、私たちが想像する社会信用システムよりも侵襲性が低いものなら、少なくとも中国ほど悪くはないため、ある程度受け入れられるように見えるのです。」

誤解がどのように形成されたか

西側諸国による最も初期の報道の一つは、意外な情報源から発信されたものだった。それは、中国では活動していないアメリカ自由人権協会（ACLU）だ。ジェイ・スタンリーは、ACLUの言論・プライバシー・テクノロジー・プロジェクトの政策アナリストとして、市民の自由に対する新たな脅威についてブログを書いている。2015年10月5日、彼は「中国の悪夢のような市民スコアはアメリカ人への警告」と題した記事を投稿した。この記事は、初期の報道の波の多くを象徴するもので、その多くは現地での取材ではなく、伝言ゲームのように広まった間接的な情報に基づいていた。スタンリーの投稿は、主にPrivacy News Onlineの同様の記事を出典としており、その記事自体もスウェーデンのウェブサイトの記事に基づいていた。

スタンリー氏は今日、中国の社会信用システムを米国への教訓として強調したかったと述べている。「これはまさに、暗い未来への道を示しているように思えた」と彼は言う。「率直に言って、米国で起こっていることとの兆候や類似点が数多くあった」とスタンリー氏は語る。デジタルプロファイリングなどだ。ACLUの投稿は、中国の初期のシステムを西側諸国のプライバシーと監視問題への注目を集める手段として利用した唯一のメディアではなかった。「周りを見回せば見るほど、アメリカの社会信用システムが私たちの周りに出現しつつあるように見える。そして、それは中国のものとそれほど変わらないように見える」と、The Vergeのライター、ケイシー・ニュートン氏は先月、自身の人気ニュースレターに記した。「中国のディストピア的テクノロジーは伝染する可能性がある」と、The Atlanticも昨年同様に警告した。

多くのジャーナリストや学者が事実を正そうと試みているものの、中国の社会信用スコアに関するSF的な神話は欧米で根強く残っている。「このことについて書かれたものには間違ったことがあまりにも多く、まるで一人歩きしているようです」と、カリフォルニア大学バークレー校で中国の社会信用システムを研究している博士課程の学生、シャゼダ・アーメド氏は言う。「2014年や2015年に書かれた記事を今でも目にしますが、私は大部分が誤りだと考えていました。」

しかし、混乱は当然のことです。まず、言語の壁があります。ダウム氏によると、「社会信用」という語句は、英語と中国語では意味合いが異なります。英語話者にとって、この二つの単語を組み合わせると、人間関係への言及を示唆するかもしれません。しかし、中国語では「公益」のような語句とより密接に結びついています。さらに、難解な法律文書を解読するという言語的なハードルも存在します。「言語は本当に大きな障壁だと思います」とダウム氏は言います。「法律用語、政治用語、そして中国語と英語の違いです。」

2014年に発表された社会信用制度の当初の計画も曖昧で包括的であり、最終的にどのような内容になるのかは完全には明らかではありませんでした。「中央政府と地方政府の両方において、政府の各部署がそれぞれ独自のアプローチで実施を試みることを期待していました」と、中国海洋大学法学院の教授兼副学部長で社会信用制度を研究する鑫戴（シン・ダイ）氏は言います。「様々な人々が様々な種類のプログラムをまとめようと試みる、非常に大規模でありながら混沌とした状況が生まれています。」

例えば、政府は初期の取り組みにおいて企業と提携しており、アント・ファイナンシャルの芝麻信用プログラムのように、民間テクノロジー企業が算出する「信用スコア」もその一つです。2015年、中国政府は巨大企業アリババの関連会社であるアント・ファイナンシャルを含む8つのテクノロジー企業に対し、個人向け信用情報システムの開発実験を許可しました。芝麻信用は、金融データに加えて、ソーシャルメディアのつながりや購買習慣なども考慮に入れており、この製品機能はWIREDの特集記事など、欧米で大きな注目を集めました。

2017年までに、中国政府は利益相反の可能性を懸念し、これらのパイロット事業はいずれも正式な信用情報報告手段として認可されないことを決定しました。しかし当初は、中国国内においてさえ、これらのプログラムが政府の取り組みとどれほど密接に結びつくのかは不明でした。「中国国民の中には、違いがあることをきちんと理解していなかった人もいたと思いますし、もしかしたら今もいるかもしれません」とアハメド氏は言います。「当初、セサミクレジットは社会信用システム全体に貢献すると宣伝していたからです。」

現在、セサミクレジットをはじめとする類似の取り組みは、実質的にロイヤルティ特典プログラムのような機能を果たしています。高スコアを獲得した参加者は、デポジットなしで自転車をレンタルしたり、医療費の支払いを延期したりするなどの特典を得られますが、スコアは法制度の一部ではなく、参加義務もありません。

西側諸国で最も注目を集めている国営プロジェクトは、地方自治体での実証実験です。中国の数十の都市が独自の社会信用システムの実験を行っており、中には個人に数値ランキングを与えるプログラムを設計している都市もあります。これらの取り組みは、大規模な監視や高度な人工知能に頼るものではなく、多くの市民は存在すら知らないかもしれません。これらの取り組みは多岐にわたるため、全てを一般化することは困難です。例えば、ブロックチェーン技術を取り入れているものもあります。今のところ、これらの取り組みが国家レベルで導入されるかどうか、あるいは導入されるかどうかさえ、いつになるのかは明らかではありません。

北京から約500マイル離れた栄成市は、住民一人ひとりに社会信用スコアを付与している都市の一つだ。ダウムが翻訳したこのプロジェクトの概要を示す政策文書によると、その範囲は比較的限定的だ。システムでポイントを失うには、既存の法律、規制、または締結した契約に違反する必要がある。つまり、「優れた信用力」を維持するには、既存のルールに従う必要がある。高いスコアを維持することによる特典も、無料の健康診断や無利子ローンの申請資格など、かなり控えめだ。「この導入がいかに断片化されているかを見ると、各自治体が全く同じリソースを持っているわけではないことがわかります」とアハメドは言う。「小規模な都市の中には、かなり面白みのない給付金しか支給できないところもあります。」

ブラックリストとレッドリスト

社会信用システムの主要な仕組みは、全国規模のブラックリストとレッドリストです。各規制当局は、既存の業界規制に違反した最悪の違反者、つまり企業や個人の犯罪歴を記録・整理するよう求められました。レッドリストはまさにその逆で、特に法令遵守に努めた企業や個人の名簿です。これらの記録は、「チャイナクレジット」と呼ばれる一元化されたウェブサイトで公開され、誰でも検索できます。ベタービジネスビューローや、レストランに与えられる等級を思い浮かべてみてください。

多くの規制当局は相互に覚書を締結し、互いのブラックリストに載っている個人や企業を罰することを約束している。仮にこの制度が米国に導入されたとしたら、食品医薬品局（FDA）の規則に違反した企業は、環境保護庁（EPA）から追加の罰則を受ける可能性がある。少なくとも現時点では、市民のソーシャルメディアや購買データが組み込まれているという証拠はない。「当局はこれらの記録を他の機関に伝達するようにしている」とダウム氏は言う。「どういうわけか、あなたの行動はすべてパノプティコンで常に監視されていると解釈されているようだが、私はそのようなことは見たことがない」

中国の法学者たちは、特にこれらのデータベースの一つについて懸念を抱いている。最高人民法院は、罰金を支払わないなど裁判所の判決に従わなかったと政府が主張する人物のブラックリストを保有している。また、不当な扱いを受けた相手に正式な謝罪をしなかった人物もブラックリストに載っている。ブラックリストに載ると、厳しい罰則が科せられる。高速鉄道の切符を購入したり、飛行機に乗ったり、子供を私立学校に通わせることができなくなる可能性がある。政府の報告によると、3月時点で1,300万人以上がブラックリストに載っており、政府は2,000万枚以上の航空券の購入を禁止している。

台湾出身の人権弁護士で、中央研究院人権高等弁務官研究所の博士研究員である陳宇潔氏は、判決不履行者ブラックリストは、既に法律違反の結果をほぼ受けている人々に「不均衡で恣意的、かつ広範囲にわたる重層的な罰」を課していると指摘する。陳氏はまた、親の行動によって特定の学校への通学を禁じられた子供など、何の罪も犯していない人々にもこのリストが罰則を課していることを懸念している。誤ってリストに載ってしまった場合、あるいは裁判所命令の義務を果たした場合でも、市民が効果的にリストから外れるかどうかは明らかではない。

これらの処罰を執行するため、アハメド氏は、政府がテクノロジープラットフォームとブラックリストを共有していると記している。これにより、ブラックリストに登録されている人々は、オンラインで航空券を予約したり、鉄道の切符を購入したりすることができなくなる。地方自治体はまた、ソーシャルメディア企業に対し、公衆による非難活動の調整に協力するよう求めている。南部の都市南寧では、ソーシャルメディアアプリ「抖音」（TikTokの中国版）が地元の裁判所と提携し、ブラックリストに載った人々の写真を、まるでデジタルマグショットのように動画の合間に流した。北部の都市石家荘では、ブラックリストに載った人々や団体が、メッセージアプリ「微信（WeChat）」内の地図上に表示される。これらの機能はまだ普及していないが、特に人々が不当にブラックリストに追加され、その情報が知り合い全員に拡散される場合、プライバシーに関する懸念が生じている。

社会信用の未来

2020年の期限が迫る中、中国の社会信用システムはまだ開発段階にあります。しかし、近いうちにより多くのデータ収集手段が取り入れられる可能性を示唆する兆候もいくつか見られます。例えば、陳氏によると、中国信用のウェブサイトでは、必須ではないものの、既に顔認証によるログインが推奨されています。「政府が人々に顔認証の利用を促すことができれば、顔認証の要素も取り入れられるでしょう」と陳氏は説明します。

ダイ氏によると、一方で中国の学者たちは、このプロジェクトがもたらす潜在的なプライバシーやその他のリスクについて議論し始めているという。彼らの影響の一つは、社会信用システムが欧米で非常に大きな注目を集めていることだが、実際には正確に描写されていないことも多い。「このシステムは非常に大規模で、場所によって状況が異なります」とダイ氏は言う。「全体像を見ずに、誤解したり、一部だけを捉えたりしてしまうことになりやすいのです。」

この記事は、BBC、WGBH、PRI、PRXが共同で制作した、世界の問題、ニュース、洞察を扱う受賞歴のある公共ラジオ番組およびポッドキャスト「The World」との共同制作です。The Worldのリディア・エマヌイリドゥが共同リポートしました。中国の社会信用スコアに関するThe Worldの音声番組は、こちらでお聴きいただけます。

2019年10月25日午後12時7分（東部標準時）更新：この記事では当初、南寧市がソーシャルメディアアプリ「TikTok」と提携したと報じていました。その後、提携先はTikTokの中国版であるDouyin（抖音）であると更新されました。TikTokはDouyinを別の組織だと説明しています。両社は親会社がBytedanceです。

WIREDのその他の素晴らしい記事

• ドラマチックな展開：大麻バイオテクノロジー企業が小規模栽培業者を混乱に陥れる
• 科学がまだ解明していない月の謎
• スーパーオートマチックエスプレッソマシンは価値があるのでしょうか?
• 最高のアルゴリズムでも黒人の顔を同じように認識するわけではない
• ハッカーたちは、主張を証明するために殺人アプリを作った
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください。
• 📩 毎週配信されるBackchannelニュースレターで、さらに多くの内部情報を入手しましょう