ACLUはディープフェイクを作成する憲法上の権利のために闘う

選挙当日、目覚めて携帯電話のロックを解除すると、州議事堂の揺れる動画が画面に映し出されます。慌ただしい映像の中で、州議事堂から煙がもくもくと立ち上る様子が映し出されています。隣に投稿された他の動画では、遠くで銃声が鳴り響いています。 「今日は投票所に行かない方がいいかも」と心の中で思います。しかし、後になって、その動画がAIによって偽造されたものだったことを知るのです。

友人から取り乱した様子で電話がかかってきた。匿名の知人が彼女をポルノディープフェイク動画に仕込んだらしく、その動画がサイトからサイトへと拡散している。警察は弁護士に相談するように言ったが、差し止め命令は効力がない。

あなたは有名俳優です。大手テクノロジー企業が、最新のAIアシスタントの声優にあなたを抜擢しました。あなたは断りました。数ヶ月後、そのチャットボットがリリースされ、まるであなたにそっくりだと評判になりました。あなたはそのような模倣に同意したことはありません。そして今、誰かがあなたの声で収益を得ているのです。

生成AIによる偽造がインターネットを席巻するにつれ、スカーレット・ヨハンソンだけでなく、誰もが近いうちにこのような体験談を語れるようになるかもしれない。全米の議員たちは最近、あらゆる形態のAIによる模倣を規制するための法律を10件近く可決し、さらに数十件の法案を提出した。しかし、この法的運動は今、意外なところから批判を浴びている。全米自由人権協会（ACLU）とその州レベルの加盟団体が主導する人権団体は、これらの新しい規制の多くを縮小、あるいは撤廃しようとする法的態勢を構築しているのだ。その議論の核心は、アメリカ人には同胞のためにディープフェイクを行う憲法上の権利があるという点だ。

「50もの州議会で新しいテクノロジーを規制しようとする法案が次々と提出され、どれほどの地域条例が制定されたか分からない状況では、必ずと言っていいほど、その線引きを間違えた法案が相当数あるはずです」と、ACLU（アメリカ自由人権協会）の言論・プライバシー・テクノロジー・プロジェクトのシニアスタッフ弁護士、ブライアン・ハウス氏は語った。「ですから、これらの法案が施行されれば、多くの訴訟が巻き起こることは間違いありません」と彼は続けた。

このような訴訟は、AI を規制しようとする動きの高まりにとって不快な清算となる可能性があり、私たち全員がある程度の機械による模倣に耐えなければならない厄介な未来につながる可能性があります。

まず、AI自体に権利があるという考えは捨てましょう。AIには権利はありません。「AIはトースターやその他の無生物と同じように道具です」とハウス氏は言います。「しかし、AIを使って世界に何かを伝える場合、私は憲法修正第1条に定められた権利を有します」

同様に、「神に感謝し、戦死した兵士たちを」と書かれたカラフルなプラカードには、法的特権は認められません。しかし、ウェストボロ・バプテスト教会の信者がそのようなプラカードを作り、退役軍人の葬儀の近くで振る場合、他のすべての人に適用されるのと同じ憲法上の保護を受ける権利があります。プラカード自体がいかに不快なものであっても、これらの権利は奪うことはできません。（2010年、教会は葬儀でピケを張った海兵隊員の父親に500万ドルの支払いを命じられました。この判決は後に覆され、その後の最高裁判所の訴訟では、ACLU（アメリカ自由人権協会）が教会の立場を支持する法的意見書を提出しました。最高裁判所は教会に有利な判決を下しました。）

そして、抗議のプラカードであれ、隣人を悪意を持って描いたディープフェイクであれ、合法的な発言が存在する限り、憲法修正第一条の判例は、政府がいつ、そしてなぜ、それを他者の目に触れないように隠蔽できるのかを厳しく制限します。「政府が発言者を制限するのではなく、聞く者を制限する世界を想像してみてください」と、ACLU（アメリカ自由人権協会）全米政治擁護局のコーディ・ベンツケ氏は言います。「この二つの権利は両立しなければなりません。」この考え方は、「聞く権利」と呼ばれることもあります。

これらの基準に照らすと、全米で超党派の支持を得ているAI関連法や規制の多くは、憲法上の基準を満たしていないと言えるでしょう。そして、そのような法律や規制は数多く存在します。

昨年夏、連邦選挙委員会は、既存の詐欺的虚偽表示に関する規則が「意図的に欺瞞的な人工知能（AI）を使った選挙広告」に適用されるかどうかの検討を開始しました。ACLU（アメリカ自由人権協会）は連邦選挙委員会宛ての書簡で、この規則は、視聴者の一部を欺く可能性のあるディープフェイクではなく、作成者が公衆を欺く明白な意図を持っていたディープフェイクに厳密に限定されるべきだと警告しました。（連邦選挙委員会はまだ決定を下していません。）

一方、2023年10月、バイデン大統領はAIに関する広範な大統領令に署名しました。これには、商務省に対し、AI出力への透かし入れの基準策定を指示する指示が含まれていました。「誰もが、自分が聞いている音声や見ている動画がAIによって生成または改変されたものであることを知る権利がある」とバイデン氏は述べました。ACLU（アメリカ自由人権協会）などの人権団体は、ラベル付けという考え方に対して特に警戒感を示しています。それは、効果がない可能性がある（悪意のある人物が技術的な回避策を見つける可能性がある）ことと、人々に本来なら言わないであろう発言を強いることになるためです。例えるなら、すべてのディープフェイクにラベル付けを義務付けることは、すべてのコメディアンに政治家の物まねを始める前に「これはパロディだ！」と叫ばせるようなものでしょう。

州レベルでは、立法活動がさらに活発化しています。ソフトウェア業界団体BSAによると、今年1月だけでも、州議会はディープフェイク関連法案を101件提出しました。ジョージア州で提出された法案の一つは、選挙に影響を与える目的でディープフェイクを作成または共有することを刑事犯罪とするものです。これは、州ACLU加盟団体の訴訟担当者や支援者たちに苦渋の選択を迫りました。

「ジョージア州ACLUは歴史的に、有権者の権利を強く支持してきました」と、同団体で憲法修正第一条政策を提唱するサラ・ハント＝ブラックウェル氏は語った。法案が議会に提出される数日前、ニューハンプシャー州の予備選挙の有権者たちは、ジョー・バイデンのディープフェイク音声で投票所に行かないよう促す電話を受けていた。ハント＝ブラックウェル氏はこれを「極めて懸念すべき事態」だと述べた。

しかし、チームは最終的に、ACLU（アメリカ自由人権協会）の全国事務所と協議した結果、虚偽の政治的発言を検閲し、過度に犯罪化することの方がより大きな脅威となると判断した。ACLUは、選挙の日時に関する偽情報に対する、より限定的な規制を支持している。これは一種の投票抑圧とみなしているが、市民には、紙面や政治集会での演説で嘘をつくのと同じように、AIを使って虚偽を拡散する憲法上の権利があると主張している。「政治は常にほとんど嘘で満ちてきた」と、ACLUの上級職員の一人は私に語った。

1月29日、ジョージア州上院司法委員会での証言で、ハント＝ブラックウェル議員は議員に対し、法案の刑事罰を廃止し、報道の一環としてディープフェイクを再掲載したい報道機関のための例外規定を設けるよう求めた。ジョージア州の議会は、法案が審議される前に閉会した。

連邦ディープフェイク法も抵抗に遭う見込みです。1月、議会議員らは「AI詐欺防止法案（No AI FRAUD Act）」を提出しました。これは、人物の肖像と声に財産権を付与するものです。これにより、あらゆる種類のディープフェイクに登場した人物とその相続人は、偽造品の作成または拡散に関与した者を訴えることができるようになります。こうした規則は、ポルノ的なディープフェイクと芸術的な模倣の両方から人々を守ることを目的としています。数週間後、ACLU（アメリカ自由人権協会）、電子フロンティア財団、そして民主主義技術センターは書面による反対意見を提出しました。

彼らは他の複数の団体と共に、これらの法律は違法な言論の抑圧にとどまらず、はるかに多くの事柄を抑圧するために利用される可能性があると主張した。書簡は、訴訟に直面する可能性があるというだけで、風刺、パロディ、意見表明といった憲法で保護された行為にテクノロジーを利用することを躊躇する可能性があると主張している。

法案の提案者であるマリア・エルビラ・サラザール下院議員は、WIREDへの声明の中で、「AI詐欺防止法は、公共の利益のための言論と表現に対する憲法修正第一条の保護を明示的に認めている」と述べた。実在の人物を描写したディープフェイクにラベル表示を義務付ける類似法案を提案したイヴェット・クラーク下院議員は、風刺とパロディについては例外を設けるよう修正されたとWIREDに語った。

WIREDのインタビューで、ACLUの政策提唱者や訴訟担当者は、合意のないディープフェイクポルノを対象とした限定的な規制には反対しないと述べた。しかし、既存のハラスメント防止法は、この問題に対処するための（それなりに）堅固な枠組みだと指摘した。「もちろん、既存の法律では規制できない問題もあるでしょう」と、ACLUの上級政策顧問であるジェナ・レヴェントフ氏は語った。「しかし、一般的なルールとして、既存の法律で多くの問題に対処するのに十分だと考えています」

しかし、これは法学者の間で合意された見解からは程遠い。ジョージ・ワシントン大学法学教授で、厳格なディープフェイク対策の主導的な提唱者であるメアリー・アン・フランクス氏は、WIREDへのメールでこう述べている。「『これに対処する法律は既にある』という主張の明らかな欠陥は、もしそれが真実なら、このような虐待行為が爆発的に増加しても、それに伴って刑事告訴が増加することはなかったはずだということです。」フランクス氏によると、一般的にハラスメント事件の検察官は、被疑者が特定の被害者に危害を加える意図を持っていたことを合理的な疑いの余地なく証明しなければならない。加害者が被害者を知らない可能性もあるため、これは非常に高いハードルとなる。

フランクス氏はさらにこう述べた。「この虐待を受けた被害者たちが一貫して訴えていることの一つは、自分たちには明白な法的救済策がないということだ。そして、それを知っているのは彼ら自身なのだ。」

ACLUは、生成AI規制をめぐって政府を提訴した例はまだありません。団体の代表者は訴訟の準備を進めているかどうかは明らかにしませんでしたが、本部と複数の関連団体は、法案の審議状況を注視していると述べています。レヴェントフ氏は、「何か問題が発生したら、迅速に行動します」と断言しました。

ACLUをはじめとする団体は、政治的な誤情報からポルノ的なディープフェイク、アーティストの作品の盗用に至るまで、生成AIの悪用による恐ろしさを否定していない。こうした事例への介入の目的は、不快なコンテンツを是認するものではない。ハウス氏が述べたように、「私たちは、私たちが賛同できない言論を相当数代表しています」。むしろ、これらの団体が危険な憲法違反と見なす行為を防ぐことが目的だ。「政府がディープフェイクを抑制できるという法制度がある場合、誰もがまず頭に浮かぶ疑問の一つは、権威主義的な政府関係者がどのようにしてその権限を用いて、その人物に関する真実の言論を抑制するのか、ということだ」とハウス氏は述べた。

昨年、ACLUをはじめとする多くの市民団体は、ディープフェイクを含む生成AIコンテンツのホスティングについてソーシャルメディアプラットフォームに責任を負わせる超党派の上院法案に反対する書簡に署名しました。この書簡は、企業がホスティングするコンテンツに対する責任を免除する規制を緩和することで、州がAI以外のコンテンツについても企業を訴える規制上の抜け穴を生み出すと警告しました。書簡の著者は、昨年テキサス州議会に提出された、「中絶誘発薬の入手方法に関する情報」をオンラインでホスティングすることを犯罪とする法案を例に挙げています。連邦法案と州法案の両方が成立すれば、ソーシャルメディアプラットフォームは中絶関連コンテンツのホスティングで訴追される可能性があります。必要なのは、ユーザーがAIの支援を受けて何かを投稿することだけです。ChatGPTの支援を受けて作成されたツイートや、DALL-Eによって生成された画像などです。この書簡は、オートコンプリートやオートコレクトといった「基本的でありふれた」ツールでさえ、上院法案の生成AIの定義に該当する可能性があると主張しています。

ACLUは長年にわたり、言論の自由に関する訴訟で勝利を収めてきました。生成AI規制への彼らの異議申し立ては、AIの横行が法律のみによって抑制される世界への希望に冷水を浴びせかける可能性があります。私が話を聞いた複数の市民権訴訟弁護士は、AIによる偽造行為に対する防御策としては、立法者や裁判官よりも、教育とメディアリテラシーの向上の方が効果的だと示唆しました。しかし、それで本当に十分なのでしょうか？

社会として、私たちは常に、オープンさと民主主義を推進する言論の保護を保証するために、不快で、特に有用とは言えず、時には人を傷つけるような発言をある程度我慢しなければなりませんでした。しかし、偽造発言の新しい技術はあまりにも広く普及し、コンテンツを画面に表示するアルゴリズムは、極端で有害な表現を優先するように厳密に最適化されているため、AIの発言に人間の発言と全く同じ保護を与えることは、利益よりも害をもたらすのではないかと考える人もいます。「私たちはこれまでとは異なる問題に苦しんでいます」と、ジョージ・ワシントン大学の法学教授メアリー・アン・フランクスは私に語りました。

とはいえ、まだ初期段階です。擁護団体や規制当局が、言論の自由に関する判例の特徴である、不安定ながらも最終的には実行可能な妥協点へと回帰する可能性はあります。しかし最悪の場合、差し迫った争いは、二つの受け入れがたい現実のどちらかを選ばざるを得なくなる可能性があります。憲法修正第一条を絶対主義的に解釈すれば、私たちはオンラインに接続するたびに、ウェストボロ・バプテスト教会が兵士の葬儀で行った抗議活動と同等のアルゴリズムを前に、ただ立ち尽くす羽目になるかもしれません。一方で、言論の自由の原則をたとえわずかでも再解釈すれば、将来の政府にこれまで考えられなかった権限、つまり、どの発言が真実で価値があり、どの発言がそうでないかを判断する権限を与えることになるかもしれません。

この記事についてのご意見をお聞かせください。 [email protected]までお手紙をお送りください。