十代の妊娠を「予測」した不気味なアルゴリズムの事件

2022年2月16日午前7時

アルゼンチンの政府高官は、少女に関する侵襲的なデータを入力したAIを称賛した。フェミニストの反発は、ヘルステックの未来に影響を与える可能性がある。

スペイン語の最新 情報をご覧ください。

2018年、アルゼンチン議会が中絶の非犯罪化をめぐって激しい議論を繰り広げていた頃、北部サルタ州の幼児教育省とアメリカのIT大手マイクロソフトは、10代の妊娠を予測するアルゴリズムシステムを発表した。彼らはこれを「社会介入のためのテクノロジープラットフォーム」と名付けた。

「テクノロジーを使えば、氏名と住所から5～6年先まで、どの少女――将来ティーンエイジャーになる少女――が思春期妊娠を86%の確率で運命づけられているかを予測できる」と、当時州知事だったフアン・マヌエル・ウルトゥベイ氏は全国放送で誇らしげに宣言した。宣言された目標は、アルゴリズムを用いて、低所得地域のどの少女が今後5年間で妊娠するかを予測することだった。少女や若い女性が「母親になる運命にある」と分類された後、何が起こるのか、またこの情報が思春期妊娠の予防にどのように役立つのかは、決して明らかにされなかった。AIシステムの基盤となる社会理論は、そのアルゴリズムと同様に、不透明だったのだ。

このシステムは、サルタ市の住民20万人（10歳から19歳までの女性と少女1万2000人を含む）のデータ（年齢、民族、出身国、障害、自宅の浴室に温水設備があるかどうかなど）に基づいて構築されました。公式記録はありませんが、メディア記事と2件の技術レビューを検証したところ、「領土調査員」が問題の少女と女性の家を訪問し、アンケート調査を行い、写真を撮影し、GPS位置情報を記録していたことが分かっています。この綿密な監視の対象となった人々に共通していたのは、貧困層、ボリビアなどの南米諸国からの移民、そして先住民族のウィチ族、クルヤ族、グアラニー族の出身者でした。

マイクロソフトの広報担当者は、サルタの技術は「国家プログラムにおけるAIデータ活用の先駆的な事例の一つ」だと誇らしげに発表したが、目新しい点はほとんどない。むしろ、これは監視と武力による国民統制というアルゼンチンの長年の伝統の延長線上にある。そして、この技術に対する反応は、アルゼンチンの草の根フェミニストたちが、この人工知能の悪用に対し、いかに立ち向かうことができたかを示している。

19世紀から20世紀初頭にかけて、アルゼンチンの歴代政権は先住民コミュニティのジェノサイドを遂行し、ヨーロッパ人の入植を誘致するためのイデオロギーに基づく移民政策を推進しました。これはすべて、国の「白人化」、つまりブランキスモ（白人化）を狙ったものでした。時が経つにつれ、国民のアイデンティティは社会、文化、そして何よりも人種の境界線に沿って構築されていきました。

アルゼンチンが科学技術を通じた人口制御の試みを追跡してきた歴史家マリサ・ミランダ氏によると、この種の優生思想は、新たな科学的パラダイムや政治状況に適応し、形を変える傾向があるという。移民を例に挙げてみよう。アルゼンチンの歴史を通して、移民を人口を「改善」する手段として称賛する意見と、移民を望ましくない存在、注意深く監視・管理すべき政治的脅威と見なす意見の間で、世論は揺れ動いてきた。

近年では、1976年から1983年にかけてのアルゼンチン軍事独裁政権が、組織的な政治的暴力によって国民を統制しました。独裁政権下では、女性は人口増加という「愛国的任務」を担い、1977年の法律で避妊が禁止されました。独裁政権による母性への関心の最も残酷な表れは、政治的に破壊的とみなされた妊婦の誘拐でした。多くの女性は出産後に殺害され、その子供たちの多くは軍によって違法に養子縁組され、「愛国的なカトリック教徒の家庭」に育てられました。

サルタの「妊娠を予測する」AIシステムは未来的だと歓迎されたが、それは長い歴史、特にミランダの言葉を借りれば、常に「未来への言及を含み」、生殖は「権力者によって管理されるべき」と想定する根強い優生学的衝動を踏まえてのみ理解できるものである。

AIに関する国家規制が全く存在しないため、社会介入技術プラットフォームは正式な審査を受けることなく、少女や女性への影響に関する評価も行われていません。その正確性や成果に関する公式データも公表されていません。世界中の多くのAIシステム、特にデリケートな状況で使用されるシステムと同様に、このプラットフォームにも透明性と説明責任が欠如しています。

この技術プログラムが最終的に停止されたかどうかは不明ですが、このシステムについて私たちが知っていることはすべて、欠陥のある有害なAIシステムに対する草の根監査とも言える活動を主導したフェミニスト活動家とジャーナリストの努力によるものです。これらの活動家たちは、円滑に機能するコミュニティ組織を迅速に始動させることで、未検証で規制されていない技術が少女や女性の権利を侵害するためにどのように利用されているかを全国メディアの注目を集めました。

「アルゴリズムが10代の妊娠を事前に予測できるという考えは、女性蔑視や性的・生殖の権利に反対する活動家が中絶法は不要と主張するための完璧な口実だ」と、フェミニスト学者のパス・ペーニャとジョアナ・バロンは当時記した。実際、この技術の背後には、中絶権に声高に反対する医師アベル・アルビノが運営するアルゼンチンの非営利団体コニン財団が、マイクロソフトと共に存在していたことがすぐに明らかになった。

「（この技術プログラムは）家父長制的な策略です」と、女性に対する暴力監視団のアナ・ペレス・デクレルク所長は述べた。「社会経済的変数を混同し、あたかも少女や女性が置かれた状況の責任を全て負っているかのように見せかけています。文脈への配慮が全く欠けています。このAIシステムは、国家による女性の権利侵害のもう一つの例です。この監視への参加を拒否することがどれほど難しいか想像してみてください」。彼女はさらに、家族はワクチン接種や無料のミルクなどのサービスを、プログラムのスポンサー機関である幼児教育省に依存していると付け加えた。2021年末時点で人口の半数が貧困状態にあるこの国では、これは脆弱な少女や女性が声を上げることで危険にさらすことができない、極めて重要な支援なのです。

ブエノスアイレス大学応用人工知能研究所は、このプラットフォームの重大な技術的および設計上の誤りを指摘し、モデルが「98.2%の確率で正しい予測を行った」という開発者の主張に異議を唱えた。システムの透明性が欠如していたため、技術レビューは不完全な情報に基づいて行われた。しかし、システムのデータベースには民族的および社会経済的データが含まれていたが、性教育や避妊へのアクセスに関する情報は全く含まれていなかったことが明らかになった。これらは、世界中の公衆衛生活動において、10代の妊娠率を低減するための最も重要な手段と認識されている。「データの信頼性の低さといった方法論的な問題は、政策立案者を誤った行動に導くリスクをもたらす」と、同研究所所長のディエゴ・フェルナンデス・スレザック氏は述べた。

サルタ氏の妊娠予測計画は学者やジャーナリストから公に批判されたが、フェミニスト活動家たちは、政府によるAI規制が全く存在しない状況下でも、メディアの注目を逆手に取って、ある程度の公的な説明責任を果たそうとした。アルゼンチンのフェミニストたちが既に強力な社会運動を展開していたからこそ、AIシステムに対するこの効果的な抵抗が可能になったのだ。

19世紀にまで遡ると、ブエノスアイレスの移民女性たちはアナキスト紙「La Voz de la Mujer （女性の声）」で「Ni Dios, ni patrón, ni marido（神でも上司でも夫でもない）」というスローガンを掲げ、平等と生殖に関する権利を主張していた。

独裁政権崩壊後、アルゼンチンの女性たちは組織化を始めました。1981年のラテンアメリカ・カリブ海フェミニスト会議と1985年のナイロビで開催された第3回世界女性会議に触発され、1986年に第1回全国女性会議が開催されました。毎年開催されるこの集会には数千人の女性が参加し、リプロダクティブ・ライツ（性と生殖に関する権利）のための闘いの戦略策定に役立ってきました。2005年の会議では、「合法的、安全、そして無料の中絶の権利を求める全国キャンペーン」が発足し、「性教育で決定し、避妊で中絶を回避し、合法的な中絶で生き延びよう」というスローガンが掲げられました。

ジェンダーに基づく暴力に反対するフェミニスト運動「#NiUnaMenos（一人も女性を減らさない）」は、2015年にアルゼンチンで勃発しました。きっかけは、サンタフェ州で妊娠中の14歳の少女、キアラ・パエスが恋人に殺害された遺体で発見されたことでした。この大規模な運動は、あらゆる階層の女性を巻き込み、先住民の権利、LGBTQの権利、移民の権利を擁護する団体など、多様な活動家運動を結集しました。抗議活動は瞬く間にウルグアイ、チリ、メキシコへと広がりました。ワシントンD.C.、パリ、バルセロナ、オスロ、アムステルダム、ジュネーブ、北京などの都市でも、主に各都市に住むラテンアメリカ系女性たちが主導する運動が展開されました。

#NiUnaMenos はソーシャルネットワークで急速に広がりました。この運動は、アルゼンチンをはじめとする国々におけるジェンダーに基づく暴力に関する公式データや統計がほとんど存在しないことを浮き彫りにし、女性殺害やその他の形態の暴力を追跡・公表するための草の根データ活動へと発展しました。（活動家による先駆的な取り組みは後に政府にも引き継がれ、アルゼンチンではジェンダー暴力の事例を登録する国家制度が導入されました。）

そして2018年、100万人を超える抗議者がブエノスアイレスの街頭に集結し、中絶の合法化を求める新たなフェミニスト運動が勃興しました。これをきっかけに「マレア・ヴェルデ（緑の波）」運動が始まりました。この運動は、活動家たちが身に着けていた緑のスカーフにちなんで名付けられました。この緑のスカーフは、独裁政権に勇敢に抵抗し、殺害された子どもや誘拐された孫を捜索した母親や祖母たち、「マドレ・デ・マヨ」の象徴的な白いスカーフにインスピレーションを得たものです。#NiUnaMenos運動と同様に、緑の波は他のラテンアメリカ諸国にも急速に広がり、2021年にはポーランドにも広がり、中絶規制に反対する活動家たちが抗議活動で緑のスカーフを身に着けました。緑の波に後押しされ、アルゼンチンは2020年にラテンアメリカで最初に中絶の権利を合法化した国の一つとなりました。

ゼイネップ・トゥフェクチ氏をはじめとする研究者が実証しているように、データ・アクティビズムは真空中で生まれるものではない。ハッシュタグを通じて広がることもあるが、アルゼンチンのフェミニストたちが構築した#NiUnaMenosやGreen Waveのような、組織化された現場ネットワークによって支えられて初めて機能する。

アルゼンチンは、技術開発とAIにおいて地域のリーダーとなる意向を表明しました。ブエノスアイレスは、国内の経済不安が続くにもかかわらず、活気のあるスタートアップシーンを育んできました。アルゼンチンでは、世界の多くの地域と同様に、AI開発が活況を呈していますが、規制は危険なほど遅れています。マウリシオ・マクリ前大統領率いる政府は2019年に国家AI計画を発表しましたが、大部分が放棄されています。国家AI計画が社会、特に歴史的に疎外されてきた人々を守る上で効果的なものとなるためには、政策立案者はフェミニストが現場で行ってきた活動に目を向けるべきです。

フェミニスト集団のソコロ・ローザ（別名「ピンク・レスキュー」）は、ソーシャル・インターベンション・テクノロジー・プラットフォームと同様に、10代の妊娠の問題に取り組んでおり、どちらもプロジェクトを説明するために「運命」や「宿命」を意味するdestinoという言葉を使用している。しかし、この2つは非常に対照的である。ソコロ・ローザは、性的暴力の結果である10代の妊娠の多さを示すデータを強調し、10代の若者の安全、同意、性教育、安全な中絶を受ける権利を主張している。同団体は、このキャンペーンを少女や女性の「別の運命 [destinos] に挑戦し、疑問を投げかけ、あえて想像する」手段であると説明している。対照的に、AIシステムは、社会的文脈のない貧困の中で暮らす個々の少女と女性に焦点を当てている。これらの10代の少女の運命は決まっており、中には妊娠が「運命づけられている」人もいると考えて、AIシステムは秘密の予言を吐き出す。一方、ソコロ・ローザ氏や他のフェミニスト活動家たちは、少女や女性はより大きな政治システムに巻き込まれており、社会変革は可能だという仮説のもとに活動している。

アルゼンチンのフェミニスト活動家たちは、他の社会問題と同様に、10代の妊娠問題への取り組みにおいても、知識とデータを誰もが利用できるようにし、監視や統制ではなく、連帯とエンパワーメントを促進するよう努めてきました。これは、複雑な社会問題への参加、文脈、透明性といった観点から、どのように取り組むべきかという重要なモデルを示しています。これらは、医療技術の設計において考慮すべき価値観です。

EUと米国は、アルゴリズムシステムの監査に関する具体的な計画を策定しています。AIの影響評価は、社会的文脈と実体験を考慮に入れなければなりません。万能の解決策はありません。マイクロソフトのプラットフォームは、サルタと、同社が拠点を置くレドモンドでは、それぞれ異なる危害をもたらす可能性があります。地域社会や活動家は、AIシステムが自分たちの生活に及ぼす社会的影響について、重要な洞察力を持っています。彼らはまた、規模を拡大し、広めることができる抵抗と動員の戦略も持っています。アルゼンチンのフェミニスト活動家たちは、AIとの共存のあり方を変革し、その危害を評価するための、新たな抵抗の波を引き起こす可能性があります。それは、差別的で危険なAIからの「ピンクの救済」です。

著者らは、この研究に対する惜しみないフィードバックをいただいたケンブリッジ大学で開催された「AIの歴史：権力の系譜」セミナーに感謝の意を表します。

WIREDのその他の素晴らしい記事