米国はAI規制の成立に失敗した。ニューヨーク市が対応に乗り出す

米国連邦政府が AI を意味のある形で規制しようと、あるいは機能させようと苦闘する中、ニューヨーク市はガバナンスのギャップに踏み込みつつあります。

市は今週、AI行動計画を発表しました。エリック・アダムズ市長は、これは全米初となるとしています。約40項目の政策イニシアチブからなるこの計画は、AIによる偏見や差別といった危害から住民を守ることを目的としています。これには、市機関が購入するAIの基準策定や、市部局が使用するAIのリスクを評価するための新たなメカニズムなどが含まれています。

ニューヨーク州のAI規制は、まもなくさらに拡大する可能性があります。ニューヨーク州議会議員で、同市の技術委員会の委員長を務めるジェニファー・グティエレス氏は本日、ニューヨーク州のAIを監督する「アルゴリズムデータ整合性局」の設置を盛り込んだ法案を提出しました。

このオフィスが設立されれば、市民が公共機関が使用する自動意思決定システムに関する苦情を申し立てる場となり、5つの行政区におけるアルゴリズムのオンブズマンのような役割を果たすことになる。また、市がAIシステムを導入する前に、偏見や差別がないか評価することになる。

今年初め、複数の米国上院議員がAIを規制する新たな連邦機関の設立を提案したが、グティエレス氏はワシントンD.C.の行動を待つだけでは意味がないと学んだという。「多くのイノベーションがここに息づいているため、私たちには特別な責任があります」と彼女は語る。「私たちが主導権を握ることが本当に重要なのです」

グティエレス氏は、AIが広く利用され始めていることから、市政府が使用するアルゴリズムのテスト義務化を支持していると述べた。市の各部署は、児童虐待リスクや生徒の学習率の評価といった行政業務にAIソフトウェアを活用することに関心を示している。また、グティエレス氏は、エリック・アダムス市長がロボット犬や、自身が話せない言語でロボコールを行うAIといった技術に傾倒していることにも懸念を示している。ニューヨーク市は、近年のドローン利用の増加から、住宅やスタジアム、警察における顔認証技術の疑わしい利用に至るまで、監視技術の実験場として知られている。

ニューヨークは今週以前からAI規制で連邦政府に先んじていた。2018年には、AI技術の活用状況を評価するため、市のタスクフォースが結成された。企業が採用に用いるアルゴリズムに偏見がないかチェックすることを義務付ける法律が今年初めに施行された。しかし、一部の保護措置は縮小されている。アダムズ市長は2022年1月、前任者のビル・デブラシオ氏が署名した、AIを公平に導入するために市機関と協力するアルゴリズム管理・政策担当官を設置する行政命令を取り消した。同担当官が2020年に発表した報告書によると、市機関は人々の権利に重大な影響を及ぼす可能性のある16種類のアルゴリズムを使用していたが、ニューヨーク市警察が使用するすべてのAIモデルを調査したわけではないという。

グティエレス氏は、市機関が使用するアルゴリズムについて、まだ包括的な理解が得られていないと述べています。ニューヨーク州会計監査官が2月に発表した監査結果によると、市のAIガバナンスへのアプローチは場当たり的で不完全であることが判明しました。監査官は、このことが市が「AIの活用が透明性、正確性、公平性を備え、不均衡な影響を回避することを保証できない」ことを意味すると警告しています。

AI研究者でニューヨーク大学責任あるAIセンター所長のジュリア・ストヤノビッチ氏は、この報告書のまとめに協力した。ストヤノビッチ氏は、グティエレス氏が提案した法案を支持すると述べている。ただし、最終的に設立される機関が独立した外部機関として機能することが前提となる。これは、法案が市議会で賛同者を集め、承認に向けて前進するかどうかで決まる。

ストヤノビッチ氏は、今週、小規模事業者の許可やライセンス取得などに関する質問に答えるチャットボット「MyCity」の導入と同日にAIアクションプランを発表した市の選択について、あまり好意的ではないと述べている。同氏は、このプロジェクトがAIアクションプランの規定（一般からの意見を求めるなど）の適用を免れたことを問題視している。市長室の広報担当者、ジョナ・アロン氏は、このチャットボットの導入は、AIの既存および将来の活用を検討する計画に定められた評価プロセスのプレッシャーテストとして、同時に行われたと述べている。

ニューヨークはAI規制においては早かったかもしれないが、一貫性が欠けているとストヤノビッチ氏は指摘する。「特に私たちが最初に規制を始めたことを考えると、開始から5、6年経ってもまだそれほど進んでいないこと、そして市政府内でAIガバナンスの原則が明確に示されていないことを目の当たりにするのは、本当に心が痛みます」と彼女は言う。

米国の州、市、当局がAI規制に動き出した数少ない地域では、システムの導入前に潜在的な危害を評価するための評価を義務付けるという考え方が一般的なアプローチとなっている。これは、カリフォルニア州知事ギャビン・ニューサムが先月署名した大統領令や、バイデン大統領が7月に大手AI企業と締結した自主協定にも盛り込まれている。共通の論点は、こうした評価を社内で実施できるか、それとも独立した第三者機関が実施できるかだ。事情に詳しい情報筋がWIREDに語ったところによると、ホワイトハウスは今後数週間以内にAI規制に関する大統領令を発表する見込みだ。下院は今週も新議長の選出に苦戦しており、議会が近いうちにAI関連法案を議論したり可決したりする可能性は低いようだ。