AIは法廷で公正な裁判官になれるか？エストニアはそう考えている

2019年3月25日午前7時

エストニアは、政府サービスをよりスマートにする取り組みの一環として、一部の少額訴訟の判決に人工知能プログラムを使用することを計画している。

WIREDに掲載されているすべての製品は、編集者が独自に選定したものです。ただし、小売店やリンクを経由した製品購入から報酬を受け取る場合があります。詳細はこちらをご覧ください。

政府は通常、ITのイノベーションや人工知能（AI）のような新技術を期待する場所ではない。しかし、オット・フェルスベリ氏がその考えを変えるかもしれない。エストニアの最高データ責任者である28歳の大学院生、フェルスベリ氏は、バルト海沿岸の小国エストニアが130万人の国民に提供するサービスに人工知能（AI）と機械学習を導入する取り組みを監督している。

「政府はできる限りスリムになってほしい」と、細身で眼鏡をかけたエストニア人のフェルスベリ氏は言う。彼はスウェーデンのウメオ大学で、政府サービスにおけるIoT（モノのインターネット）とセンサーデータの活用に関する博士論文を執筆中だ。エストニア政府は昨年8月、住民向けサービスの効率化を目指し、各省庁にAIを導入する新たなプロジェクトをフェルスベリ氏に委託した。

AIの導入は極めて重要だと彼は言う。「公務員の数を減らすとサービスの質が低下すると懸念する人もいます。しかし、AIエージェントは私たちを助けてくれるでしょう。」エストニア人の約22%が政府機関で働いています。これはヨーロッパ諸国の平均程度ですが、米国の18%よりも高い割合です。

エストニアの最高情報責任者（CIO）であるシーム・シックット氏は、2017年に複数の政府機関でAIベースのプロジェクトの試験運用を開始し、昨年フェルスベルグ氏を雇用した。フェルスベルグ氏によると、エストニアでは13の機関でAIまたは機械学習が導入され、アルゴリズムによって公務員の業務が代替されている。

例えば、毎年夏に干し草畑の刈り取りのために政府から補助金を受けている農家は、もはや検査官の検査対象ではありません。欧州宇宙機関（ESA）が5月から10月まで毎週撮影する衛星画像は、タルトゥ天文台が独自に開発したディープラーニングアルゴリズムに入力されます。これらの画像は、干し草刈り補助金を受けている農家の畑の地図に重ねて表示され、農家が長期的に森林を伐採するのを防いでいます。

このアルゴリズムは画像の各ピクセルを評価し、圃場の区画が刈り取られているかどうかを判断します。牛の放牧や部分的な刈り取りは画像処理に支障をきたす可能性があり、その場合は検査官が現地まで出向き確認します。刈り取り期限の2週間前になると、自動システムは農家にテキストメッセージまたはメールで通知し、圃場の衛星画像へのリンクを添付します。フェルスバーグ氏によると、検査官の現場訪問回数が減り、他の執行措置に注力できたため、このシステムは導入初年度で66万5000ユーロ（75万5000ドル）のコスト削減に成功しました。

別の事例では、解雇された労働者の履歴書を機械学習システムに入力し、彼らのスキルと雇用主をマッチングさせています。このシステムを通じて新しい仕事を見つけた労働者の約72%が、6ヶ月後も就業を継続しており、コンピューターマッチングシステム導入前の58%から増加しています。3つ目の事例では、エストニアで生まれた子どもは出生時に自動的に地元の学校に入学するため、親は待機リストに登録したり、学校の管理者に連絡したりする必要がなくなります。これは、病院の記録が地元の学校と自動的に共有されるためです。このシステムはAIを厳密に必要とするわけではありませんが、自動化されたサービスがどのように拡大しているかを示しています。

エストニア法務省は、これまでで最も野心的なプロジェクトとして、フェルスベリ氏とそのチームに、7,000ユーロ（約8,000ドル）未満の少額訴訟を裁定できる「ロボット裁判官」の設計を依頼しました。当局は、このシステムによって裁判官や裁判所書記官の抱える未処理案件が解消されることを期待しています。

このプロジェクトはまだ初期段階にあり、契約紛争に焦点を当てたパイロット版として今年後半に開始される見込みです。構想としては、両当事者が書類やその他の関連情報をアップロードし、AIが判決を下します。この判決は人間の裁判官に控訴可能です。多くの詳細はまだ詰められていません。フェルスバーグ氏は、弁護士や裁判官からのフィードバックを受けて、システムの調整が必要になる可能性があると述べています。

エストニアの取り組みはAIと法律を融合させた初めての試みではないが、アルゴリズムに意思決定権限を与えるのは初めてかもしれない。米国では、一部の州でアルゴリズムが刑事判決の勧告に役立っている。英国に拠点を置くDoNotPayのAI駆動型チャットボットは、数年前にロンドンとニューヨークで16万件の駐車違反切符を取り消した。タリンに拠点を置く法律事務所Eesti Oigusbürooは、チャットボットを通じて無料の法的支援を提供し、債権回収会社に送付するための簡単な法的文書を作成している。CEOのアルトゥール・フョドロフ氏によると、同社は年末までに、顧客と弁護士をマッチングする「Hugo-AI」法的支援サービスをワルシャワとロサンゼルスに拡大する予定だという。

ロボット裁判官のアイデアがエストニアでうまくいくかもしれない理由の一つは、同国の130万人の住民がすでに国民IDカードを使用しており、電子投票やデジタル納税申告などのオンラインサービスに慣れているからだ。

政府のデータベースは、データ共有を容易にするデジタルインフラ「X-road」を介して相互に接続されています。エストニアの住民は、政府のデジタルポータルにログインすることで、誰が自分の情報にアクセスしたかを確認することもできます。

エストニアのデジタル政府サービスへの移行は、これまで多くの記録に残る出来事でしたが、少なくとも一度は問題を抱えていました。2017年には、外部の専門家がエストニアのIDシステムに脆弱性があることを明らかにし、事態を悪化させました。この脆弱性は修正され、IDカードは交換されました。しかし、政府関係者は、2000年代初頭にデジタル化を推進して以来、大規模なデータ漏洩や盗難は発生していないと述べています。2016年には、エストニアの成人の3分の2以上がインターネットで行政書類を提出しており、これは欧州平均のほぼ2倍に相当します。

「本当にプライベートで機密性の高い情報は、政府ではなく、銀行や通信会社が管理している」と、タリン工科大学のコンピュータサイエンス教授、タネル・タメット氏は述べている。タメット氏はエストニア政府のAIタスクフォースのメンバーであり、同タスクフォースは5月に調査結果を報告し、2020年までにさらに35件のAI関連実証プロジェクトを提案する予定だ。

デジタルガバナンスの専門家であるスタンフォード大学のデイビッド・エングストロム氏は、エストニア国民は今のところ政府によるデジタルデータの使用を信頼しているかもしれないが、新たなAIベースの意思決定システムの1つがうまく機能しなくなると状況が変わる可能性があると述べている。

米国では、社会保障局などの機関がAIと機械学習アルゴリズムを活用して仕分けと処理を迅速化しており、環境保護庁（EPA）は汚染違反の検査が必要な工場を決定するためにAIを活用している。しかし、連邦政府全体でのAI活用の協調は遅々と進んでいるとエングストロム氏は指摘する。主な理由は、各機関の連邦データベースが異なり、他の機関と容易に共有できないためだ。「まだそこまでには至っていない」と彼は述べた。

エングストロム氏とスタンフォード大学のロースクールおよびコンピュータサイエンスの学生チームは、米国政府機関におけるAIの有効活用方法を研究している。彼らはまもなく、行政プロセスの改善を勧告する独立連邦機関である米国行政会議に研究結果を報告する予定だ。

彼は、AI駆動のロボット判事が近い将来、米国の法廷に登場するとは考えていない。米国には国民IDシステムがなく、多くのアメリカ人は大きな政府に対して根深い恐怖感を抱いている。「憲法には適正手続きが規定されており、これは政府機関による完全自動化された意思決定にも影響を与えます」とエングストロム氏は述べた。「たとえ人間による上訴があったとしても、制約は存在する可能性があります。」

それでも、エングストロム氏は、AIを活用した法律アシスタントが判例や前例、そして判決に必要な背景情報を裁判官に提示する時代が来ると予測している。「AIを活用したアプローチのメリットは、現状よりも一貫性が高まることです」と彼は述べた。「そして、人間の意思決定システムよりも正確なAI駆動型システムが実現するかもしれません」

裏を返せば、AIの良し悪しは、組み込まれたプログラミングの質に左右されるということです。例えば、判決アルゴリズムは黒人に対して偏見があると批判されています。

「自動化によるバイアスも懸念されます」とエングストロム氏は言う。機械がより多くの意思決定を行うようになると、人間がシステムに自身の専門知識を注入する可能性は低くなると彼は言う。「これは、プライバシー擁護派や良き政府擁護派が、政府がこのような形でデジタル化を進める際に懸念する、忍び寄る問題の一つです。」

しかし今のところ、エストニア当局は、AIロボットが単純な紛争を解決し、人間の裁判官や弁護士がより難しい問題の解決に時間を割けるというアイデアを好意的に受け止めている。政府サービスへのAIの導入拡大は、「機械には決してできないことに特化できるようになる」と、ケルスティ・カリユライド大統領は最近タリンで開催されたNorth Star AIカンファレンスで述べた。「私は温かく思いやりのある人間であることに特化したいと考えています。そのためには、AIが安全で、しかもそれが実証可能なものでなければなりません。」

訂正、2019年3月26日午後1時50分: この記事の以前のバージョンでは、オット・ヴェルスバーグ博士の博士論文の主題と、干し草畑の刈り取りを監視するために衛星画像を使用することで初年度に節約された金額について誤って説明していました。

WIREDのその他の素晴らしい記事