歪んだ採点アルゴリズムが教室外でも反発を呼ぶ

ロンドンは2000年の歴史の中で多くの抗議活動を経験してきたが、先週日曜日に教育省の前で響き渡ったシュプレヒコールはおそらく初めてのものだった。「アルゴリズムなんかクソくらえ！」と、パンデミックウイルス対策にマスクを着けた若者たちが熱狂的に叫んだ。

群衆は、英国の大学入学資格を決定するAレベルの最終成績を統計的に算出する手法に抗議していた。これは、新型コロナウイルス感染症の影響で学年末試験が中止されたことを受けての代替措置だった。生徒の約40%が、年初に教師が予測していた成績よりも低い成績を受け取った。

「私のように労働者階級出身の多くの人が、アルゴリズムによって夢を完全に打ち砕かれました」と、日曜日の抗議活動に参加したエマ・ハンナンさんは語る。3科目のうち2科目で予想より低い成績を取ったため、ロンドン・スクール・オブ・エコノミクスへの入学資格を失ったかもしれない。

注目すべきことに、ハンナン氏が参加した抗議活動は、今夏、教育アルゴリズムに反対する2度目のティーンエイジャーの反乱だった。先月、対面式の試験が中止された後、10万人以上の生徒（主に米国在住）が、同様の手順で国際バカロレアと呼ばれる高校卒業資格の最終成績を付けられた。英国と同様に、多くの生徒と教師が予想を大幅に下回る成績に不満を抱き、大学への入学資格を失った。

英国政府とIBを運営する組織は今週、抗議に屈し、当初の計算方法を放棄し、事前の課題や教師の予測に基づいて生徒の最終成績を決定することにした。

2020年に起きたアルゴリズム採点スキャンダルは、アルゴリズムが私たちの生活をどれほど支配しているか、そしてこれらの計算式を人間に適用することの危険性を浮き彫りにし、学生以外にも大きな反響を呼んでいる。研究者や活動家たちは、刑事司法、医療、顔認識といった分野で歪んだ計算が行われていることを明らかにしてきた。しかし、この採点スキャンダルは、特に政府が恥ずべき方針転換を余儀なくされた英国において、異例のほど国民の関心と政治的な注目を集めている。

データサイエンティストのキャシー・オニール氏は、2016年に出版した著書『数学による破壊兵器』で、アルゴリズムの責任追及を求める運動の先駆者となった。彼女は、AレベルとIBの成績評価アルゴリズムは、重要で、不透明で、破壊力があるため、大量破壊兵器の基準に合致すると述べた。「すべての条件を満たしている」と彼女は言う。

成績評価アルゴリズムは、個々の成績を一部、同じ学校の卒業生のデータに基づいて付与しているため、特に不公平であると認識されています。そのため、生徒の大学進学計画は、学校の資源など、経済格差に関連するものも含め、自分ではコントロールできない要因に左右される可能性があります。

オニール氏は、保険、信用、求職者選考といった分野では、こうした疑わしい推論が嘆かわしいほど蔓延していると指摘する。ロイター通信は2018年、アマゾンが過去のデータに基づいて学習させたため女性を除外していた自動履歴書フィルターを廃止したと報じた。

こうしたシステムによる歪んだ結果は、通常、目に見えにくい。求職者はほとんどの仕事に就けないと覚悟しており、今年の夏に学生が成績を比較できたように、他の求職者と結果を比較することもできない。成績評価アルゴリズムが、大学進学を目指す、全国的に優秀で比較的裕福な若者たちに影響を与えたことは、国民と政界の注目を集める一因となった。

「政策立案者の耳に届くような時は、道路脇でたくさんの人が亡くなったからこそ、車の安全性をようやく理解できたといつも言っています」とオニール氏は言う。「アルゴリズムでは、亡くなった人や差別を受けている人たちは、ほとんど見えなくなってしまうのです。」

採点の混乱が明らかになったことで、アルゴリズムの問​​題は数学ではなく、主に人間に関するものであることが浮き彫りになった。Aレベル試験とIB試験の管理者は、生徒たちの夏休みを台無しにするために意図的に方程式を導出したわけではない。彼らは、致命的なパンデミックに直面し、通常の対面試験に代わるシステムを急いで構築したのだ。

ニューヨーク大学AIナウ研究所でアルゴリズムの公平性に関する研究を行うフェロー、イニオルワ・デボラ・ラジ氏は、技術的な解決策を求める人々はしばしば統計的な公式に固執しすぎる傾向があると指摘する。たとえ十分な根拠に基づいた反対意見であっても、システムが目的に適しているかどうかを再考するのではなく、小さな修正の必要性を強調するだけだと捉えられてしまうのだ。