AIは一部の病気の診断に役立つ―国が裕福であれば

人工知能は、医用画像やスキャン画像から病気を専門的に診断することを約束しています。しかし、眼疾患の診断アルゴリズムの学習に用いられるデータを詳しく見ると、これらの強力な新ツールが健康格差を永続させる可能性があることが示唆されています。

英国の研究チームは、眼疾患を発見するAIアルゴリズムの学習に一般的に用いられる94のデータセット（50万枚以上の画像）を分析しました。その結果、ほぼすべてのデータが北米、ヨーロッパ、中国の患者から得られたものであることがわかりました。南アジアからのデータセットはわずか4つ、南米からのデータセットは2つ、アフリカからのデータセットは1つで、オセアニアからのデータセットはありませんでした。

これらの眼画像の情報源の不一致は、AIによる眼科検査アルゴリズムが、少数派の国々の人種集団に対してうまく機能するかどうかの確実性が低いことを意味していると、この研究に参加したバーミンガム大学の眼科医兼研究者、シャオシュアン・リウ氏は述べている。「特定の集団において、疾患にごくわずかな変化があったとしても、AIは重大な失敗をする可能性があります」と彼女は言う。

アメリカ眼科学会はAIツールに強い関心を示しており、医療水準の向上に役立つと期待されている。しかし、リュー氏は、AIツールが主に白人患者を対象とした研究に基づいて開発されたと知れば、医師は人種的マイノリティへの使用に消極的になる可能性があると指摘する。また、医師自身には気づかないほど微妙な差異によってアルゴリズムが機能しない可能性もあると指摘する。

研究者たちは、データに他の問題も発見しました。多くのデータセットには、年齢、性別、人種といった重要な人口統計データが含まれていないため、他の点でバイアスがかかっているかどうかを判断することが困難でした。また、データセットは緑内障、糖尿病網膜症、加齢黄斑変性といった少数の疾患についてのみ作成されている傾向がありました。アルゴリズムの学習に使用された46のデータセットは、データが利用できませんでした。

米国食品医薬品局（FDA）は近年、眼科用AIツール2点を含む複数のAI画像診断製品を承認している。リュー氏によると、これらのアルゴリズムを開発する企業は、通常、アルゴリズムの学習方法の詳細を明らかにしていないという。リュー氏と共著者らは、規制当局に対し、AIツールの審査において学習データの多様性を考慮するよう求めている。

眼画像データセットに見られるバイアスは、そのデータで訓練されたアルゴリズムがアフリカ、ラテンアメリカ、東南アジアで適切に機能する可能性が低いことを意味します。これは、AI診断の大きな利点の一つ、つまり医療専門知識が不足している貧困地域に自動化された医療専門知識をもたらす可能性を損なうことになります。

「特定の集団の一部の人々にしか恩恵をもたらさないイノベーションが生まれているのです」とリュー氏は言う。「特定の郵便番号地域には対応していないGoogleマップのようなものでしょう。」

研究者らが「データ貧困」と呼ぶ眼の画像に見られる多様性の欠如は、多くの医療用AIアルゴリズムに影響を及ぼす可能性がある。

スタンフォード大学医学部助教授のアミット・カウシャル氏は、AIの医療利用に関する74件の研究を分析した研究チームの一員です。このうち56件は米国の患者のデータを使用していました。その結果、米国のデータの大部分は、カリフォルニア州（22）、ニューヨーク州（15）、マサチューセッツ州（14）の3州から収集されたものであることが分かりました。