新たなアルゴリズムが医療における人種格差を減らす可能性

新たなアルゴリズムが医療における人種格差を減らす可能性

人工知能(AI)を用いて医療の質を向上させようとする研究者は、通常、自らのアルゴリズムを一種の機械医学学校に通わせます。ソフトウェアは、専門家である人間がラベル付けした数千、数百万枚のX線写真やその他のデータを消化することで医師から学習し、最終的にはCOVID-19の兆候を示す疑わしいほくろや肺を正確に検出できるようになるまでになります。

今月発表された研究では、異なるアプローチが取られました。医師ではなく患者をAIの審判者として用い、関節炎の膝のレントゲン写真の読影アルゴリズムを訓練するというものです。その結果、放射線科医は黒人患者のレントゲン写真の読影において文字通り盲点を抱えている可能性があることが明らかになりました。

患者の報告に基づいて訓練されたアルゴリズムは、黒人患者が経験する痛みを説明するのに医師よりも優れていた。どうやら人間が通常見落とす画像内の病気のパターンを発見したようだ。

「これは、放射線科医や他の医師たちに、現在の戦略を再評価する必要があるかもしれないというシグナルを送っている」と、ニューヨーク市のウェイル・コーネル医科大学で健康格差を研究している、この研究には関わっていないサイード・イブラヒム教授は言う。

医師の知識を模倣するのではなく、医師が見ていないものを明らかにするように設計されたアルゴリズムは、医療の公平性を高める可能性がある。イブラヒム氏は、この新たな研究に関する解説の中で、このアルゴリズムが関節炎の手術を受ける人の格差を縮小するのに役立つ可能性を示唆した。アフリカ系アメリカ人患者は、変形性関節症を発症する可能性が他の患者と少なくとも同等であるにもかかわらず、膝関節置換術を受ける可能性が他の患者に比べて約40%低いとイブラヒム氏は述べている。収入や保険の違いが影響している可能性は高いが、診断の違いも影響している可能性がある。

この研究の著者であり、カリフォルニア大学バークレー校公衆衛生大学院の教授であるジアッド・オーバーマイヤー氏は、ある医学的な難問に触発されて、AIを用いて放射線科医が見逃している問題を解明しようと考えた。国立衛生研究所(NIH)による膝関節炎に関する長期研究のデータによると、黒人患者と低所得者は、放射線科医が同程度と評価したX線画像を持つ他の患者よりも痛みを訴えていることが示された。この違いは、膝に関する知識の保持者には知られていない身体的要因、あるいは心理的・社会的差異に起因する可能性があるが、それらをどのように区別すればよいのだろうか?

オーバーマイヤー氏とスタンフォード大学、ハーバード大学、シカゴ大学の研究者たちは、NIHのデータを用いてコンピュータービジョンソフトウェアを開発し、人間の医師が見逃している可能性のあるものを調査しました。彼らは、X線画像から患者の痛みのレベルを予測するアルゴリズムをプログラムしました。数万枚もの画像から、ソフトウェアは痛みと相関するピクセルのパターンを発見しました。

ソフトウェアは、これまでに見たことのないX線画像を提示されると、そのパターンを用いて患者が訴えるであろう痛みを予測します。この予測値は、特に黒人患者において、放射線科医が膝のX線画像に付けたスコアよりも、患者の痛みとより密接に相関していました。これは、アルゴリズムが放射線科医が見逃していた疾患の兆候を検知することを学習したことを示唆しています。「アルゴリズムは、放射線科医が見ている以上のもの、つまり黒人患者の痛みのより一般的な原因を捉えていたのです」とオーバーマイヤー氏は言います。

記事画像

超スマートなアルゴリズムがすべての仕事をこなせるわけではありませんが、これまで以上に速く学習し、医療診断から広告の提供まであらゆることを行っています。

放射線科医が黒人患者の膝の痛みの評価にそれほど熟練していない理由は、歴史を紐解くことで説明できるかもしれない。今日用いられている標準的な重症度分類は、1957年にイングランド北部の工場街で行われた小規模な研究に端を発する。その町は、現代のアメリカほど人口の多様性に富んでいない。医師たちは、そこで観察された結果に基づき、軟骨の狭窄などの観察結果に基づいて変形性関節症の重症度を分類する方法を考案した。しかし、X線装置、生活習慣、その他多くの要因は、それ以来大きく変化してきた。「今日の臨床現場で医師が目にする症状を、その研究が捉えきれていないのも無理はない」とオーバーマイヤー氏は言う。

この研究は、AIが専門家の意見ではなく患者のフィードバックによって訓練された場合に何が起こるかを示したという点だけでなく、医療アルゴリズムが偏見の解決策ではなく、偏見の原因とみなされることが多かったという点でも注目に値する。2019年、オーバーマイヤー氏と共同研究者らは、米国の数百万人の患者のケアを導くアルゴリズムが、糖尿病などの複雑な病状の治療において、黒人よりも白人を優先していることを示した。

アルゴリズムがバイアスをどのように発見できるかを示すオーバーマイヤー氏の新たな研究には、落とし穴がある。オーバーマイヤー氏自身もアルゴリズムも、医師が見逃すX線画像におけるアルゴリズムの検出結果を説明できないのだ。研究者たちは人工ニューラルネットワークを用いた。この技術は多くのAIアプリケーションの実用化に貢献してきたが、リバースエンジニアリングが非常に難しいため、専門家はこれを「ブラックボックス」と呼んでいる。

エモリー大学の放射線科医兼助教授であるジュディ・ギチョヤ氏は、膝のアルゴリズムが何を知っているのかを解明することを目指しています。それは人間の労力と創意工夫にかかっています。

ギチョヤ氏は、アルゴリズムの性能をテストするために、より大規模で多様なX線画像などのデータを収集している。放射線科医にX線画像について詳細なメモを取ってもらい、その内容を痛み予測アルゴリズムの出力と比較することで、痛み予測アルゴリズムが何を捉えているのかの手がかりを見つけたいと考えている。彼女は、それが人間の医師にとってそれほど異質なものではないことを期待している。「もしかしたら、私たちは何かを見ているのかもしれないけれど、間違った方法で見ているのかもしれません」と彼女は言う。


WIREDのその他の素晴らしい記事

  • 📩 テクノロジー、科学、その他の最新情報を知りたいですか?ニュースレターにご登録ください!
  • 「ほぼ無害」ハイカーに関する不穏な真実
  • ブリトーに何マイクロコロナを費やしますか?
  • サブスクリプションを減らして節約できるアプリ
  • Parlerの禁止と「言論の自由」をめぐる新たな戦い
  • 黒人女性の声:イノベーション技術は突破できない
  • 🎮 WIRED Games: 最新のヒントやレビューなどを入手
  • 💻 Gearチームのお気に入りのノートパソコン、キーボード、タイピングの代替品、ノイズキャンセリングヘッドホンで仕事の効率をアップさせましょう