クリストファー・ファーロング/ゲッティイメージズ
グーグルが4年前に買収したAI企業の医療部門であるディープマインド・ヘルスを母体企業に近づけるという決定によって、160万人のNHS患者が自分の個人データがどこに行くかについて「全くコントロールできない」状態になる可能性があると専門家らは指摘している。一方で、そうしたデータの保護を監視するために設置された独立機関は解体された。
DeepMindは2014年にGoogleに買収されましたが、Googleとは一定の距離を置き、独立して運営されていると言われています。この間、同社の医療チームはNHSと提携し、腎不全の兆候を特定するのに役立つStreamsアプリの開発などを行ってきました。
昨日、DeepMind Healthが正式にGoogleに加わると報じられました。同部門は、アメリカの大手民間医療企業Geisinger Healthの元CEOで、カリフォルニアに拠点を置く新設のGoogle Health部門を率いるデビッド・フェインバーグ氏の直属となります。
ディープマインドは、共同創業者のデミス・ハサビス氏とムスタファ・スレイマン氏、そしてヘルス部門責任者のドミニク・キング氏が共同執筆したブログ記事の中で、チームはロンドンに留まり、「NHSのパートナー全員に全力で取り組み、現在のプロジェクトをはじめとする様々なプロジェクトを推進していく」と述べた。しかし、プライバシー、反競争法、そして法律の専門家たちは懸念を示している。
このニュースは「この取引が始まって以来、私たちが懸念していたことのほぼ全てだ」と、ニューヨーク大学ロースクールで法とテクノロジーを専門とする研究員、ジュリア・パウルズ氏は言う。その懸念とは、「Googleが、患者が全くコントロールできない形で、地球上で最高の医療情報リポジトリであるNHSへの前例のないアクセスを獲得するのではないか」ということだと彼女は付け加えた。
現時点では、GoogleがNHSの患者データに直接アクセスする兆候はない。Googleは、160万人のNHS患者のデータはNHSの所有物であり、他の目的には使用できないと述べ、DeepMindがテクノロジー企業という広範な傘下に入ることへの懸念を否定した。DeepMindも同様の見解を示し、「情報ガバナンスと安全性は引き続き当社の最優先事項です」と述べている。「患者データは引き続きパートナー企業の厳格な管理下にあり、その使用に関するすべての決定は引き続きパートナー企業に委ねられます」。
DeepMindのブログ投稿には、「大規模なインパクトをもたらす可能性のある有望な結果が得られた暁には、StreamsおよびGoogleのトランスレーショナルリサーチチームと緊密に連携し、研究アイデアを臨床現場に実装する方法について検討します」と記されています。Googleとの緊密なパートナーシップにより、DeepMindはStreamsを改良し、「あらゆる場所の看護師と医師のためのAI搭載アシスタント」へと進化させるでしょう。
DeepMindが患者データの取り扱いにおいて疑わしい行動をとったのは今回が初めてではありません。2017年7月、英国情報コミッショナー事務局は、NHSとDeepMindの間の契約がデータ保護法に違反していると判断しました。その後、この契約は修正されました。
ICOの決定を受けてDeepMindのチームが書いた書簡には、「間違いを犯したことは疑いようがなく、教訓を学ぶ必要がある」と記されている。問題は、DeepMindがこれらの間違いを繰り返しているかどうかだ。（ICOはDeepMindをGoogleに近づけるという決定について、まだコメントしていない。）
「これはいくつかの点で問題を引き起こす可能性があります」と、EU競争委員会のチーフエコノミスト、トマソ・ヴァレッティ氏は説明する（ヴァレッティ氏はWIREDの取材に対し、個人的な立場でこう語った）。ヴァレッティ氏は、グーグルとディープマインドが医師やNHSトラストに提示した魅力的な提案は、NHSに課金を始めれば裏目に出る可能性があると示唆した。「今は予算がない中で素晴らしい取引のように見えますが、短期主義は危険です」とヴァレッティ氏は言う。
続きを読む: DeepMindのAIは医師と同じくらい正確に眼疾患を発見できる
彼はまた、Googleの「誰もがデータである」というアプローチがDeepMindのアプローチを歪める可能性を懸念している。「Googleがどのような個人情報を利用できるかを実際に制御できる人は誰もいない」と彼は言う。DeepMindをGoogle Healthに統合することで、「超ターゲティング広告市場、そしておそらく他の製品市場、例えば生命保険などでも驚異的な優位性が得られる」とヴァレッティ氏は言う。
これは、同社が取り組みを評価するために招集した独立委員会が提起した懸念事項です。委員会は、「ディープマインド・ヘルスのビジネスモデルが、個人情報を非個人情報化した形であれ、生の形であれ、データの販売を伴う場合、相当なセンシティブな問題となるだろう」と強調しました。また、より広範なGoogleエコシステムにおけるディープマインドの立場は「極めて重要な問題」であると述べました。委員会は「ディープマインド・ヘルスに対し、アルファベットおよびディープマインドとの分離をより強固なものにし、そのコミットメントに永続的な効力を持たせる方法を検討する」よう求めましたが、今回の発表を見る限り、この提言は無視されたようです。
DeepMind Healthは以前、「データはGoogleアカウントやサービスに紐付けられることはなく、広告や保険などの商業目的にも使用されない」と誓約していた。しかし、独立委員会は、あるプロジェクト、例えばロイヤル・サリー・カウンティ病院NHS財団トラストとのマンモグラフィーに関する提携プロジェクトを例に挙げた。このプロジェクトでは、過去のマンモグラフィーのデジタル画像から個人データが削除され、Googleのクラウドサービス上にホストされることが提案されていた。「このことから、この約束が既に破られていると考える人もいるかもしれない」と独立委員会は述べている。
約束の不履行と独立性の欠如に対する懸念は、DeepMindが「当社の取り組みを精査する」ために設置したとされる独立委員会の解散によってさらに深刻化しています。独立委員会の議長を務めていたドナル・オドノヒュー氏は、委員会の解散を認めたようで、「DeepMind Healthの歩みに携われたことは光栄です。他の独立審査員の方々、Streamsを導入してきたNHSの臨床医、そしてStreamsチーム全体から多くのことを学びました。Streamsがますます発展し、そして何よりも世界中の患者さんに良い影響を与えていくのを楽しみにしています」と述べています。
元国会議員で独立委員会のメンバーでもあったジュリアン・ハッパート氏も、委員会の閉鎖を認めた。「ディープマインド・ヘルスは消滅するため、それを審査する委員会も消滅します」と彼は述べた。「私たちが行った仕事は、社会とディープマインド・ヘルスの双方にとって有益なものだったと誇りに思っています。私たちが定めた12の原則など、その多くは継続されるべきであり、実際、健康データを扱うあらゆる企業に適用されるべきです。」
パウルズ氏は深刻な懸念を抱いており、今回の決定について知らされた患者は一人もいないのか、その影響について考える機会は与えられたのか、あるいはGoogleによる保護の保証はあるのか、疑問視している。「Google/Alphabetの子会社が何年も厚かましく嘘をつき続け、その金を後援者に渡しているというのに、細部まで説明しなければならないことに苛立ちを感じています」と彼女は言う。（DeepMindとICOの前回の係争の中心だったロンドンのロイヤル・フリーNHSトラストは、今回の動きについて公式にコメントしていない。）
ハパート氏は、こうした懸念は誇張されていると考えている。「人々のデータはデータ管理者であるNHS病院の厳格な管理下にあり、それは今後も変わりません」と彼は言う。「DeepMindもGoogleも、両社が締結した法的契約に違反するようなデータ操作を行うことは許可されていません。」
この記事はWIRED UKで最初に公開されました。
