科学をよりオープンにすることは研究には良いが、安全保障には悪い

数十年にわたり、科学的知識は、目もくらむほど高額なジャーナルの有料購読という鍵の向こうに、しっかりと閉ざされてきました。しかし近年、従来の学術出版の硬直的で時代遅れの障壁に風向きが変わりつつあります。オープンサイエンス運動は、科学を誰もがアクセスしやすく、透明性のあるものにする動きを加速させています。

ジャーナルはますます多くの研究論文を誰でも無料で読めるように掲載するようになり、科学者たちは互いにデータを共有するようになりました。オープンサイエンス運動は、プレプリントサーバーの台頭も促しました。これは、他の研究者による厳格な査読を経てジャーナルに掲載される前に、科学者が論文を投稿できるリポジトリです。もはや、科学者は研究論文が広く公開される前に、査読プロセスの煩雑さを経る必要はありません。bioRxivに論文を投稿すれば、翌日にはオンラインで公開されるのです。 

しかし、 PLoS Biology誌に掲載された新しい論文は、オープンサイエンス運動の盛り上がりは全体としては良いことだが、リスクがないわけではないと主張している。 

オープンアクセス出版のスピードは重要な研究がより迅速に公開されることを意味しますが、同時に、リスクの高い科学研究がオンライン上に放置されないようにするためのチェックが緩やかになることも意味します。特に、新しい生物の工学的改変や既存の生物の再工学によって新たな能力を獲得する合成生物学の分野は、いわゆる「二重使用のジレンマ」に直面しています。これは、迅速に公開された研究が社会の利益のために利用される可能性がある一方で、悪意のある人物によって生物兵器やバイオテロに利用される可能性もあることを意味します。また、例えば経験の浅い人がウイルス設計のハウツーガイドを簡単に入手できる場合、危険な病原体が偶発的に流出する可能性も高まります。「危険な情報が共有されるリスクがあります」と、論文の共著者でありオックスフォード大学の研究者であるジェームズ・スミス氏は述べています。「そして、現時点では、それに対処するためのプロセスは実際には整備されていません。」

デュアルユース研究のリスクは古くからある問題ですが、「オープンサイエンスは新たな、そしてこれまでとは異なる課題を提起しています」と、ジョンズ・ホプキンス大学健康安全保障センターのバイオセキュリティ専門家で上級研究員のジジ・グロンヴァル氏は述べています。「こうしたリスクは常に存在していましたが、技術の進歩によってさらに深刻化しています。」

誤解のないよう明確に述べれば、これはまだ起こっていません。プレプリントの指示に基づいて、危険なウイルスやその他の病原体が複製されたり、作成されたりした例はありません。しかし、このような事態が発生した場合の潜在的な影響は、新たなパンデミックを引き起こすなど、非常に壊滅的であることを考えると、論文の著者らは、たとえわずかなリスクの増加であっても、取るに足らないと主張しています。そして、これらのリスクについて深く考えるべき時は今なのです。 

パンデミックの間、プレプリントサーバーの必要性が際立った。重要な研究を、従来は時間がかかりがちなジャーナルルートよりもはるかに迅速に発信できるようになったのだ。しかし同時に、「これまで以上に多くの人が、実験室でウイルスを合成する方法を知っている」ことも意味していると、オックスフォード大学未来人類研究所のバイオセキュリティ研究者で、この論文のもう一人の共著者であるジョナス・サンドブリンク氏は述べている。 

もちろん、研究がプレプリントサーバーではなくジャーナルに掲載されるからといって、本質的にリスクがないわけではありません。しかし、明らかな危険性があれば、査読プロセスで発見される可能性が高くなるという点には変わりありません。「ジャーナルとプレプリントサーバーの重要な違いは、査読の深さにあります。ジャーナルの出版プロセスの方がリスクが特定される可能性が高いのです」とスミス氏は言います。 

オープンパブリッシングのリスクは生物学研究にとどまりません。AI分野でも、コードとデータのオープン共有に向けた同様の動きは、悪用される可能性を孕んでいます。2019年11月、OpenAIは、テキストを生成し質問に答える能力を持つ新しい言語モデルGPT-2を、フェイクニュースや偽情報の拡散につながる可能性を懸念し、完全版を公開しないことを発表しました。代わりに、研究者が改良できるよう、モデルの縮小版を公開するという決定は、当時批判を浴びました（その後、同年11月に完全版を公開しました）。2020年に公開された後継モデルGPT-3は、児童ポルノの作成が可能であることが分かりました。

最大規模のプレプリントサーバー2社、medRxiv（医学研究の出版を目的として2019年に設立）とbioRxiv（生物学研究を目的として2013年に設立）は、ウェブサイト上で「懸念されるデュアルユース研究」がサイトに掲載されていないことを確認していると公表している。medRxivの声明には、「すべての原稿は、投稿時に盗作、非科学的な内容、不適切な論文の種類、そして個々の患者または公衆の健康を危険にさらす可能性のある内容について審査されます」と記されている。「後者には、デュアルユース研究や、感染症の伝播、予防接種、治療に関する既存の公衆衛生対策や助言に異議を唱える、または損なう可能性のある研究が含まれる場合がありますが、これらに限定されません。」

bioRxivの共同設立者の一人であり、コールド・スプリング・ハーバー研究所出版局の副所長でもあるリチャード・セヴァー氏は、bioRxivの設立当初からバイオセキュリティのリスクは常に懸念事項だったと語る（セヴァー氏はスミス氏とサンドブリンク氏の論文の査読者だった）。彼は、1991年に立ち上げられた物理科学向けのプレプリントサーバーarXivの初期には核兵器への懸念があったが、今日のbioRxivでは生物兵器への懸念が高まっていると冗談を飛ばす。 

セバー氏の推計によると、bioRxivとmedRxivには1日に約200件の投稿があり、その全てが複数の目で確認される。すぐに却下される「大量の駄作」も届くが、残りの投稿はプールに送られ、現役の科学者による審査を受ける。最初の審査プロセスで懸念材料となる可能性のある論文が報告された場合、最終決定を下す前に管理チームによる検討のために上層部に回される。「私たちは常に慎重を期しています」とセバー氏は言う。今のところ、危険な投稿はされていないと彼は考えている。 

長年にわたり、研究チームが懸念されるデュアルユース研究に該当すると判断したため、いくつかの論文が却下されてきた。パンデミックの到来により、この問題はさらに緊急性を増した。2つのサーバーは2021年4月までに、COVID-19に関するプレプリントを1万5000本以上発表した。これは内部論争となった。パンデミックは生死に関わるリスクが高いため、これまで伝統的に却下してきた「パンデミックの可能性のある病原体」（SARS-CoV-2など）に関する論文を、倫理的に発表する義務があるのだろうか？「リスクとベネフィットの計算が変わります」とセバー氏は言う。 

bioRxivとmedRxivは、自らの投稿がバイオセキュリティ上のリスクや公衆衛生上のアドバイスに反する可能性があるかどうかを深く検討する措置を講じていますが、他のサーバーやリポジトリはそこまで厳格ではないかもしれません。「データとコードのリポジトリはほぼ完全にオープンです。誰でも好きなものを投稿できます」とスミス氏は言います。また、セバー氏は、もしbioRxivとmedRxivが論文を拒否したとしても、他の場所でオンラインに掲載されないわけではないと指摘します。「ただ、私たちと一緒にオンラインに掲載できないというだけです」

スミス氏とサンドブリンク氏は論文の中で、潜在的なバイオセキュリティリスクへの対策を提言しています。例えば、研究者がリポジトリにデータやコードを投稿する際に、そのデータがリスクのないことを宣言するよう求めることが考えられます。ただし、これには悪意のある行為者には期待できないレベルの誠実さが求められることは認めています。しかし、これはすぐに実行できる簡単なステップです。 

より長期的な視点では、臨床試験などの患者データ共有で用いられてきたモデルに従うことを推奨しています。臨床試験では、データはリポジトリに保存され、アクセスするには何らかのアクセス同意が必要です。これらのデータの一部は、研究者自身が実際に見ることはなく、代わりにサーバーに送信され、そこで研究者から離れた場所でデータが分析され、結果が返されます。

最後に、彼らは研究の事前登録を提唱しています。これはすでにオープンサイエンスの柱となっています。簡単に言えば、事前登録とは、研究を行う前に何をするつもりかを書き留め、実際に行ったことを証明するために記録を残すことを意味します。スミス氏とサンドブリンク氏は、この事前登録により、バイオセキュリティの専門家が潜在的にリスクのある研究を実際に実施される前に評価し、その安全性を保つ方法について助言する機会が得られる可能性があると述べています。 

しかし、サンドブリンク氏も認めるように、プロセスの過度な官僚化を避けながら、両立させるのは至難の業だ。「課題となるのは、いかにして可能な限りオープンに、そして必要に応じてクローズドにしていくか、そして同時に公平性を確保し、これらの資料にアクセスできるのがオックスフォード大学とケンブリッジ大学の研究者だけではないことを保証していくかということです。」サンドブリンク氏によると、世界中には資格が明確でないかもしれないが、それでも正真正銘の善意ある研究者がいるだろう。

ペイウォールやジャーナル購読が悪意ある行為者を阻止すると考えるのは、あまりにもナイーブだ。「害を及ぼしたい人は、おそらく害を及ぼすでしょう」と、キングス・カレッジ・ロンドンでビッグデータとAIの倫理的影響について研究する社会科学者、ガブリエル・サミュエル氏は言う。「たとえ優れたガバナンスプロセスを導入していたとしても、悪用が起こらないわけではありません。私たちにできるのは、それを軽減しようと努力することだけです。」

サミュエル氏は、リスクの高い科学研究の軽減は出版段階で終わるものではないと考えている。真の問題は、研究者が責任ある研究を行うインセンティブがないことだ。科学誌や資金提供機関は新しく刺激的な研究を優先する傾向があるため、退屈で安全な研究には同等の支援が行き届かない。そして、学術界の循環的な性質は、科学者に「これらの問題をじっくり考える時間を持つ能力も機会もない」ことを意味する。

「研究が有料で、アクセスできるだけの特権を持つごく少数の人々だけがアクセスできるようなモデルに戻ることを望んでいるわけではありません」とスミス氏は言う。しかし、最悪の事態が起こる前に、オープンサイエンスはリスクを認識すべき時が来ている。「一度何かが公に、完全に、オープンに利用可能になったら、それはほぼ不可逆的な状態です。」

WIREDのその他の素晴らしい記事

• 📩 テクノロジー、科学などの最新情報: ニュースレターを購読しましょう!
• 世界のサンゴ礁を再建するための競争
• 彼女は脳の一部が欠けていた。それは問題ではなかった
• デフォルト設定には常に疑問を持つべきだ
• バトルキティはNetflixの技術の限界を押し広げる
• 新品中古EVの台頭
• 👁️ 新しいデータベースで、これまでにないAIを探索しましょう
• 🎧 音に違和感を感じたら、ワイヤレスヘッドホン、サウンドバー、Bluetoothスピーカーのおすすめをチェック！