テクノロジー楽観主義者のための3つの戒律

新しいテクノロジーの影響は予測不可能です。発明家たちは革命的なテクノロジーが登場すると大げさに宣伝しますが、社会がその長期的な影響を予測することは不可能です。新しいテクノロジーはあまりにも強力で理解しがたいため、責任ある技術者は、詩人ジョン・キーツが「不確実性、謎、疑念の中にあっても、事実を突き詰めてイライラすることなく存在できる」と呼んだものを実践し、同時に慎重さと熱意を育まなければなりません。

WIREDが創刊されて以来、テクノロジーへの情熱について考え続けてきました。長年、競合誌の編集者を務め、現在は主に医療と農業分野のライフサイエンス企業の立ち上げに携わっています。目撃者であり参加者でもある私は、（少し意外なことに）固定化された、馴染みのあるイデオロギーの持ち主になってしまいました。テクノロジーは大きな問題を解決し、富を増やし、人間の可能性を広げることができると信じている、あの軽薄な野郎の一人です。私に足りないのは、フリースのベストだけです。

私はテクノロジーに関して全くの無知な人間ではありません。決定論者でも戦闘的な純朴さでもありません。ほとんどのテクノロジーは必然でも不可能でもなく、使用によって状況と影響に応じて特定のテクノロジーが善にも悪にもなることを知っています。クレイ・シャーキーの「誰も失わなければ革命ではない」という悲痛な格言を忘れませんし、テクノロジーがもたらす社会変革において敗者は往々にして最も失うものが少ない人々であることも認めます。しかし、広く普及するテクノロジーは、人間の根深い欲求を満たすものだと確信しています。私たちは物質文化を通して進化してきた、テクノロジーを生み出す類人猿です。世界中の人々が鳥のように飛び、チーターのように速く走り、ロブスターのように長生きしているのは、テクノロジーのおかげです。賢明で寛大な政策によって、テクノロジーによる失業やその他の社会的地位の喪失を軽減できると確信しています。

もっと宗教的に言えば、技術的な解決策が新たな問題を生み出すことは認識しているものの、それらの問題は、フラストレーションと解放感の上昇スパイラルの中で、さらに多くの解決策を見つけるだろうと私は信じている。それは、私たちが終わるまで決して終わらない、地球上で最も偉大なショーなのだ。

科学は技術とは異なり、絶対善であり、世界について学ぶことは一種の定言命法、すなわちそれ自体が正当化される無条件の道徳的義務である。人間の思考を拡張する者は特に英雄的である。なぜなら、彼らは曖昧さを真実に置き換えるからである。真実はいかに衝撃的であれ、常に有益である。

しかし、科学が直接的に役立つのは、新しい技術を生み出す場合に限られます。新しい人生において、私はよく自問します。残された時間で、どんな新しい技術を追求すべきでしょうか？どれを断念すべきでしょうか？つい最近、私の会社のパートナーたちは、病気を予防できるかもしれない技術を検討しました。しかし、その巨大な力と潜在的なリスクに頭を悩ませたため、商業化は他社に任せることにしました。私たちの選択は称賛に値するものだったのでしょうか、それとも卑怯だったのでしょうか？

これらは決して容易な問いではありません。特に、テクノロジーとは何か、そしてそれがどのように発展していくのかという点について、コンセンサスが存在せず、体系的な文献も驚くほど少ないからです。このテーマに関する最も優れた一般書であるブライアン・アーサー著『テクノロジーの本質：テクノロジーとは何か、そしてどのように進化するのか』（2009年）は、「テクノロジー」という言葉を、人間の目的を達成するための手段として単独で用いる場合（例えば、音声認識アルゴリズムやフィルタリングプロセス）と、実践や構成要素の一般的な集合体（エレクトロニクスやバイオテクノロジーのような技術分野）として用いる場合を区別しています。サンタフェ研究所の経済学者で、収穫逓増モデルを改良したアーサーは、「テクノロジーは単なる手段以上のものです。それは…私たちが利用できるように現象を編成したものです」と記しています。

技術が機能的であり、その価値が道具的であるならば、技術領域の個々の応用はすべて同等ではないということになる。原子核分裂は植物に動力を与えたり、爆弾を爆発させたりすることができる。大気中の窒素を水素との反応でアンモニアに変換するハーバー・ボッシュ法は、第一次世界大戦中のドイツで軍需品の製造に用いられたが、現在では世界人口の半分が窒素肥料で栽培された食料に依存している。（ハーバー・ボッシュ法の共同発明により1918年のノーベル化学賞を受賞したフリッツ・ハーバーは、葛藤を抱えた技術者であり、第一次世界大戦における化学戦の父と呼ばれていた。彼の妻も化学者だったが、1915年に抗議のあまり自殺した。）さらに、たとえ技術の用途が異なっていても、デザインには道徳的な方向性がある。ピストルの銃床で釘を打ち込むことはできるが、本来の目的ではない。スコップは人を殺すこともできるが、掘削にはより適している。したがって、技術者にとっての第一の戒律は、「幸福を増大させる技術を設計せよ」である。そして当然の帰結として、その技術が適切に規制されるという確信が持てない限り、苦しみや抑圧を増大させる可能性のある技術を開発してはならない。

しかし、新技術の規制には特別な問題が伴います。未来は予測不可能であり、真に革新的な技術は人間であることの意味を一変させ、私たちの生存、あるいは地球を共有する種の生存を脅かす可能性があります。ハーバーの肥料は世界中の人々を養いましたが、同時に海の藻類の増殖も促しました。肥料の流出は藻類の大発生を引き起こし、魚を中毒させました。予測不可能な影響の問題は、一部のエネルギー技術やあらゆる地球工学技術、数世代で全個体群の遺伝子改変を強制できる遺伝子ドライブなどのバイオテクノロジー、親が子孫に遺伝形質を付与できる可能性のある人工卵子や人工精子において特に深刻です。

未来の技術を規制するツールの一つに予防原則がある。これは最も強い形では、技術者に「まず害を与えないこと」を警告する。魅力的でシンプルなルールだ。しかし、ハーバード大学の法学者キャス・サンスティーンは、この原則に関する影響力のある論文の中で、「予防原則の強い形は拒否されるべきである。なぜなら、何の方向性も示さないからだ。この原則は文字通り麻痺させるものであり、不作為、厳格な規制、そしてその中間のすべてを禁じている」と警告している。1992年にリオで開催された地球サミットに出席した国々によって採択された、より弱いバージョンは、「深刻または不可逆的な損害の恐れがある場合、完全な科学的確実性の欠如は、環境悪化を防ぐための費用対効果の高い対策を延期する理由として使用してはならない」と規定している。この原則のほとんどの弱いバージョンでは、起こりうる損害の閾値が憂慮すべきほど明確に定義されていない。とはいえ、この弱いバージョンは、技術者にとって第二の戒律を示唆している。それは、新たな技術を規制する際には、費用と便益のバランスを取り、国民、自国の立法者、そして世界の外交官と協力して、新たな技術の潜在的な損害を制限する合理的な法律を制定することである。今後、さらなる証拠が出てくるだろう。Facebookが世界的なソーシャルネットワークを発明したのは良いことだが、同社は今や規制当局と協力し、悪意ある者が私たちの脳をハッキングし、国民を狂わせ、選挙を乗っ取る行為を制限しなければならない。

最後の戒律は、技術者がどの技術を追求すべきかを選択する上で役立ちます。複雑な形で、新しい技術は「現象を私たちの用途に合わせて調整する」だけでなく、科学的探究のツールでもあります。ブライアン・アーサーは、「科学は技術を利用するだけでなく、技術から自らを構築する」と述べています。ハイスループットスクリーニングは創薬を加速させるだけでなく、がんゲノム科学に関する新たな理解も提供します。ディープラーニングは将来、自動運転車を可能にするだけでなく、脳の発達の謎を解き明かすことも期待されます。したがって、技術者にとっての第三の戒律は、「最良の技術は有用性だけでなく、新たな科学的洞察も提供する。それらを優先せよ」というものです。

私の職場の机の上には、ラ・フェラッシー1の頭蓋骨のレプリカが置いてある。これは、これまでに発見されたネアンデルタール人の骨格の中で最も完全なものだ。オリジナルは5万～7万年前に生きていた成人男性のものだった。彼はあなたや私と同じように直立歩行をしていた。もしあなたが、現在のフランスのヴェゼール渓谷にある旧石器時代の丘の中腹で彼に出会っていたら、忘れがたいほど奇妙に見えただろう。明らかに人間だが、よりずんぐりとして、鼻が高く、眉毛が甲虫のように細かった。漠然としか推測できないが、彼の態度も奇妙だっただろう。彼は発話のための解剖学的構造を備えており、言語の発達に必要なFOXP2という遺伝子を私たち人間と共有していたので、ある程度は話せたはずだ。しかし、考古学的記録は、彼がホモ・サピエンスとも異なっていたことを示している。約 7 万年前、現代人の頭の中で何かがスイッチを入れました。遺伝子の突然変異か社会的適応かはわかりませんが、それがきっかけで、私たちはネアンデルタール人が不器用に模倣しただけの新しい石器を設計できるようになり、洞窟壁画、フルート、ワイン、そして最終的には、ケンブリッジ大学キングス・カレッジ礼拝堂の金庫、ダーウィンによる反駁の余地のない事実の収集、ガンの治療法、火星へのミッションなど、その他すべてのものを作ることができました。

ネアンデルタール人のいとこたちは、私たちと同じ革新力を進化させることはなかった。彼らは死に、私たちは死ななかったのだ。

WIREDのその他の素晴らしい記事