テクノロジーに適応するために、私たちは影の中へと向かう

ジョセフ・リスター以前の外科手術は、いわば虐殺でした。1872年、ドイツでは外科医が治療した複雑骨折患者の5人に2人が感染症で亡くなりました。ミュンヘンにあるドイツ最高峰の病院では、傷口の80%が院内壊疽による感染でした。「私たちの仕事は恐ろしいものでした！」と、ある外科医は後に語りました。誰もが解決策を切望していました。

その後、リスターは消毒法を発明しました。これは、外科手術を受ける患者の命に関わる感染症を防ぐ、石炭酸を用いた技術です。その結果、何百万人もの命が救われ、リスターは現代外科手術の父として称えられています。しかし、そこに至るまで、つまりこの技術を改良し、西洋諸国の病院に普及させるまでには、彼をはじめとする多くの医師が従来の常識を破る必要がありました。多くの場合、それは異例で型破り、あるいは挑発的な行為、つまり善と悪、適切と不適切、倫理と非倫理のグレーゾーンでの行為を意味しました。時折、秘密裏に活動することもありました。彼らは誓いを破り、データを隠し、人々を殺害しました。

この出来事はリスターから始まった。彼の初期かつ最も影響力のある著作の一つで、彼は複雑骨折（数ある失敗例の一つ）を負った「パトリックF」という患者への治療失敗を概説している。彼は傷口に石炭酸溶液を塗布したが、パトリックは壊疽を起こした。リスターは、自ら行った消毒薬の腐食作用が、唯一の原因ではないにしても、大きな原因の一つであったと指摘した。リスターがこの処置について同僚やパトリックの同意を得た記録はなく、当時、リスターは自身の介入を踏まえた上で、適切な技術、投与量、器具、そして経過評価方法を把握していなかった。彼はただ試してみただけだった。パトリックの足は切断せざるを得なかった。

医師たちは必死になって、不完全な情報に基づいてこの手法を採用し、患者に実際に試してみました。酸による熱傷と、この手法が治療対象としていた感染症である壊疽を悪化させることがよくありました。そして、壊疽はほぼ確実に致命的でした。

技術進歩のほとんどはそれほど暗いものではなく、その結果がそれを物語っています。リスターをはじめとする外科医たちは、主に人命を救い、技術を磨き、成功と失敗に関する論文を発表しました。キュリーとラジウム、アドリアと美食、テスラと電気についても同様のことが言えます。もし注意深く観察されていたら、彼らの行動のほとんどは、同僚からの懐疑的な視線や厳しい叱責を受けたかもしれません。他の職業、法執行機関、そして社会全体からの怒りや罰ではなく。トップマネジメントの研究、人気書籍、高額なセミナーは、重要な革新と適応は、通常または適切なものの境界付近のグレーゾーンで達成されることを示唆しています。これは、この図の灰色の円です。

このようなケースでは、誰もこうした「良性の侵害」型のイノベーション、ヒーロー、あるいはコラボレーションの到来を予見できません。仮に予見できたとしても、私たちにはそれらを追求する勇気も、資源も、洞察力もありません。重要なのは、こうした技術的飛躍を遂げる際に「動物がほとんど傷つけられない」ということです。

状況は変わりつつあります。過去6年間、私はインテリジェントマシンに関わる仕事への適応について研究してきました。こうした研究や他の多くの研究から、私たちのイノベーションと適応はますます、より暗く、より不適切で、より倫理的でない領域へと向かっていることが示されています。皮肉なことに、これは私が「インテリジェントテクノロジー」と呼ぶ最新の技術への私たちの対応方法によって引き起こされているのです。

あらゆるものにおいて安易な監視と矛盾する基準が蔓延し、ますます繋がりを強める世界では、誰かの良識に反することなく、新しい技術を発明、開発、商品化し、導入することがますます難しくなっています。もちろん、人々は今後も新しい技術を開発し、適応していくでしょうが、「許可よりも許し」という昔ながらの無害な領域は日々縮小しています。人々は、仕事を成し遂げるために、ますます不適切で遵守しにくい手段に頼るようになっています。今日の状況は、以下のようになっています。

ご覧の通り、グレーゾーンは縮小しています。技術革新を創造し、それに適応するための古い戦略はもはや時代遅れです。今こそ、それを書き換える時です。

なぜこのようなことが起こるのかを説明するために、腎摘出手術（がん化した腎臓を取り除く手術）にレジデント（外科研修医）の立場で臨んでみましょう。

普通なら、医学部の最後の頃は、1、2 の教育病院でいくつかの手術を観察し、ブドウや鶏の胸肉で結び方や縫合の練習をし、泌尿器科解剖学のノートを見直してから手術室に入るでしょう。せいぜい、いわゆる「見て学ぶ」モードです。最初の一連の腎摘出手術では、「実際に行う」モードの始まりに移行し、上級主治医が見守る中、手術のより簡単で安全な部分を行います。腎動脈と静脈を露出させてクランプするなど、作業の困難でリスクの高い部分になると、吸引したり、開創器を持ったりするなど、より補助的な役割に移行します。最終的に、「教える」モードになり、簡単な手術を若いレジデントに指導します。これは、手順を学ぶための承認された方法です。ゲームのほぼすべてのステップで必要であり、時間の経過とともに、より多くのことを実行することで学習します。

この環境は、あらゆる「グレーゾーン」での適応を可能にします。周りの人からはちょっと変わっている、あるいは迷惑な存在だと思われるかもしれませんが、地下鉄の柱で結び目を練習したり、死体解剖の練習をしながら昼食を食べたり、手術中に担当外科医にもっとや​​らせてほしいとせがんだりすることができます。コミュニティは、あなたが適応しようとする中でのこうした行動を、無害な違反行為と見なすでしょう。

これを踏まえると、ロボット実習のローテーションは衝撃的な結果をもたらすでしょう。ダヴィンチ システム全体、ひいては手術全体を、一度に 1 人の人間が制御できるのです。つまり、外科手術への関与は完全に任意です。あなたはこの高性能なテレビ ゲーム コントローラーを使いこなせないだけでなく、一緒に働く外科医も、このモンスターを自由に操作できるようになれば、自分よりもずっと遅くなり、ミスが多くなることを知っています。さらに、あなたのすべての動作は主治医のコンソールと大型ハイビジョン テレビに映し出されます。主治医、看護師、手術補助員、麻酔科医がすべてを見て判断します。これらを総合すると、主治医はほとんどあなたに手術をさせず、させても「ヘリコプター ティーチング」のようにあなたに手ほどきをし、看護師と手術補助員はあなたが下手だと他の主治医に言いふらすことになります。レジデンシーのほとんどの期間は、「一人に会う」モードで過ごすことになります。認可された方法を習得しようと4、5年努力した後、ようやくロボット手術全体を習得し、どこにいてもこのツールを法的に使用できる権限を得ました。

高い地位の職業で体現されたスキルを身につけることは、新しいテクノロジーを前提として私たちがどのように適応し革新するかのほんの一例に過ぎません。しかし、生産的な逸脱が増加する理由はここには明白であり、警察からチップ設計、ジャーナリズムに至るまで、他の多くの業界でも明らかです。

ここで何が起こったのでしょうか？生産性の飛躍的向上を目指し、私たちはインテリジェントテクノロジーを開発・導入しました。これにより、2つのことが可能になります。1つは、より質の高い、より広範囲にわたる、より多くの人々による作業の精査です。もう1つは、一人の専門家が、仕事の遂行に必要な行動を、より正確かつ完全に制御できるようになることです。表面的には、これは素晴らしいことです。各専門家がそれぞれの才能をより有効に活用し、多様な専門家からなるチームがよりスムーズに連携できるようになります。しかし、その裏では、長きにわたり標準とされてきた「見て、やって、教える」という学習方法を阻害しています。そして、グレーゾーンの選択肢は実際には存在しません。トレーニングが始まるまでは、システムへの正当なアクセス権限がありません。そして、あなたは手順に無理やり入り込もうとさえしません。なぜなら、あなたは自分がその物事を制御できるようになるために必要な基本スキルを持っていないことを知っており、その専門家も同様だからです。彼らはあなたをただ叩き潰すだけです。

適応しようとするなら（私の調査では居住者の約 8 人に 1 人が適応しました）、非常に不適切な方法で適応する必要があります。

レジデンシー期間中にロボットを本当に上手に扱えるようになる数少ない人の一人なら、皆（あなた自身でさえ）が全く不適切だと言うであろう何年も前から、ロボットの実践的な経験を積んでいたことになる。学部や医学部では、一般医教育を受けるべきときに研究室にうろついていた。患者と過ごす時間を持つべきときに、何百時間もシミュレーターで過ごしたり、YouTube でロボット手術の動画を見たりしていた。そして、こうした準備のすべてで、担当医、看護師、手術着を着た医師にダヴィンチを扱えることを示した後、それを利用して手術への優先的なアクセスを獲得し、そして最も重要なことに、担当医が同室にいなくても手術を行うことができた。これを繰り返すほど上達し、担当医からより多くの自由が与えられるようになった。しかし、これらのステップのどれもが、せいぜいあなたの職業と病院運営の基準に対する重大で非常に懸念される違反であり、場合によっては違法でさえあった。

一歩下がって、新しいテクノロジーへの適応全般について考えてみましょう。上記のような特徴を示す仕事に携わっている場合、革新と適応のために逸脱に走ることになります。一つのデータセットだけでこれを論じるのは一つの方法ですが、手術に関する研究を発表して以来、20以上の質の高い研究でこのパターンを確認してきました。そして、その全てにこのパターンが見られます。

インテリジェントテクノロジーを扱うほぼすべての職場には、一つの包括的な目標があります。それは、そのテクノロジーからいかに価値を引き出すかということです。技術者にとって、これはむしろ設計と構築の仕方に関係します。マーケティング担当者や事業開発担当者にとっては、どのように売り込み、誰に売り込むかが重要です。管理職にとっては、いつ購入し、どのように導入するかが重要です。ユーザーにとっては、新しい技術を構築し、習得することです。80年以上にわたる社会科学の知見は、相互依存的な専門家たちが、この指数関数的なテクノストームの中で革新と適応を遂げていくために、承認された手段では不十分だとすれば、彼らの一定割合は不適切な手段に頼ることになるだろうということを非常に明確に示しています。

私たちは地球を、キーボード、タッチスクリーン、カメラ、GPSチップ、指紋スキャナー、データの送信と保存のためのネットワークといった安価なセンサーで相互接続されたシステムで繋ぎ止めました。そして今、決定的に重要なのは、これらのデータに基づいて分析と予測を行う機械学習型のアルゴリズムです。このインフラが年々構築されるにつれ、労働者としてだけでなく、市民として個人の行動を観察、分析、判断、そして制御することが劇的に容易になっています。そして、仕事ははるかに複雑になっています。ほんの10年か20年前までは、複雑な仕事において影響力を持つのは現場の専門家だけでした。今では、それぞれ異なる専門知識を持つ多くの専門家や準専門家が、仕事の進捗状況や誰を報酬・処罰すべきかについて発言権を持っています。これは、360度評価のような正式な仕組みだけでなく、非公式な形でも行われます。教授の講義のペースが適切かどうか、巡回警官が巡回先への到着から報告に時間がかかりすぎているかどうか、誰が判断するのでしょうか？あるいは、私たちの誰かが適切に適応し、革新できているかどうか？ 10年前は、答えは基本的に一人でした。今では、オフサイトや事後アクセスを持つ人を含め、多くの人が答えを出すことができます。誰もが不正を指摘でき、豊富なデータと予測分析という膨大な新しい情報源によって、全員が力を得ています。

これらすべては、グレーゾーンが縮小していることを意味します。破滅や罰のリスクを冒して革新や適応をすることを好む人はほとんどいません。しかし、承認された手段が失敗すると分かった時、そうした方向に進む人もいます。好むと好まざるとにかかわらず、これまでは「大文字のD」で始まる逸脱者、犯罪者、そして怠け者のために留保されていた社会生活の領域において、ますます重要な革新と適応が起こるようになるでしょう。この新たな現実に賢明な判断を下したリーダー、組織、グループ、そして個人が、成功を収めるでしょう。

でも、どうすればいいのでしょうか？どうすれば、影に潜む怪しい起業家を見つけ出し、彼らの行動を理解し、私たちの重要な価値観への信頼感を維持しながら、彼らから利益を得ることができるのでしょうか？

以下は、インテリジェント マシンに関わる仕事の最前線で私が目にした初期の兆候から得た、自分自身に問いかける質問です。

監視を自制できますか？組織、チーム、あるいは同僚一人であっても、徹底的に調査し、カメラをオフにすることで、より生産的に適応できる場合があります。ロボット手術において、この方向へ少しでも踏み出すには、研修医が手術をしている間はテレビを消すことかもしれません。研修医の研修の早い段階でこのようなことをすることで、研修医が小さなミスをしたり、苦労したりする余裕が生まれ、部屋全体が彼らの能力について即座に判断を下すことなく、研修医が学ぶことができるようになります。このような早い段階での判断こそが、研修医が詮索好きな目から離れて学ぶ必要があると結論づける原因となるのです。

より広い視点から見れば、監視、分析、予測、そして統制は、ある一定の水準を超えると効果を発揮しなくなります。それはデータや予測が間違っているからではなく、人々が自由に実験し、失敗し、問題をじっくり考えることのできる、十分に監視されていない空間を破壊しているからです。さらに、過剰な監視、定量化、そして予測分析は、仕事の経験を台無しにする可能性があります。技術の進歩とデータに基づく意思決定を重視する文化や組織では、これを元に戻すことは非常に困難です。

皮肉なことに、ここで最も苦労するのはGoogleのような企業かもしれません。カメラやキー入力追跡ソフトウェアといった技術インフラの設置や有効化を行わないという、強力なリーダーシップと拘束力のある選択が必要になります。規制が厳しく、監視が困難なヨーロッパのような場所では、これらはすべて比較的容易でしょう。いずれにせよ、この選択とその理由を公表することで、リーダーシップに説明責任が生まれ、信頼を高め、実験的な取り組みを促進できるでしょう。

イノベーションを見つけるには、どのような新しい戦術が必要でしょうか？インテリジェントな技術を放棄することは必ずしも現実的でも賢明でもありません。そのため、現場の洞察力を持つ情報源を見つける必要があるでしょう。私が研究した外科医の誰一人として、彼らの（稀な）成功した​​研修医が実際にどのように学習していたのかを正確に説明できませんでした。そして、これらの研修医は、私たち全員が経営の専門家から学んだことを多く行っていました。つまり、質問したり、他の手術に立ち寄ったり、実際に学生と協力しながら観察したり、病院を越えて互いに話し合ったりしていました。その結果、彼らに残された説明の多くは、生来の能力、意欲、好奇心といった抽象的なものに焦点を当てたものでした。そして、事実、つまり、これらの影の学習者たちが成功するために実際に用いていた戦術については一切語られていませんでした。

従業員が法律を破って組織を救うイノベーションを発見していることがわかったら、どうやって詳細を入手しますか? 彼らは監視されたくありませんし、ましてや権威者に監視されたくもありません。そして、通常のトレースデータを残さないでしょう。1 つの方法は、私たちがロボット手術に関する情報を入手した方法、つまり実質的に中立的な第三者 (この場合は私) を通してです。彼らがカバーするグループやサイトが多様であればあるほど、特定の個人や組織の名前を出さずに情報を明らかにしやすくなります。ここで重要なのは、この個人が情報源を明かした場合に莫大な代償を払う立場にある必要があるということです。つまり、通常のコンサルタントでは不十分です。この種の洞察を得る別の方法は、あなたの拠点のように機能する他の状況を尾行することですが、これもまた、あなたと話している人や監視されている人が暴露から強力に保護されていることを明確にする方法で行う必要があります。

インテリジェントテクノロジーをどのように活用すれば役に立つだろうか。現在、私たちはインテリジェントテクノロジーを、組織や社会生活の奥深くにまでイノベーションと生産的な適応を促すような方法で扱っている。これを逆転させる必要がある。まずはより簡単な対象から始めよう。人々がルールに反して適応し価値を得ていく中で、すでに収集されているデータにはどんなパターンが現れるだろうか。そのデータから新しい価値ある意味を引き出すために、AI をどのように活用できるだろうか。ほとんどのプログラムでは、外科研修医はロボット手術シミュレーターを使うことが求められていた。これは、リングをペグに通す、フープをくぐるなど、物理的なコンソールを使って非常に基本的なロボット手術動作を制御する練習をする、単純なビデオゲームだ。最も優秀な外科研修医は、このツールを「普通の」（つまり、苦労している）同僚の 10 ～ 100 倍も使用していた。ユーザーログを調べることでこれらの人々が誰であるかを明らかにすることには、特に意味はない。しかし、私の研究は、彼らがこれらのツールを非常に具体的かつ重要かつ通常とは異なる方法で使用していたことを示唆しています。何年も先の一般的な練習から始まり、最終的には明日の手順を予行演習するための「試合前」のドリルで締めくくられるのです。これは氷山の一角に過ぎません。複数の異なる機械学習アルゴリズムを訓練し、彼らのシミュレーター使用を分析して通常の訓練生と区別することで、彼らの学習方法を理解するのに役立つだけでなく、初期のシミュレーター使用から学習者の成果を予測することも可能になるでしょう。

今後、私たちは何を構築できるのかを自問する必要があります。コンプライアンス圧力の増大に対処するために、どのような新しい種類のデータ、インターフェース、プロセスを構築できるでしょうか。管理者と従業員は、これらをどのように活用して信頼を高め、偏見を減らすことができるでしょうか。DaVinci ロボットは実際に 2 人で制御を共有できます。原理的には、これは「運転教習」スタイルの教育を可能にするために設計されました。つまり、指導医がブレーキを使用し、レジデントがハンドルを操作してアクセルを踏むことができるのです。しかし、これはほとんど行われていません。しかし、この種の機能を大幅に改訂し、拡張することができます。システムの視覚的な表示と制御プロンプトを変更して、指導医が各レジデントに合わせて制御を共有するように促すことができます。シミュレーターでの AI 分析パフォーマンス、以前の手術のビデオへの注釈付けの成功など、リストは続きます。そして、これはこのイノベーションと適応の氷山の一角にすぎません。重要なのは、破滅や罰のリスクを冒して革新的な前進の道を切り開いた、初期の逸脱者たちから学ぶことで、何を構築すべきかを見出せるということです。そうすれば、インテリジェントテクノロジーはイノベーションの障害となるのではなく、前進するためにそのような暗い領域に踏み込む意志や能力のない私たちのような人々にとって、適応を容易にしてくれるでしょう。

リスターとその弟子たちは、主に期待を裏切るような、いわば悪意のない方法で消毒法を開発・普及させた。つまり、ある場所では未検証の酸性湿布剤を塗布し、ある場所では末期患者を治療するが、その患者には何も知らせないといった具合だ。こうした半ば不適切な戦術が功を奏したのは、このプロセスが権力者によって軽微に監視されていたためだ。当時から最近まで、点在する監視は、革新を生み出し、急進的な技術変化に生産的に適応するための、重要かつ半ば適切な手段となってきた。しかし、状況は変わりつつある。私たちは、ますます多様化・低価格化するセンサーと、あらゆるものを定量化しようとする文化に支えられ、予測分析ときめ細かな制御への飽くなき欲求を育んできた。これは、私たちに多岐にわたる、深遠かつ肯定的な利益をもたらしている。しかし同時に、もし私たちが進路を調整しなければ、テクノロジーから世界を改善する成果を得ることは、皮肉にも、リスターが想像し得た以上に多くのルールを破り、多くの害を及ぼすことにつながるかもしれない。私たちはもっと良くならなければならない。

WIRED Opinionは、幅広い視点を代表する外部寄稿者による記事を掲載しています。その他のオピニオン記事はこちらをご覧ください。ご意見・ご感想は[email protected]までお寄せください。

WIREDのその他の素晴らしい記事

• バーチャルDJ、ドローン、そしてZoomウェディング
• リモートワークには、昇進を望むまではメリットがある
• 自宅でパンを作るために必要な道具とヒント
• インターネットを救ったハッカー、マーカス・ハッチンズの告白
• 月面では宇宙飛行士のおしっこが貴重な商品になる
• 👁 脳はAIの有用なモデルとなるのか？さらに：最新のAIニュースもチェック
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください