テクノロジーは私たちの生活をあまりにも急速に、そして根本的に変えつつあります。それは時に恐ろしいほどです。自動運転車、核兵器の不正発射、悪意あるAIなど、私たちがどれほどのストレスを感じるべきかについて、専門家に意見を伺いました。
脅威レベルのスケール:
1 = いや、大丈夫。
5 = ああ、もうダメだ。
自動運転車は私を轢いてしまうでしょうか?
リラックスしてください。ハンドルを握りしめている拳を緩めてください。自動運転車が公道でテストされている都市、サンフランシスコ、ボストン、アリゾナ州テンピでは、訓練を受けたエンジニアが車内に常駐し、新技術がリス（あるいは歩行者）を轢かないように監視しています。「車両の動きに注意を払うのがその人の仕事です」と、ランド研究所の不確実性下における意思決定センターの共同所長、ニディ・カルラ氏は述べています。専門家の最も楽観的な見積もりでも、完全自動運転車が公道で走行するにはまだ少なくとも3年かかります。その技術が絶対確実なものになることはなく、交通事故で人が亡くなることは依然としてあります。しかし、最終的には自動運転車の方が人命を救う可能性が高いと、ロボタクシーのスタートアップ企業Zooxの最高安全イノベーション責任者で、元米国道路交通安全局長官のマーク・ローズカインド氏は述べています。事故の94%は人為的ミスによるものです。—アーリアン・マーシャル
ハッカーが私のメールを漏らすでしょうか?
あなたのメールにアクセスするのはそれほど難しくありません。ランサムウェア攻撃の激化が示すように、フィッシング詐欺師の手口は著しく巧妙化しています。とはいえ、彼らがそれほど賢くなければならないわけではありません。「『私はあなたのテクニカルサポート担当者です。あなたのパスワードを知りたいのです』と巧妙に書かれたメールは、今でも驚くほどの割合で効果を発揮します」と、電子フロンティア財団のシニアスタッフテクノロジスト、セス・ショーンは述べています。しかし、心配する必要はありません。こうしたメールの漏洩に関して言えば、一般人にとっての脅威はごくわずかです。民主党全国委員会の漏洩、パナマ文書、マクロン陣営のハッキングといった攻撃は、あなたのパラノイアを掻き立てるかもしれませんが、あなたがカーダシアン家やトランプ氏でない限り、あなたの個人的なやり取りはサイバー犯罪者にとってほとんど関心の対象ではないでしょう。—アンリ・ジャンドロー
私たちはサイバー戦争に備えていますか？
2010年に出版された著書『サイバー戦争』の中で、元米国対テロ担当長官リチャード・クラークは、いくつかの国がデジタル紛争においてどれほどうまく立ち回れるかをランク付けしました。彼の計算式によると、米国は最下位でした。そして、トップは？北朝鮮です。
クラーク氏は、米国とロシアは世界最高クラスの攻撃的ハッキング能力を有しているかもしれないが、北朝鮮にはさらに大きな強みがある、と考えた。それは、デジタルへの依存度が低いことだ。この孤立国家のハッカーたちは、国民がインターネットから完全に切り離されているため、国内に大きな危険を及ぼすことなく、焦土作戦的なサイバー戦争を仕掛けることができる。一方、米国はライバル国よりもはるかにインターネットに依存している。だからこそ、クラーク氏は米国が「国家安全保障への次なる脅威」と彼が呼ぶものに対して、非常に脆弱であると考えたのだ。
7年が経ち、サイバー戦争の時代が到来するのではないかと心配するのをやめる時が来ました。インフラへの壊滅的なデジタル攻撃は避けられないことを受け入れ、そこからどのように回復していくかを心配すべきです。つまり、デジタルシステムへの依存度を下げるということです。北朝鮮レベルまで下げる必要はありません。しかし、信頼性の高い旧式のアナログシステムをより適切に維持することで、デジタル災害が発生した際に頼れるようにすることはできます。
2015年、ハッカー集団がウクライナの変電所数十カ所を停電させた際（「Lights Out」第25.07号参照）、現地の電力会社は技術者を待機させ、わずか6時間で手動で電力を復旧させる準備を整えていた。ウクライナのソビエト時代の電力網は、調子が良い日でも不安定なため、彼らは警戒していた。アメリカの近代的で高度に自動化された電力網は、ウクライナほど頻繁には機能しない。米国の機関は、電力網への攻撃に備えて、ウクライナのような備えを整える必要がある。
投票機は、不正操作に備え、監査可能な紙の投票用紙をバックアップとして必要とする。あらゆる種類の組織は、世界的なWannaCryランサムウェアの蔓延のようなサイバー攻撃を受けた場合の迅速な復旧のために、最新のオフラインデータバックアップを保管しておく必要がある。（この場合の第一容疑者は？北朝鮮。クラークに勝算があるだろう。）Googleの設計者は長年、自動運転車にはハンドルがあってはならないと主張してきたが、サイバーセキュリティの観点から、この問題を再考する価値があるかもしれない。
未来のハイパーコネクテッドインフラを諦める必要はありませんが、手動オーバーライドの時代を受け入れる必要があります。ハッカーがあなたの高層マンションのエレベーターを乗っ取ったとき、階段を使えることを喜ぶでしょうから。—アンディ・グリーンバーグ
ハッカーは核兵器を発射するでしょうか?
アクション映画ではまさにそのようなシナリオが描かれているものの、それは「極めてあり得ないこと」だと、ランド研究所の上級研究員で、核拡散防止とリスク管理を専門とするブルース・ベネット氏は語る。「核兵器はインターネットに接続されていないため、ハッキングは困難です」。核兵器はスタンドアロンのコンピューターで制御され、暗号キーは人間の運び屋によって配布される。このシステムはセキュリティを念頭に置いて特別に開発・維持されていると、朝鮮半島に特化した分析グループ「38ノース」の航空宇宙エンジニア兼アナリスト、ジョン・シリング氏は語る。核爆弾の二次誘導システムと三次誘導システムをハッキングすることで破壊工作を行うことは可能かもしれない。シリング氏によると、米国が北朝鮮のミサイル攻撃に用いた可能性のある戦術だが、不正な工作員が核兵器を発射する可能性は低い。―リリー・ヘイ・ニューマン
AIは私に敵対するでしょうか?
非営利団体OpenAIの研究者であるポール・クリスティアーノ氏は、AIは最終的には科学実験の実施、建設プロジェクトの遂行、そして（なんと！）さらなるAIの開発まで、人間の介入なしにできるようになる可能性があると述べています。しかし、彼と彼の同僚たちは、いつか邪悪なロボットが人間を滅ぼすのではないかと心配しているわけではありません。（万が一、そのような事態に備え、GoogleのDeepMind部門とオックスフォード大学のFuture of Humanity Instituteのエンジニアたちは、どのようなタイプのAIシステムが停止の可能性を低減する行動をとる可能性があるかを理解するために協力しています。）彼らがより懸念しているのは、AIが人間の理解を超えて進化するにつれて、その技術の振る舞いが私たちの意図した目的から逸脱する可能性があることです。人間の価値観を核とした基盤を構築するのは、研究者の責任です。現在、その研究の多くは、強化学習と呼ばれる報酬ベースの訓練システムの改良と、必要に応じて人間の指示を求めるようにロボットをプログラミングすることに焦点を当てています。結局のところ、AIの良し悪しは、私たちが与えるデータによって決まります。そして、人間は本質的に善良な存在です…そうではないでしょうか？—レクシー・パンデル
マイク付きのデバイスを通じて監視されているのでしょうか?
確かに可能です。サイバー犯罪者、サードパーティの開発者、そして時にはスマートデバイスを製造する企業でさえ、あなたの音声ストリームにアクセスする手段を持っている可能性があります。「私たちは常に高品質のマイクを携行しています」と、イスラエルのベングリオン大学サイバーセキュリティ研究センターの研究開発責任者であるモルデハイ・グリ氏は述べています。「スマートフォンやスマートテレビが、広告目的の盗聴デバイスに利用される可能性があります。」Amazon EchoやGoogle Homeなどの、遠距離から常時接続するマイクを搭載したスマートホームデバイスも同様です。アプリでさえ、ハイパーターゲティング広告を表示するためにスマートフォンのマイクへのアクセスを要求するケースが増えています。アメリカ自由人権協会の上級政策アナリスト、ジェイ・スタンリー氏は、「誰かがあなたの会話を盗聴している可能性は低いですが、AIが何らかの形で盗聴している可能性はますます高まっています」と述べています。リスクを軽減する方法の一つは？プライバシー設定を確認し、どのアプリにマイクの権限が付与されているかを確認することです。—リリー・ヘイ・ニューマン
この記事は9月号に掲載されます。今すぐ購読をお願いします。
イラスト：ゾハル・ラザール、レタリング：ブラウリオ・アマド。
