エマニュエル・マクロンQ&A：フランス大統領が人工知能戦略について語る

木曜日、フランスのエマニュエル・マクロン大統領は、自国における人工知能（AI）に関する新たな国家戦略を発表する演説を行いました。フランス政府は、AI分野の研究支援、スタートアップ企業の育成、そしてエンジニアが活用・共有できるデータの収集に、今後5年間で15億ユーロ（18億5000万ドル）を投じる予定です。目標は、米国と中国に追いつき、AI分野の最も優れた頭脳（ヤン・ルカン氏のような）がパロアルトではなくパリを選ぶようにすることです。

講演の直後、彼はこのテーマについて、そしてなぜ彼がこれほど熱心に関心を持つようになったのかについて、WIRED編集長ニコラス・トンプソンに独占インタビュー（全編英語）を行った。

ニコラス・トンプソン：まず、お話を伺う機会をいただき、ありがとうございます。国家指導者がこのような問題について、これほど深く複雑な観点から語られるのは、大変新鮮でした。まずは簡単な質問から。あなたとチームは、この会合の準備期間中に何百人もの人々と話をされましたね。AIの仕組みについて、あなたにとって最も印象深く、「これは本当に重要になるだろう」と思わせた例は何ですか？

エマニュエル・マクロン：おそらくヘルスケア分野でしょう。パーソナライズされた予防医療や治療が実現しています。医療分野では、より高度な分析によって将来罹患する可能性のある病気を予測し、予防したり、より良い治療を施したりするイノベーションを何度か目にしました。数年前、CES（コンシューマー・エレクトロニクス・ショー）に参加したのですが、そこで目にした企業の中には非常に感銘を受けたものもありました。フランス企業もいくつか同行していましたが、米国、イスラエル、そして同じ分野で活動する他の企業も発見しました。人工知能がヘルスケアシステムにもたらすイノベーションは、状況を完全に変える可能性があります。人々を治療し、様々な病気を予防する新たな方法、そして医師に取って代わるのではなく、潜在的なリスクを軽減する方法などです。

2つ目の分野はおそらくモビリティでしょう。この分野では、優れたフランス企業がいくつかあり、米国企業も数多く進出しています。自動運転には大変感銘を受けています。特にヘルスケアとモビリティの2つの分野は、非常に有望だと感じました。これらの企業を見ていると、「何かが劇的に変化している。今後10年かかると思っていたことが、実は今まさに起こっている」と思わずにはいられません。まさに加速しているのです。

NT： AIに強くなることがフランスの国益に合致するからこそ、このような発言をされているようですね。しかし、スピーチの中で、AIの発展を形作る上でフランスやヨーロッパの価値観があるとお考えのようでしたね。その通りでしょうか？そして、その価値観とは何でしょうか？

EM:人工知能はあらゆるビジネスモデルを破壊し、次なる破壊的イノベーションとなるでしょう。だからこそ、私もその波に乗りたいと思っています。そうでなければ、この国で雇用を創出することなく、ただ破壊の波に飲み込まれるだけになってしまうでしょう。それが私たちの現状です。そして、この分野では大きな加速が見られ、いつものように勝者が総取りするのです。だからこそ、教育、研修、研究、そしてスタートアップの創出における私の第一目標は、多くのことを合理化し、適応性の高いシステム、適応性の高い資金調達、適応性の高い規制を構築し、この国で活躍できる人材を育成し、既存の優秀な人材を引きつけることです。

しかし同時に、あなたの言う通りです。AIは倫理や政治において多くの問題を提起し、私たちの民主主義や集団的選好に疑問を投げかけるでしょう。例えば医療を考えてみましょう。大量のデータにアクセスできれば、医療は完全に変革され、より予測的で個別化されたものになります。私たちはフランスでデータを公開します。私はこの決定を下し、今日の午後に発表しました。しかし、プライバシーの問題に対処し始め、このデータを公開して個人情報を明らかにしたその日、パンドラの箱を開けることになります。そこには、公共の利益の向上や治療方法の改善に繋がらない潜在的なユースケースが潜んでいます。特に、すべてのプレイヤーがあなたを選ぶ可能性を生み出します。これは非常に収益性の高いビジネスモデルになり得ます。このデータは人々の治療向上や患者のモニタリングに活用できるだけでなく、あなたやあなたの医療リスクに関する情報を持つ保険会社に販売され、この情報から多額の利益を得ることも可能です。このデータを使ってそのようなビジネスを始めようとした日こそ、大きなチャンスが大きなリスクに変わる日なのです。それは私たちの国家の結束と共存のあり方を完全に崩壊させる可能性があります。このことから、この巨大な技術革命は実際には政治革命であるという結論に至りました。

今日の人工知能（AI）を振り返ると、二大リーダーは米国と中国です。米国では、AIは完全に民間セクター、大企業、そしてそれらと取引のある一部のスタートアップ企業によって推進されています。彼らが行うすべての選択は、集団的価値観に関わる個人的な選択です。まさにこれが、Facebookやケンブリッジ・アナリティカ、あるいは自動運転の問題です。一方、中国の企業は、私たちの理念や価値観とは異なる政府によって大量のデータを収集しています。そして、ヨーロッパは米国や中国と全く同じ集団的選好を持っているわけではありません。プライバシーへの対処方法、個人の自由と技術進歩、人間の完全性とDNAへのこだわりを守りたいのであれば、そして自分自身の社会、文明の選択を管理したいのであれば、このAI革命の実践的な一員となることができなければなりません。それが、AIのルールの設計と定義に発言権を持つための条件です。これが、私がこの革命に参加し、さらにはリーダーの一人になりたい主な理由の一つです。私は、この議論を世界規模で展開したいと考えています。

鍵となる原動力は、技術の進歩だけでなく、人類の進歩であるべきです。これは非常に重要な問題です。ヨーロッパは、私たちが集団的な好みを主張し、それを普遍的な価値観と結びつけることができる場所だと私は信じています。ヨーロッパは民主主義のDNAが形作られた場所であり、だからこそ、民主主義にとって大きな課題となり得るものに、ヨーロッパは真剣に取り組む必要があると考えています。

NT：つまり、ここであなたが念頭に置いているのは、フランスの経済成長だけではありません。世界中でこの変革をもたらす技術に組み込まれる価値観全体です。そして、あなた自身、あなたの国、そしてあなたの大陸が持つ価値観が、そこに確実に反映されるようにしたいとお考えですか？

EM：まさにその通りです。私は、人工知能分野で自国に優位性を直接的に築き上げたいと思っています。だからこそ、Facebook、Google、Samsung、IBM、DeepMind、富士通がパリにAIラボや研究センターを設置することを発表したのです。これは私にとって非常に重要です。第二に、AIがモビリティ、エネルギー、防衛、金融、ヘルスケアなどの分野で引き起こす革命に、自国も参加したいと考えています。AIは価値創造にもつながるからです。第三に、AIが完全に連邦化されることを望みます。なぜでしょうか？AIは破壊的イノベーションであり、その影響に対処することだからです。例えば、このような破壊的イノベーションは、一部の分野で多くの雇用を奪い、人々の再教育の必要性を生み出す可能性があります。しかし、AIはこれらの人々をより良く教育し、新しい仕事を見つけるための解決策の一つにもなり得ます。これは自国にとって良いことであり、非常に重要です。

私は、我が国がAIに関する新たな視点を、学際性、つまり数学、社会科学、テクノロジー、哲学を融合させた学際性に基づ​​いて構築する場所になることを望んでいます。これは極めて重要です。なぜなら、これらのイノベーションを最初から適切に捉えなければ、最悪のシナリオが起こり、後になってからこの議論に対処せざるを得なくなるからです。プライバシーは、米国では長らく隠れた議論でした。それが今、Facebookの問題によって表面化しました。セキュリティもまた、自動運転の分野では隠れた議論でした。そして今、Uberの問題によって表面化しています。ですから、イノベーションを阻害したくないのであれば、倫理的・哲学的な境界内で意図的に枠組みを定める方が良いのです。そして、我が国には、ビジネスを発展させるだけでなく、それを実現する十分な能力があると考えています。

しかし、AIは民主主義を完全に危険にさらす可能性があるとも考えています。例えば、私たちは学生の大学入学選考に人工知能を活用しています。これはアルゴリズムに大きな責任を負わせることになります。多くの人はそれをブラックボックスと見なし、学生選考プロセスがどのように行われるのか理解していません。しかし、これがアルゴリズムに依存していることを理解し始めると、このアルゴリズムには特定の責任が課せられます。この議論を的確に体系化したいのであれば、アルゴリズムの公平性と完全な透明性を確保する必要があります。私は国民に対し、このアルゴリズムに偏見、少なくとも不公平な偏見がないことを確信できなければなりません。フランス国民に対し、「このイノベーションを奨励したのは、皆さんが新しいサービスにアクセスし、生活を向上させるからです。これは皆さんにとって良いイノベーションです」と言えるようにしなければなりません。性別、年齢、その他の個人特性に関して偏見がないことを保証する必要があります。ただし、私が彼らに代わって、あるいは彼らの前で決定した場合は別です。これは対処すべき大きな問題です。最初からこれに取り組まなければ、イノベーションの開発と同じくらい重要だと考えなければ、何かを見逃し、ある時点ですべてが阻害されてしまうでしょう。なぜなら、最終的には人々がこのイノベーションを拒絶するからです。

NT:では、それを保証するためにあなたが講じている措置は、フランス政府が開発するアルゴリズムはすべてオープンになるということ、そしてフランス政府から資金提供を受けている企業が開発するアルゴリズムもすべてオープンにする必要があるということでしょうか?

EM:はい。

NT:この透明性を保証するために、第 3 段階を実施していますか?

EM:私たちは、これらのアルゴリズムの透明性確保に向けて、集団的な圧力を高めていきます。政府や公的資金で運営されるプロジェクトのデータを公開し、このプロジェクトへのアクセスを開放します。そして、民間事業者がデータを完全に公開し、透明性を確保するよう、支援し、インセンティブを与えます。もちろん、中には「私のアルゴリズムには商業的価値があるので、透明化したくない」と言う人もいるでしょう。しかし、サービス提供者と消費者の間で公正な議論が必要だと考えています。消費者もまた市民であり、「あなたのアルゴリズムをより深く理解し、信頼できることを確認しなければなりません」と言うでしょう。消費社会の力は非常に強く、人々はアプリやノートパソコンなどで主に人工知能を活用したサービスにアクセスするために、多くの個人情報を提供することを受け入れています。しかし、いつか市民として、人々は「これらの個人データが私に不利益に利用されるのではなく、倫理的に使用され、すべてが監視されていることを確認したい。私の人生に影響を与えるこのアルゴリズムの背後にあるものを理解したい」と言うでしょう。そして、今後登場する多くのスタートアップ企業や研究所、あるいはイニシアチブが、顧客に「私たちが使用するアルゴリズムと、バイアスの有無について、より深く理解していただく機会を設けています」と訴えるようになるでしょう。これはAIにおける次の波の一つだと確信しています。民間企業へのプレッシャーは高まるでしょう。こうした新しいアプリやサイトは、「大丈夫です！この会社やアプリをご利用ください。すべて私たちがクロスチェックしています。安全です」と人々に伝えることができるでしょう。あるいは逆に、「このウェブサイト、このアプリ、またはこの研究モデルにアクセスしても安全ではありません。保証はありません。アルゴリズムに関する正しい情報を確認またはアクセスできなかったためです」と伝えることもできるでしょう。

NT： AIが民主主義をどう変えるかについてお話されるとき、AIベースのアルゴリズムからの推奨に基づいて意思決定を行う日、労働改革はどうあるべきかを教えてくれるシステムがあって「OK」と言う日を想像されますか？

EM:現時点では、AIは役立つと思います。しかし、AIが意思決定の方法を置き換えることは決してありません。意思決定は、一連のクロスチェックの結果です。AIが役立つのは、改革を承認する際に、直接的または間接的な潜在的な影響が完全には明確でなく、ためらうことがあるからです。だからこそ、AIは正しい意思決定を支援します。アルゴリズムは、この部分に関係します。例えば、経済・社会改革においては、直接的および間接的な測定可能な影響についてより明確な見解を持つことができます。しかし、それに加えて、政治的な決定を下す際には、ある程度の個人的な判断が必要です。それが意思決定者の資質であり、AIがそれを置き換えることは決してありません。そして、AIが決して置き換えることのできないものがあります。それは説明責任と責任です。これは彼の決定であり、彼はその責任を負うことになるため、政治指導者は「申し訳ありませんが、この決定はアルゴリズムの決定でした」と言うことはできません。

NT：少し混乱の話に戻りましょう。交通については、スピーチでも何度も触れられましたね。AIは交通に大きな混乱をもたらし、自動運転車の普及に伴い多くの人が職を失うことになるでしょう。新たな雇用も創出されるでしょうが、これは既にフランスで人々が抗議活動を行っている分野です。今週末には鉄道ストライキがあり、秋にはトラック運転手のストライキがありました。既に猛烈な抗議活動が続いている業界を混乱させる勢力に加担することは、大きなリスクを負うことになるのではないでしょうか？

EM：この国、そして多くの国には、論争の伝統があると思います。私は、多くの人がフランスでは不可能だと思っていた一連の改革に着手しました。ですから、人々に説明し、十分なエネルギーと決意があれば、そのような改革を成立させることは絶対に可能だと確信しています。私は決して躊躇していませんし、人工知能（AI）を扱い、その正当な導入を国民に納得させることに、動揺したり、脅威を感じたりすることも決してありません。消費者として、彼らは既に人工知能の大ファンです。そして、革新的なソリューションの大ファンです。テクノロジーに携わる人々は皆、フランス市場が非常に優れていると言うでしょう。ここの人々はテクノロジーを愛しています。だからこそ、私が就任当初から一貫して貫いてきた哲学は、「変化を阻止し、雇用を守ることに焦点を当てるのは正しい答えではない」ということです。守るべきは人々です。彼らに機会を与え、新しい仕事に就けるよう訓練と再訓練を重ねることで、守るべき人々なのです。変化は必ずや起こり、人々はそれを受け入れるだろうからと、それを阻んではいけません。しかし、変化をより深く理解し、対処するために、変化の最前線に立つよう努めましょう。変化は短期的には雇用を奪う可能性がありますが、同時に他の分野で新たな雇用を生み出すこともあります。

私にとって、人工知能の重要な課題の一つは、おそらく最も再現性が高く、負担の大きい人間の活動が減少するだろうということです。そして当然のことながら、低、中、高の資格を持つ人々にとって、様々な機会が創出されるでしょう。私たちの社会にとって大きなリスクは、非常に高い資格を持つ人々、つまりある意味では非常に低い資格を持つ労働者だけに機会が拡大することです。特に中流階級の資格を監視することが重要です。なぜなら、彼らは最も大きな混乱に見舞われる可能性があるからです。あなたの例で言えば、タクシー運転手、産業界の労働者、あるいは非常に反復的な作業に従事する人々がこれに該当します。ですから、彼らには活動分野を変えるか、機械と連携して働くための資格を高めるよう訓練する必要があります。私たちは機械と連携して働く人々を必要とするでしょう。

自動運転車が運転手なしで存在するとは信じていません。私にとっては、それは単なる空想の域を出ません。飛行機を運転する完全自動運転プログラムはすでに存在します。つまり、技術的には無人飛行機も実現可能です。しかし、たとえほぼすべてが自動化されたとしても、どの飛行機にも2人のパイロットが乗ることになります。それはまさに、責任感が必要だからです。つまり、自動運転車によって軽減されるのはリスクの数です。長時間運転することの苦痛は軽減されますが、自動運転車にとって重要な瞬間には、人間が重要な判断を下す必要があります。私はその点についてはほぼ確信しています。つまり、AIは運転の慣習を変えるでしょうが、多くの場合、交通機関の雇用を奪うことはないのです。

要するに、私が言いたいのは、まさに私が変化を歓迎するからこそ、国に変化を納得させることができるということです。私の役割は、この変化を阻止することではなく、人々がこの新しい世界で機会を得られるよう、訓練、あるいは再訓練することです。

NT：分かりました。軍事的な質問をさせていただきます。国連で自律型致死兵器の規制について議論が行われていることは承知しております。機械、つまり人工知能が、人間の介入なしに殺害の判断を下せるほど信頼できるとお考えでしょうか？

EM:私はそれに断固反対です。なぜなら、常に責任と責任の表明が必要だと考えているからです。技術的に言えば、状況によってはある程度の自動化も可能です。しかし、自動化や機械をまさにそれを行うための状況に置くと、責任の欠如が生じます。私にとってこれは重大な問題です。ですから、それは絶対に不可能です。だからこそ、常に人間による確認が必要なのです。そして、ある意味では、人間による介入も必要です。ある時点では、機械はすべてを準備し、不確実性を減らし、ゼロになるまで減らすことができます。それは機械なしでは不可能な改善です。しかし、ある時点では、実行か中止かの決定は人間が行うべきです。なぜなら、誰かが責任を持つ必要があるからです。

NT：人工知能（AI）をめぐる国家間の競争についてお伺いします。イーロン・マスク氏は数ヶ月前に「国家レベルでのAIの優位性をめぐる競争こそが、第三次世界大戦を引き起こす可能性が高い」とツイートしました。マスク氏の発言は誇張していると思いますか？それとも、特に米国と中国の間で、この競争は非常に熾烈になると思いますか？

EM:非常に熾烈になると思います。しかし、それほど悲観的ではありません。なぜなら、人工知能の根幹は研究であり、研究はグローバルなものだと考えているからです。そして、この人工知能は永続的に協力と競争を伴います。競争力を維持したいのであれば、オープンな世界と多くの協力が必要です。そして、ある時点では、いくつかの問題においては競争が必要になります。しかし、ある種の主権について再考する必要があると思います。今日のスピーチでもこの点に触れました。人工知能は、民間の大手企業と、膨大なデータを持つ一つの政府（中国）が存在する、グローバルなイノベーション・スキームです。私の目標は、この議論の冒頭で述べたように、特に規制に関して、AIにおけるヨーロッパの主権を再構築することです。各国が共同の選択を守ろうとする中で、規制のための主権争いが繰り広げられるでしょう。他のセクターと全く同じように、貿易とイノベーションをめぐる争いが繰り広げられるでしょう。しかし、私はそれがイーロン・マスク氏が語るような極端なレベルまで進むとは信じていません。なぜなら、進歩を望むなら、オープンイノベーションモデルには大きな利点があると思うからです。

NT：少し皮肉な回答になりますが、お聞きしたいことがあります。フランスがAIセクターの構築に着手すれば、ある意味ではGoogleやFacebookと競合することになります。そうなると、欧州とフランスにとって、FacebookとGoogleをこれまで以上に厳しく規制するインセンティブが生まれるのではないでしょうか。規制強化や独占禁止法の導入を促すような奇妙な力学が生まれるのではないでしょうか。

EM:全く逆のことを言いたいですね。今日、GoogleやFacebookといったAI企業は大歓迎です。多くの人が彼らを歓迎しています。これらの企業はフランスに投資し、多くの優秀な人材を採用し、ここで雇用を生み出しています。つまり、彼らは私たちのエコシステムの一部なのです。これらの巨大企業にとっての問題は、いくつかの問題に対処しなければならないということです。まず、独占状態における非常に典型的な問題があります。彼らは巨大企業です。ある時点で――これはヨーロッパの問題ではなく、アメリカの問題だと思いますが――政府や国民が「目を覚ませ。彼らは大きすぎる」と言うかもしれません。単に潰せないだけでなく、統治できないほど大きすぎるのです。これは全く新しいことです。ですから、この時点で解体を選択するかもしれません。石油産業の黎明期にこれらの巨大企業が台頭していた時に起こったことです。これは競争の問題です。

しかし第二に、彼らは完全にデジタルな企業であるため、領土問題を抱えています。彼らは伝統的な経済セクターを破壊しています。ある意味では、彼らは新しいソリューションも提供できるので、これは良いことかもしれません。しかし、私たちは国民を再教育しなければなりません。これらの企業はその費用を負担しません。政府が負担するのです。今日、GAFA（Google、Apple、Facebook、Amazonの頭文字をとった略称）は、ヨーロッパで本来支払うべき税金をすべて支払っていません。そのため、彼らは自らが生み出す負の外部性への対処に貢献していません。そして、彼らは破壊するセクターに負担を求めています。なぜなら、彼ら、つまり旧来のセクターは、付加価値税や法人税などを支払っているからです。これは持続可能ではありません。

第三に、プライバシーに関するルールに関しては、国民が主権を維持すべきです。フランスとヨーロッパには、この点に関してそれぞれの好みがあります。私は、プライバシーをこのように、あるいはあの方法で保護したいと考えています。アメリカには同じルールはありません。アメリカのプレーヤーについて言えば、フランスの人々に、アメリカのプレーヤーが私たちの規制を尊重することをどのように保証できるでしょうか？いずれ、彼らはこれらのルールに従い、実際の法的組織を設立し、ヨーロッパに法人化しなければなりません。つまり、情報処理や組織化などにおいて、彼らはよりヨーロッパ的、あるいは国家的な組織を必要とするでしょう。それはつまり、私たちもより分断された世界に合わせて自らを再設計しなければならないことを意味します。説明責任と民主主義は国家レベルや地域レベルでは実現しますが、世界規模では実現しないからです。この道を歩まなければ、フランス国民を守り、彼らの権利を保証することはできません。そうしなければ、フランス企業が公正な扱いを受けていることを保証できません。今日、GAFAについて話す時、私は彼らを大歓迎します。彼らが私のエコシステムの一部となることを望んでいますが、彼らはデジタル経済や従来型経済の他のプレーヤーと同じ公平な条件で競争していません。そして、長期的には、国民の集合的な好みや私のルールがこれらのプレーヤーによって完全に実行されることを保証することはできません。なぜなら、米国側には同様の規制がないからです。私が確信しているのは、もし私がいつかこの議論を行い、彼らを規制しなければ、私はもはや主権国家ではなくなる状況に陥ってしまうということです。

NT：でも、この二つの目標はすごく矛盾しているんじゃないですか？GAFAがフランスに来ることを強く望んでいて、それを宣伝してきました。Googleは2012年から（フランスで）AIに投資しています。でも同時に、GAFAを取り締まりたいとも強く思っています。どうやって両方を同時に実現するんですか？

EM:いいえ。まず、GAFAだけではないと思います。他にも多くの企業、スタートアップ企業などが存在します。そして、彼らでさえ、この国の民主主義や政治の問題に取り組まなければならないことに気づき始めていると思います。

NT:彼らはそれを学び始めたばかりです!

EM：ええ、ええ！公平です。まさに最初の段階の終わりです。規制が全くなく、あらゆるルールを自分たちで決められるような状況だった初期の段階です。これからは政府と交渉しなければなりませんが、私は協力的に対応したいと思っています。「もうこの人はいらない」とは言いたくありません。正反対です。私は永続的な対話を望んでいます。しかし、彼らには私の制約を理解し、尊重してほしいと思っています。私の考えに共感し、彼ら自身の考えも考慮してほしいと思っています。責任がなく、明確な民主的な説明責任のない世界は実現不可能だということを、彼らにもっと理解してもらいたいのです。

NT：分かりました。では、大きな質問に戻りますが、成功とは何でしょうか？これがうまくいったとどうやって判断するのでしょうか？そして、失敗とは何でしょうか？数年後にこれを振り返った時、どうでしょうか？

EM:まず、この質問に答えるのは非常に難しいと思います。なぜなら、定義上、5年後に人工知能がどうなっているのか明確な見通しを持っていないからです。しかし、モビリティ、防衛、ヘルスケア、フィンテックなどを扱う、ヨーロッパでナンバーワンの人工知能エコシステムを構築できれば、成功と言えるでしょう。そして、フランス国民の大多数がこの変化を理解し、支持してくれれば、それは成功と言えるでしょう。私たちが不安にとらわれ、大きな恐怖に阻まれて立ち往生してしまうのであれば、それは失敗と言えるでしょう。私が懸念しているのは、イノベーションのスピードと一部の実践と、私たちの民主主義社会の多くの人々がそれを消化するのに必要な時間との間に乖離があるということです。研究者、民間企業、スタートアップ企業、そして国民から、ある種の相互信頼を築かなければなりません。最初のカテゴリーの人々が、ある国が自分たちにとって意味のあるエコシステムだと信頼し、同時に、私が国民のAIに対する信頼を築くことができれば、私の仕事はこれで終わりです。もし彼らのうちの一人と信頼関係を築けなかったら、それは失敗です。

人工知能に関する真の知恵

• グーグルやアマゾンが気づいているように、誰もが人工知能を受け入れる準備ができているわけではない
• ロボットがあなたのジョブラーンのスプレッドシートを取得するのではないかと心配ですか?
• 人工知能がますます進化する中、2018年に注目すべき5つの難題をご紹介します。