バラク・オバマ氏、人工知能、自動運転車、そして人類の未来について語る

WIREDのクリストファー・アンダーソン/マグナム・フォト撮影

今後50年間で、人工知能以上に世界を形作る技術を一つ挙げるのは難しいでしょう。機械学習によってコンピューターが自己学習できるようになるにつれ、医療診断から自動運転車に至るまで、数多くのブレークスルーが生まれています。同時に、多くの懸念も生まれています。誰がこの技術を管理するのか？私たちの仕事を奪ってしまうのか？危険なのか？オバマ大統領はこれらの懸念に積極的に対処しようとしていました。そして、彼がこれらの懸念について最も話したかったのは？起業家でMITメディアラボ所長の伊藤穰一氏です。そこで私は、ホワイトハウスで彼らと座り、AIをめぐる期待、誇大宣伝、そして不安を整理しました。そして、スター・トレックについて一つだけ短い質問をさせてください。—スコット・ダディッチ

スコット・ダディッチ：お二人ともお越しいただきありがとうございます。大統領、今日はいかがお過ごしですか？

バラク・オバマ：忙しい。生産的だ。ご存知の通り、あちこちで国際的な危機がいくつかあった。

ダディッチ：今日の会話の中心は人工知能についてです。人工知能はSFから現実のものとなり、私たちの生活を変えています。真のAI時代が到来したと感じたのはいつですか？

オバマ氏：私の全体的な見解としては、AIは様々な形で私たちの生活に浸透しつつあり、私たちはそれに気づいていないということです。その理由の一つは、AIに対する私たちの考え方が大衆文化に染まっているからです。読者の皆さんにはよくご存知だと思いますが、汎用AIと特殊AIという区別があります。SFでよく聞くのは汎用AIですよね？コンピューターは人間よりも賢くなり始め、最終的には人間はそれほど役に立たないと判断し、私たちを太らせて幸せにするために薬を投与するか、マトリックスの世界に連れて行かれます。私の最高の科学顧問と話した印象では、まだかなり遠い道のりです。これは考える価値があります。なぜなら、それは私たちの想像力を広げ、選択と自由意志の問題について考えさせてくれるからです。そして、特殊AI、つまりアルゴリズムとコンピューターを用いてますます複雑なタスクを解決するAIには、実際に重要な応用分野があるのです。医療や交通から電力供給に至るまで、私たちの生活のあらゆる側面にAIが活用され始めており、AIははるかに生産性と効率性を高めた経済の創出を約束しています。適切に活用すれば、莫大な繁栄と機会を生み出すことができます。しかし、雇用を奪わないためには、AIにはいくつかの欠点も存在します。不平等を拡大させ、賃金を抑制する可能性があります。

伊藤穰一： MITの学生の中には、この話を聞いて腹を立てる人もいるかもしれませんが、私が懸念していることの一つは、AIを中心としたコンピュータサイエンスの中核を担っているのは、主に白人の男性ばかりで、彼らは人間よりもコンピュータと話すことに慣れているということです。彼らの多くは、SFのような汎用AIさえ作れば、政治や社会といった厄介な問題を心配する必要がなくなると考えています。機械が全てを解決してくれると考えているのです。

オバマ：その通り。

伊藤：しかし、彼らは難しさを過小評価しています。今年は人工知能が単なるコンピュータサイエンスの問題以上のものになる年だと感じています。AIの振る舞いが重要であることを、誰もが理解する必要があります。メディアラボでは「拡張知能」という言葉を使っています^。1。問題は、AIに社会的な価値をどのように組み込むかということです。

オバマ氏：少し前に昼食を共にした際、ジョイは自動運転車を例に挙げました。この技術は既に実現しています。私たちは、交通事故による死亡者数を大幅に減らし、交通網の効率を劇的に向上させ、地球温暖化の原因となっている炭素排出などの問題の解決に貢献できる、素早い判断を下せる機械を手に入れました。しかし、ジョイは非常に洗練された指摘をしました。それは、私たちが車にどのような価値を組み込むのか、ということです。多くの選択肢が提示されるでしょう。典型的な問題は、車が走行中であれば、歩行者との衝突を避けるためにハンドルを切ることはできますが、壁にぶつかって命を落とす可能性もあるということです。これは道徳的な判断であり、誰がそのルールを決めるのでしょうか？

伊藤：トロッコ問題^{2 を}やった時、運転手と乗客を犠牲にしても多くの人を救えるという考え方に、ほとんどの人が賛成していることがわかりました。しかも、自動運転車は絶対に買わないと言っていました（笑）。

ダディッチ：こうした倫理的な問題に立ち入っていくと、政府の役割は何でしょうか?

オバマ氏： AIが登場する中で、規制構造について私が考えているのは、技術の初期段階では、千の花が咲くべきだということです。政府は比較的軽い介入を行い、研究に多額の投資を行い、基礎研究と応用研究の間の対話を確実に行うべきです。技術が登場し成熟するにつれて、それらを既存の規制構造にどのように組み込むかを考えることがより困難になり、政府の関与がさらに必要になります。必ずしも新しい技術を既存の枠に押し込むのではなく、規制が幅広い価値観を反映していることを確認する必要があります。そうでなければ、特定の人々や特定のグループに不利益をもたらす可能性があります。

伊藤：ニューロダイバーシティ運動についてご存知かどうか分かりませんが、テンプル・グランディン^3世はこのことについてよく話しています。彼女は、モーツァルト、アインシュタイン、テスラがもし現代に生きていたとしたら、皆自閉症とみなされていただろうと言っています。

オバマ氏：彼らはスペクトラム障害を抱えているのかもしれない。

伊藤：そうですね、スペクトラムですね。もし自閉症を根絶し、すべての人を神経学的に正常な状態にすることができれば、MITの学生の多くは今の姿とは違っているでしょう。自閉症に限らず、より広い意味での多様性についても言えることですが、問題の一つは、市場原理に判断を委ねてしまうことです。たとえアインシュタインのような子供は望まないとしても、「まあ、普通の子供が欲しい」と言っても、社会全体の利益には繋がりません。

オバマ：それは、AIをめぐって私たちが常に取り組んでいる、より大きな問題に繋がります。私たちを人間らしくするものの一つは、その欠点です。突然変異、異常値、欠陥こそが芸術や新しい発明を生み出すのです。システムが完璧であれば、それは静的であると仮定しなければなりません。そして、私たちを私たちたらしめているもの、そして私たちを生き生きとさせるものの一つは、私たちが動的であり、驚きを感じていることです。私たちが考えなければならない課題の一つは、いつ、どこで、物事が驚きなく、あるべき姿通りに機能することが適切なのかということです。

ダディッチ氏：政府、民間企業、学術界に適用される拡張インテリジェンスについて話すとき、その研究の中心は、もしあるとしたらどこにあるべきでしょうか?

伊藤： MITはMITでやるべきだと主張するでしょう。（笑）歴史的には、政府の支援を受けた学者集団が中心となって運営されていたでしょう。しかし、現在では、数十億ドル規模の研究所のほとんどが事業化しています。

オバマ氏：私たちは彼らに資金を提供している人たちを知っています。ラリー・ペイジ氏や他の人たちに話を聞くと、彼らの一般的な態度は当然ながら、「私たちがユニコーンを追いかけるときに、官僚の一団が私たちの足を引っ張るのは、私たちが最も望まないことです」というものです。

私たちが直面している問題の一つは、社会全体として基礎研究へのコミットメントが薄れてきたことです。集団行動への信頼は、イデオロギーやレトリックのせいで、少しずつ失われつつあります。

50年経った今でも、偉大な技術成果について私たちがよく例えるのは、月面着陸です。ある人が、宇宙計画がGDPの0.5%だったことを思い出させてくれました。大したことではないように聞こえますが、今日のドル換算で年間800億ドルをAIに費やしていることになります。今のところ、AIに費やしている金額はおそらく10億ドルにも満たないでしょう。この傾向は間違いなく加速するでしょう。しかし、私たちが理解しなければならないのは、多様なコミュニティの価値観をこれらの画期的な技術に反映させたいのであれば、政府の資金提供が不可欠だということです。もし政府が資金提供に関与しなければ、ジョイ氏が提起したこれらの技術に埋め込まれた価値観に関する問題は、最終的に見落とされるか、少なくとも適切な議論がなされない可能性があります。

ダディッチ：ジョイが書いた、非常に興味深い葛藤について触れていらっしゃいますね。それは、周縁で起こるイノベーションと、宇宙計画のような分野で起こるイノベーションの違いです。こうしたアイデアを確実に伝達するにはどうすればいいのでしょうか？

オバマ氏：政府が資金を提供し、データ収集を支援しているからといって、それを独り占めしたり、軍だけが保有したりするわけではないことを強調してきました。具体的な例を挙げましょう。私たちの精密医療プロジェクトの一部は、多様なアメリカ人から十分な規模のヒトゲノムデータベースを収集することです。しかし、スタンフォード大学やハーバード大学に資金を提供してサンプルを独り占めさせるのではなく、私たちは今、誰もがアクセスできる遺伝子データベース全体を保有しています。共通の価値観と共通の構造によって、研究が共有され、特定のグループが金銭化することを防ぎます。

ダディッチ：しかし、確かにリスクは存在します。イーロン・マスクやニック・ボストロム⁴のような人々は 、AIが人間の理解能力を凌駕する可能性を懸念しています。今後、私たち自身だけでなく、人類全体を守ろうとする中で、こうした懸念についてどのように考えるべきでしょうか？

オバマ氏：まず、より差し迫った懸念事項からお話ししたいと思います。これは、この特殊なAIの分野では解決可能な問題であり、私たちはそれを意識しておかなければなりません。非常に複雑で多様なバリエーションを持つ囲碁を打てるコンピューターがあれば、ニューヨーク証券取引所で利益を最大化するアルゴリズムの開発も容易に想像できるでしょう。もし、ある人物や組織が先にそれを実現すれば、株式市場はあっという間に暴落する可能性があり、少なくとも金融市場の健全性に疑問を投げかける可能性があります。

あるいは、「核兵器のコードを解読してミサイルの発射方法を見つけ出せ」と命令するアルゴリズムが存在するかもしれません。もしそれが唯一の仕事で、自己学習型で、ただ非常に効果的なアルゴリズムだとしたら、問題があります。国家安全保障チームへの私の指示は、機械が世界を制圧することについてはまだそれほど心配する必要はないということです。非国家主体や敵対的な主体がシステムに侵入する能力について心配すべきです。その意味では、私たちが行っている多くのサイバーセキュリティの取り組みと概念的に変わりません。ただ、これらのシステムを展開する可能性のある者たちは、今やはるかに優れた能力を持っているので、私たちもより優れた能力を持たなければならないということです。

伊藤：概ね同意します。唯一の注意点は、今後10年以内に汎用AIが登場する確率がかなり高いと考えている人が少数いることです。しかし、私の見方では、それを実現するには、12個か20個の異なるブレークスルーが必要になるでしょう。ですから、これらのブレークスルーがいつ起こるかを見守ることができるのです。

オバマ：そして、誰かが電源コードの近くにいなければなりません。[笑い] まさにそれが起こりそうになったら、壁から電気を引き抜かなければなりません。

伊藤：大切なのは、AIを良いことに使いたいと思っている人々、つまりコミュニティやリーダーを見つけ、彼らがAIを使えるようにするにはどうしたらいいかを考えることです。

オバマ氏：従来、セキュリティや自衛を考えるとき、私たちは鎧や壁といった概念を思い浮かべます。しかし、最近は医学に目を向け、ウイルスや抗体について考えることが多くなりました。サイバーセキュリティが依然として困難な理由の一つは、脅威となるのは、一群の戦車ではなく、ワームの侵入に対して脆弱なシステムの集合体だからです。つまり、私たちはセキュリティについてこれまでとは異なる考え方をし、魅力的ではないかもしれないが、最終的には何よりも重要になるかもしれない、異なる投資を行う必要があるということです。

私が多くの時間を費やして心配しているのは、パンデミックのような問題です。次の致死性の空気感染性インフルエンザが我が国に上陸するのを防ぐために壁を築くことはできません。むしろ、私たちに必要なのは、世界中のあらゆる場所に公衆衛生システムを構築し、何かが出現した際に知らせてくれるトリガーをクリックし、ワクチンをよりスマートにするための迅速なプロトコルとシステムを確実に整備することです。ですから、公衆衛生モデルを取り上げ、サイバーセキュリティの問題にどう対処するかを考えれば、AIの脅威を考える上で非常に役立つものになるかもしれません。

伊藤：興味深いのは、マイクロバイオームに注目し始めると、殺菌ではなく、悪玉菌と戦うために善玉菌を導入するという戦略が効果的であることを示す証拠が数多くあるということです。

オバマ：その通り。今でもサニーとボー^5には舐めさせない。庭の芝生を散歩させると、彼らが拾い集めて噛んでいるものを見るから、それは嫌なんだ。（笑）

伊藤：クリーンの意味を再考する必要があります。サイバーセキュリティであれ国家安全保障であれ、同じです。厳格な命令を出したり、あらゆる病原体を排除したりできるという考え方は難しいと思います。

ダディッチ：これによって新たな種類の軍拡競争が生まれる危険性もあるのでしょうか？

オバマ氏：サイバーセキュリティ全般、特にAIに関する国際的な規範、プロトコル、検証メカニズムの構築は、まだ初期段階にあることは間違いありません。この問題を興味深いものにしているのは、攻撃と防御の境界線がかなり曖昧になっていることです。政府に対する不信感が高まっている今、それが困難を招いています。世界中にアメリカを卓越したサイバーパワーと見なす国々がある今こそ、「あなた方が自制するのであれば、私たちも自制する用意があります」と明言すべき時です。問題は、ロシア、中国、イランといった最も洗練された国家主体が、必ずしも私たちと同じ価値観や規範を体現しているわけではないということです。しかし、私たちが効果的な対策を講じるためには、これを国際的な問題として表面化させなければなりません。

伊藤：今は人々が互いに話し合いたい黄金期にあると思います。資金とエネルギーをオープンな共有に確実に投入できれば、大きなメリットがあります。孤立した状態ではうまく機能しませんし、今のところはまだ国際的なコミュニティです。

オバマ：ジョイの言う通りだと思います。だからこそ、この問題に関心のある方々と一連の会合を開いてきました。あまり話し合ってこなかったのですが、経済的な影響について真剣に考えなければならないという点に立ち返っておきたいと思います。なぜなら、今、ほとんどの人はシンギュラリティについてあまり心配していないからです。むしろ、「自分の仕事は機械に取って代わられるのだろうか？」と心配しているのです。

私はどちらかというと楽観的なほうです。歴史的に見て、私たちは新しい技術を吸収し、新しい雇用が生まれ、人々は移住し、生活水準は全体的に向上してきました。ただ、AIやその他の技術が広く応用できるようになった今こそ、少し異なる時代なのかもしれません。高いスキルを持つ人々は、こうしたシステムの中で非常に活躍しています。彼らは自身の才能を活かし、機械と連携することで、リーチ、売上、製品、サービスを拡大することができるのです。

低賃金で低技能の人々はますます不要になり、彼らの仕事は代替されないかもしれませんが、賃金は抑制されています。この移行をうまく乗り越えるためには、どのように対処するかについて社会全体で議論する必要があります。実際にはこれまで以上に生産量が増えているにもかかわらず、その一部が少数のトップ層に集中している状況で、どのように教育を行い、経済の包摂性を確保していくのでしょうか？人々が生活できるだけの収入を確保するにはどうすればよいでしょうか？芸術や文化への支援、あるいは退役軍人のケアといった面で、これは何を意味するのでしょうか？社会契約はこうした新たな技術に対応しなければならず、私たちの経済モデルもそれらに対応しなければなりません。

伊藤：どの仕事が置き換えられるかは、実は直感的に分かりにくいです。なぜなら、医療システムを理解し、診断などに優れたコンピューターがあれば、看護師や薬剤師は医師よりも置き換えられる可能性が低いでしょう。なぜなら、彼らはより安価だからです。弁護士や監査人といった非常に高度な仕事は、実際に消滅するかもしれません。一方、多くのサービス業、芸術、そしてコンピューターがあまり適していない職業は、置き換えられないでしょう。ユニバーサル・ベーシック・インカム⁶についてどうお考えか分かりませんが、人々が置き換えられ始めるのを見れば、学問の世界や芸術の世界のように、お金に直接結びつかない目的を持つ人々がいるような、別のモデルを検討できるという考えもあります。問題の一つは、「お金がなければ賢くなれるのか」という一般的な考え方があると思います。学問の世界では、お金がないのに賢い人がたくさんいます。

オバマ：まさにその通りです。まさにそれが、私が社会契約の再設計と呼んでいるものです。さて、ユニバーサルインカムが正しいモデルなのか、幅広い層に受け入れられるのか、という議論は、今後10年、20年にわたって続くでしょう。AIに取って代わられる仕事は、低スキルのサービス業だけではありません。高スキルの仕事であっても、反復的でコンピューターでもできる仕事である可能性はあります。しかし、議論の余地のないのは、AIがさらに浸透し、社会が豊かになるにつれて、生産と分配、つまり労働時間と収入のつながりがますます希薄化していくということです。コンピューターが多くの仕事をこなすようになるからです。その結果、私たちはより厳しい決断を迫られることになります。教師の仕事は非常に大変な仕事であり、コンピューターがうまくこなすのは非常に難しいにもかかわらず、私たちは教師の給与を低く抑えています。ですから、私たちが何を大切にしているのか、私たちが集団で何にお金を払う意思があるのか​​を再検討するには、教師、看護師、介護士、家にいる母親や父親、芸術家など、私たちにとって今非常に価値があるけれども、給与の順位では高くないすべてのものについて、話し合いを始める必要があります。

ダディッチ：大統領、政府における最大の課題を解決するために、どのような技術を検討していますか?

オバマ氏：政府をより顧客に優しくし、少なくともピザを注文したり航空券を買ったりするのと同じくらい簡単に税金を申告できるようにするには、やらなければならないことが山ほどあります。人々に投票を促したり、ビッグデータをもっと簡単に利用できるようにしたり、オンラインでの書類処理をもっとシンプルにしたりと、連邦政府、州政府、地方自治体を21世紀に適合させるには、膨大な量の仕事が必要です。連邦政府と民間部門の人材の差は、実のところそれほど大きくありません。しかし、テクノロジーの差は甚大です。私がここに来た当初、シチュエーション・ルームは『マイノリティ・リポート』のトム・クルーズのように、物を移動させるような超クールな場所だろうと想像していました。しかし、全く違います。 [笑い] 特に地球の反対側でテロリストを追跡することになると、映画では我々が何らかの形で持っているこの全知全能が示されますが、それはまだそこまでには至っておらず、大幅に資金が不足しており、適切に設計されていません。

テクノロジーをめぐるより広範な問題について言えば、気候変動への対応を的確に行い、歯止めをかけ、海面上昇を6フィート（約1.8メートル）回避する方法を見つけ出すことができれば、人類は必ず解決策を見つけられると確信しています。私はかなり楽観的です。私たちはこれまで多くの良い成果を上げてきましたが、まだ道のりは長いです。

インターネットの接続を、説明責任を果たし、透明性があり、安全な方法で規制する方法を模索しています。悪意のある人物を摘発しつつも、政府が私たちの生活全体に過大な権力を握り、抑圧の道具と化すことのないよう、しっかりと管理していく必要があります。私たちはまだその課題に取り組んでいます。これは技術的な問題でもあり、暗号化はその好例です。私は市民の自由を擁護する人々や国家安全保障の専門家と何度も何度も会ってきました。しかし、これは実に厄介な問題です。なぜなら、これらの問題をどのように解決すべきかという点について、誰も私に真に良い答えを与えてくれないからです。

これは最先端の問題なので、最後に付け加えておきたいのは、私は今でも宇宙に強い関心を持っているということです。次世代の宇宙旅行への道筋を探るには、資金が大幅に不足しています。民間部門による優れた取り組みも進んでいます。「一体どうせやるなら、やってみろ」という突飛なアイデアへの政府資金が、民間部門に取って代わられつつあるからです。宇宙飛行について考える時、私たちは今でも基本的にアポロ計画の頃に使っていたのと同じ化学反応を考えています。50年経った今、私たちは…ダイリチウム結晶がまだ存在しているかどうかは分かりませんが…何らかのブレークスルーが生まれるはずです。

ダディッチ：あなたは『スタートレック』のファンだと伺いました。あの番組はテクノロジーに対するユートピア的な見方からインスピレーションを得ていましたが、あなたの未来像はどのように形作られましたか？

オバマ：子供の頃、私は『スタートレック』が大好きでした。いつも楽しく見ていました。あの番組が長く愛されたのは、実はテクノロジーではなく、価値観や人間関係をテーマにしていたからです。だから、特殊効果がちょっと安っぽくて下手でも問題なかったんです。惑星に着陸すると、張り子の岩が山積みになっていました。（笑）でも、それは問題ではありませんでした。なぜなら、あの番組は真の意味で、人類共通の理念と、問題解決能力への信頼を描いていたからです。

最近の映画『オデッセイ』も同じ精神をとらえています。ストーリーが非常に複雑だったからではなく、様々な人々が問題を解決しようとする姿を描いていたからです。創造性と根性、そして努力を駆使し、もし何か解決策があれば、私たちはそれを解決できるという自信を持つのです。これこそが私がアメリカで最も好きな点であり、私たちが直面するあらゆる課題に対して世界中から人々を惹きつけ続ける理由です。この「私たちなら、解決できる」という精神です。そして私が科学において最も高く評価しているのも、この「私たちは解決できる」という考え方です。「私たちはこれを試してみよう。もしうまくいかなかったら、なぜうまくいかなかったのかを突き止め、次に別の方法を試そう」と考えます。そして私たちは失敗を喜びます。なぜなら、その失敗こそが、最終的に私たちが解決しようとしている問題の謎を解く方法を教えてくれるからです。もし私たちがこの精神を失えば、アメリカの本質、そして私が人間であることの本質だと考えるものを失ってしまうでしょう。

伊藤：全く同感です。『スタートレック』の楽観主義は大好きです。でも、連邦は驚くほど多様性に富んでいて、乗組員も多様ですし、悪者も大抵は悪人ではなく、ただ間違った方向に導かれているだけだと思います。

オバマ氏： 『スタートレック』は、どんな優れた物語でもありがちな、我々は皆複雑で、皆、少しずつスポック、少しずつカーク（笑）、少しずつスコッティ、もしかするとクリンゴン人の血も入っている、と語っています。でも、私が言いたいのは、それを理解することです。理解するには、障壁や違いを乗り越えて取り組むことが必要です。合理性を信じ、謙虚さを加味することが重要です。これは最高の芸術にも最高の科学にも当てはまります。我々は素晴らしい知性を持っており、それを使うべきだという意識があり、まだ表面を引っ掻いただけで、慢心しすぎてはいけないのです。知らないことがたくさんあることを忘れてはなりません。

スコット・ダディッチ（@sdadich）はWIREDの編集長です。

この記事は2016年11月号に掲載されています。

このインタビューは編集され、要約されています。

イラスト：ジョー・マッケンドリー。グルーミング：ジャッキー・ウォーカー。