国連はイスラエル・パレスチナ危機の解決にAI企業を雇用した

人工知能（AI）モデルの訓練では、通常、銃を突きつけ、運転手に車から降りるよう叫ぶ武装兵士と対面する必要はない。しかし、カルチャーパルスの共同創業者であるF・レロン・シュルツ氏とジャスティン・レーン氏が国連向けに開発しているシステムは、典型的なAIモデルではない。

「パレスチナ人のタクシー運転手が、立ち入り禁止の線を越えて運転していたので、イスラエル軍に呼び止められました。軍用ライフルを持った男です」とシュルツ氏はWIREDに語った。「だから、あれは冒険でした」

シュルツ氏とレーン氏は9月にヨルダン川西岸に滞在していたが、それはハマスが10月7日にイスラエルを攻撃し、この地域で少なくとも50年間で最悪の暴力事件の一つを引き起こすわずか数週間前のことだった。

シュルツ氏とレーン氏はともに現在ヨーロッパを拠点とするアメリカ人で、8月に国連と締結した契約の一環として現地に滞在し、イスラエルとパレスチナの紛争の解決策の分析に役立つことを期待して、この種としては初のAIモデルを開発していた。

シュルツ氏とレーン氏は、AIがイスラエルとパレスチナの間の「危機を解決できる」と主張すると、特にガザから毎日のように流れる恐ろしい光景を考えると、あからさまな敵意とまではいかなくても、相当な反発を招く可能性が高いことを認識している。そのため、彼らは自分たちがまさにそうしようとしているという主張をすぐに否定する。

「正直に言うと、もし私がそう表現したら、私もうんざりするでしょう」とシュルツ氏は言う。「重要なのは、このモデルは状況を解決するために設計されたのではなく、理解し、分析し、政策やコミュニケーション戦略の実施に必要な洞察を得るためのものだということです。」

この地域の紛争は何世紀にもわたって続いており、非常に複雑です。そして、現在の危機によってさらに複雑化しています。政治的解決を模索する数え切れないほどの試みは失敗に終わり、この危機の最終的な終結には、関係する両陣営だけでなく、おそらく国際社会全体からの支援が必要となるでしょう。こうした状況から、AIシステムが完全な解決策を単純に提示することは不可能です。CulturePulseは、紛争の根本的な原因を突き止めることを目指しています。

「これほど複雑な問題を単一のAIシステムで解決することはできないことは分かっています。私の意見では、それは決して実現不可能でしょう」とレーン氏はWIREDに語った。「実現可能なのは、インテリジェントなAIシステム、つまり紛争のデジタルツインを用いて、そこに存在する潜在的な解決策を探ることです。」

レーン氏が言及するデジタルツインとは、カルチャーパルスが開発中のマルチエージェントAIモデルのことで、最終的には地域の仮想バージョンを作成できるようになる。シュルツ氏とレーン氏によると、このモデルは過去の反復で、現実世界の人物と一致する人口統計、宗教的信念、そして道徳観を備えた、あらゆる人物を仮想的に複製してきたという。

合計すると、CulturePulse のモデルは各「エージェント」に対して、怒り、不安、性格、道徳、家族、友人、財政、包括性、人種差別、ヘイトスピーチなどの特性を含む 80 を超えるカテゴリを考慮できますが、すべての特性がすべてのモデルで使用されるわけではありません。

「これらのモデルは、数千、数百万の適応型人工知能エージェントをシミュレートし、それらが相互にネットワーク化された、完全な人工社会です。そして、より心理的に現実的で、より社会学的に現実的な方法で設計されています」とシュルツ氏は言う。「つまり、現実世界では倫理的に決してできないような方法で、PC上で実験できる、いわば人工的な実験室のようなものなのです。」

現在のプロジェクトは、まずイスラエル・パレスチナ紛争に関連する地域の社会生態学的側面をモデル化するため、これまでのプロジェクトよりも規模は小さい。しかし、将来的にプロジェクトが拡大されれば、国連はモデルを用いて、経済発展、安全保障の強化、政治的影響力の変化、その他様々な要因の変化に仮想社会がどのように反応するかを予測できるようになるだろう。シュルツ氏とレーン氏は、このモデルは現実世界の結果に対して95%以上の臨床的精度で結果を予測できると主張している。

「機械学習のようにランダムに学習してパターンを見つけるだけでなく、相関関係を示す統計学の域を超えています」とシュルツ氏は言う。「マルチエージェントAIシステムが紛争や分極化、あるいは平和的な移民政策を根底から構築するため、実際に因果関係にまで到達します。つまり、現実世界で試す前に、何を作りたいのかを示してくれるのです。」

AIとイスラエル・ハマス戦争をめぐる議論は、これまで生成AIによる偽情報の拡散という脅威に焦点を当ててきました。こうした脅威はまだ顕在化していませんが、あらゆる勢力が共有する偽情報や誤情報によって、ニュースサイクルは暗雲に覆われてきました。CulturePulseのモデルは、こうした混乱要因を排除するのではなく、これまでこの種の情報を分析に直接組み込んできました。

「私たちは、偏りのある素材を意図的にモデルに組み込むようにしています。心理的に現実的な方法でモデルに組み込む必要があるのです」とレーン氏は言う。

過去1ヶ月間、イスラエルとガザ地区で発生した恐ろしい虐殺と人道危機は、深く根付いた紛争の解決が喫緊の課題であることを改めて認識させました。しかし、この地域で最近暴力事件が発生する以前から、国連開発計画（UNDP）は既に解決策を模索し、新たな選択肢を模索していました。8月にはカルチャーパルスと5ヶ月間の最初の契約を締結していました。

紛争状況への人工知能技術の応用は少なくとも1996年から行われており、機械学習は紛争発生場所の予測に利用されています。この分野におけるAIの活用はその後拡大し、平和維持活動におけるロジスティクス、訓練、その他の側面の改善に活用されています。レーン氏とシュルツ氏は、人工知能を活用することで紛争の根本原因をより深く掘り下げて発見できると考えています。

人間の行動を促す信念体系をモデル化する AI プログラムのアイデアは、レーン氏が 10 年前に北アイルランドに移住し、計算モデルと認知技術を利用して宗教暴力をめぐる問題を理解できるかどうかを研究したときに始まりました。

ベルファストでレーン氏は、アイデンティティと社会的結束の側面をモデル化し、特定の大義のために戦い命を落とす動機となる要因を特定することで、次に何が起こるかを正確に予測できることに気づいた。

「私たちは、人間の本質の何が時に衝突を引き起こすのかをより深く理解するのに役立つ何かを見つけ出そうと試みました。そして、そのツールをどのように使用して、より深く、より心理的な問題を非常に大きなスケールでよりよく処理または理解できるかを試しました」とレーン氏は言う。

彼らの研究成果は2018年に「人工社会と社会シミュレーションジャーナル」に掲載され、人々は通常は平和的だが、外部の集団が宗教的アイデンティティの中核原則を脅かすと暴力に訴えることが明らかになった。

1年後、レーンは自身が開発したモデルが、ブレグジット（英国のEU離脱、つまり北アイルランドと英国の残りの地域を隔てるアイリッシュ海に厳格な国境を設けることを含む英国のEU離脱）に伴う措置が、準軍事組織の活動の増加につながると予測したと記した。数か月後、このモデルは正しかったことが証明された。

レーン氏とシュルツ氏が開発したマルチエージェントモデルは、GDeltプロジェクトから5000万件以上の記事を抽出して分析したものだった。GDeltは、「世界のほぼあらゆる国の隅々から100以上の言語で発信される放送、印刷、ウェブニュース」を監視するプロジェクトである。しかし、研究者たちは、AIに何百万もの記事や文書を入力するだけでは不十分だと気づいた。北アイルランドの人々が隣人に対して暴力を振るう原因を完全に理解するには、独自の調査を行う必要があった。

レーン氏は数ヶ月かけて、英国王室に忠誠を誓う準軍事組織アルスター義勇軍（UVF）や、アイルランド島における英国統治の終焉を求める準軍事組織アイルランド共和軍（IRA）のメンバーなど、暴力行為に直接関与した人々を探し出し、彼らと面会した。これらのインタビューで収集した情報は、30年にわたって国を分裂させてきた暴力行為の背後にある心理をより深く理解するために、レーン氏のモデルに組み入れられた。

レーン氏は現在スロバキアを拠点としていますが、北アイルランド時代に築いた人脈を維持しており、少なくとも年に一度は現地に戻り、人々と再び話し、最新の情報でモデルを更新しています。こうした会話の中で、レーン氏がAIモデルには存在しない特定の問題や、特定の行動をとった理由を耳にした場合、チームはそれをモデルに組み込む前に、それを裏付ける実験室データがあるかどうかを確認します。

「もしデータが存在しない場合は、私たちは出かけて大学と共同で独自の実験を行い、証拠があるかどうかを確認し、それを私たちのプロジェクトに組み込みます」とレーン氏は言う。

近年、レーン氏とシュルツ氏は、南スーダンやバルカン半島の紛争など、世界中の状況をより深く理解するために、様々な団体や政府と協力し、自らのモデルを適用してきました。このモデルはシリア難民危機にも活用されており、レーン氏とシュルツ氏はギリシャのレスボス島を訪れ、難民とホストファミリーの統合を支援するための直接情報を収集しました。カルチャーパルスはまた、ノルウェー政府と協力し、不正確な情報が共有される理由をより深く理解することで、新型コロナウイルス感染症に関する誤情報の拡散に取り組んでいます。

こうした取り組みの成功の鍵は、現地で何が起こっているかを直接収集することです。そのため、8月にUNDPとの契約を締結した際、シュルツ氏とレーン氏が最初に手配しようとしたのは、イスラエルとヨルダン川西岸地区への訪問でした。そこで彼らは「約1週間」をかけてデータを収集しました。「国連や様々なNGOと面会し、村々を訪ねて、入植者の動向がどのようなものかを直接確認しました」とシュルツ氏は言います。二人はガザ地区への訪問を希望していましたが、事前に許可を得ることができませんでした。イスラエルへの訪問には、雇用主と面談し、このプロジェクトから具体的に何を得ようとしているのかを聞き出す時間も含まれていました。

「私たちは、会った国連職員からモデルに必要な関連情報を抽出し、彼らが動向を理解しているか、モデルの調整と最終的な検証に役立つ可能性のあるデータを持っているかどうかを把握するのに丸一週間を費やしました」とシュルツ氏は言う。

シュルツ氏は、国連がモデルに組み込むよう指定した詳細なパラメータについては語らなかったが、彼のチームは、モデルの構築と「彼らが望む結果につながる可能性のある条件とメカニズムをテストするために実行されているシミュレーション実験」について、Zoomを通じて国連チームに定期的に最新情報を提供している、と同氏は言う。

UNDPはWIREDのコメント要請にまだ応じていない。

CulturePulseとUNDPの契約は1月に終了しますが、同社は第2フェーズの契約を締結し、完全に機能するモデルを構築できることを期待しています。また、CulturePulseは今月、1995年のボスニア紛争終結以来、ボスニア・ヘルツェゴビナで依然として紛争の原因となっている文化・宗教問題の解決を支援するシステムの構築に向けて、UNDPと9ヶ月間の契約を締結しました。

レーン氏によると、国連がイスラエル・パレスチナ紛争でAIに頼る理由は、他に頼る手段がないからだ。「国連が私たちに伝えた言葉は、この状況ではもう簡単に解決できる方法はないということです」とレーン氏は言う。「国連は何か新しく革新的なもの、既成概念にとらわれず、かつ問題の根本的な問題に真に取り組むものを試す必要があったのです。」

2023年11月3日午後12時55分（東部標準時）に更新され、イスラエルとパレスチナの紛争に関連してCulturePulseが現在構築しているAIモデルの範囲と限界、および進行中のイスラエルとハマスの戦争前に同地域にいた際に創設者らがガザを訪問しようとした詳細について明確にしました。