AIにできないこと

聴衆にこう問いかけてみましょう。「あなたが本当に好きで、インスピレーションを受けた小説を読んだとしましょう。そして読み終え​​た後で、その作者が人間ではなく、人工知能システム…つまりロボットだったと知ったとします。騙されたと感じる人はどれくらいいるでしょうか？」

ほぼ全員が手を挙げました。

その理由は、私たちが読書をするとき、いや、どんな芸術作品でも、どんな媒体でも、素晴らしい内容以上の何かを求めているからだ、と私は続けました。私たちは人間的なつながりを求めているのです。

これは、作家がずっと前に亡くなっていても当てはまります。もしチョーサーを読んでいる人がいるなら（もう出版中止になったのでしょうか？）、何世紀も経った今でも、14世紀に生きていた、ビールや蜂蜜酒を飲みながら語り合えたら最高だったであろう人物の心の中を、どういうわけか私たちは感じ取ることができるのです。実際、中英語で多少苦労するとしても、読むことで彼をより深く理解できるのです。（テンプル大学で中世文学を教えてくれた、私にとって最高の先生、アン・マトニスに感謝します。採点はとても大変でしたが。）

人間の著作性の意味についてのこの啓示は、日々私たちを悩ませているような難解なAI問題に向き合う中で、私の心の拠り所となってきた。今週、Googleのプロダクトマネージャーたちが、大規模言語モデルを搭載したチャットボット「Gemini」のAI新機能について説明する記者会見に出席した際に、私はこのことを考えた。（ちなみに、これは以前はBardと呼ばれていたボットだ。こうした企業は、パスポートがぎっしり詰まった貸金庫を持つスパイよりも頻繁に名前を変える。）新しく強化されたGeminiは、「生産性と創造性を飛躍的に向上させる」と彼らは謳っている。

生産性はアルゴリズムの圧倒的勝利だ。異論の余地はない。重要なのは創造性だ。

Googleはいくつかの実例を挙げてくれました。例えば、子供のサッカーチームのおやつの準備です。Geminiを使えば、どの試合に誰が何を持参するかを把握し、適切な相手にパーソナライズされたメールを送信し、さらには目的地の地図まで表示してくれます。これは、ありがたくない時間の無駄を省く素晴らしい方法のように思えます。生産性は抜群です！

2つ目の例は、愛犬の写真に「かわいいキャプション」をつけるというものでした。ジェミニは「バクスターは丘の上の王様！👑 世界の頂点に立つのは誰だ！」と付けてくれました。なかなか楽しいキャプションです。しかし、ソーシャルメディアに投稿する目的について考えさせられます。ソーシャルメディアは人と人との繋がりが全てです。愛犬の写真にピン留めされたコメントを共有することは、会話の一部です。ゴーストライターを使うと、キャプションを読む友人やフォロワーとの距離が必然的に縮まってしまいます。ロボットに会話の一部を任せるのは、極端なアウトソーシングのように思えます。

犬の散歩をしてくれる人を雇うのは問題ない。でも、えーっと、犬について話す人を雇うとなると？変だ。もしみんながそうしたらどうなるだろう？きっとキャプションをそんなに楽しめなくなるだろう。自動キャプションにコメントで返信した友人は、後になって自分が人工ニューラルネットワークで作られたものに返信していたのであって、生物学的なものではなく、人工ニューラルネットワークが作ったものだと知ったら、恥ずかしい思いをするかもしれない。あるいは、友人がジェミニに可愛い返事をするように頼むかもしれない。そうすれば、人間はロボットが会話する間、ただ座っていられる。その返答はトム・ストッパードの劇のように鋭いウィットを持つかもしれない。しかし、そこに人間的な繋がりは生まれない。

これらの言語モデルが莫大な利益をもたらすことは間違いない。助成金申請書を自動化できる！売上報告書を要約できる！子供たちに代数を教えることもできる！スプレッドシートに怪しい内容があれば教えてくれる！コードを書きまくることもできる！しかし、一部のコンテンツは接続に左右される。Google の説明会で提案された別のユースケースは、「仕事のための文書の作成を手伝ってほしい」というもの。Gemini はこれに対して素晴らしい成果を上げることができる。しかし、雇用者は応募者の推論能力、職務要件の理解、基本的な正気さを判断するためにそれらを読む。誰もが AI を使ってそれらの手紙を生成するようになれば、これらの要素は不透明になる。手紙を書くのはやめて、履歴書を送るだけでいい。本当の接続を得るためには、採用担当者は Zoom を使う必要があり、あなたがディープフェイクの複製を送ってこないことを祈るしかない。

コロンビア大学の英文学准教授デニス・イー・テネンは、最近出版された著書『ロボットのための文学理論』の中で、私や作家組合が抱くような懸念には前例があると述べている。テネン氏は、高尚なイメージとは裏腹に、執筆作業の多くは自動化されがちな慣習的な労働形態であると言う。彼は、プロセスをスピードアップし、作家のプロットを提供することさえできたコンピュータ時代以前の「テンプレート」技術の発展を挙げている。例えば、1895年には、ジョルジュ・ポルティというフランスの作家が『36の劇的状況』というテンプレート本を出版した。他の作品ではミステリー小説の要素を分解した。自分の作品を作るために組み合わせたり、メモでいっぱいのファイルキャビネットのような、より複雑なシステムが登場した。「当時の人たちには、それはとんでもないことに思えたんです」と、電話でテネン氏は私に話してくれた。「彼らは、『なんてことだ、それはできない、作家の才能を台無しにしている』と言ったんです」もちろん、それはまだ起こっていません。パルプ・フィクションやテレビのシットコムのように、厳格な公式を用いる一部の執筆分野でさえ、作家たちはその制約の中で独自の表現を試み、真の共感を得てきました。テネン氏は、AIでも同じことが起こると期待しています。「AIツールと人間の知性を駆使する一部の作家は、自動化の可能性を凌駕する存在になるでしょう」と彼は言います。

そう信じたいですね。ロボットがどれほど優秀になっても、作家、ミュージシャン、アーティストたちは、作品に鮮やかで雑然とした指紋を刻み込むでしょう。観客は、作品に表現された人間性を感じ取り、反応するでしょう。アマチュアレベルでは、AIが巧妙に作った写真のキャプションに慣れてしまい、自分なりの工夫を加える方が楽しいと気づくようになるかもしれません。

私たちが読み、見、聞くものの多くが、完全に作り上げられていないにせよ、ロボットによって共同制作される世界へと向かう私たちの容赦ない苦闘を止めるものは何もありません。これらのシステムは、さまざまな方法で、キーボードを打ち続ける疲れた手首から機械的な作業の重荷を取り除いてくれるでしょう。それでも、AI 企業の代表者が、私たちは言語モデルに「触発される」だろうと言うのを聞くと、私は警戒します。この言葉は、Google の説明会で何度も聞きました。人間は、素晴らしい散文、素晴らしい画像、素晴らしい音楽、その他の芸術形式に触発されます。もしかしたら、いつか私たちの AI システムが、最高の人間のアーティストが想像するのと同じくらい、あるいはそれ以上に素晴らしい芸術作品を生み出せるようになるかもしれません。しかし、重要なのは、人と人のつながりです。その違いがわからないのなら、神様、どうか私たちをお助けください。

タイムトラベル

AIの冬が明けて雪解けが始まったばかりの2012年4月にWIREDに寄稿した記事を、私は何度も読み返しています。シカゴに拠点を置くNarrative Scienceという会社がAIを使ってニュース記事を制作しているという記事です。当時、このアイデアは滑稽に思えました。見出しは「アルゴリズムは人間の記者よりも良いニュース記事を書けるか？」でした。いまだに答えは出ていませんが、12年前と比べると、針は「イエス」にずっと近づいています。

Narrative Scienceが始まったばかりの頃、メタライターたちはシステムが新しいテーマに取り組むたびに、苦労してシステムを教育する必要がありました。しかし、間もなく彼らは、アルゴリズムが新しい領域をより容易に学習できるようにするプラットフォームを開発しました。例えば、メタライターの一人は、特定の都市の最高のレストランに関する記事を作成するストーリーライティングマシンを構築することを決めました。彼女はレストランのレビューデータベースを用いて、関連する要素（高いアンケート評価、優れたサービス、美味しい料理、満足した顧客からの引用）を識別し、関連するフレーズを入力する方法をソフトウェアに素早く教え込むことができました。数時間で、彼女は「アトランタで最高のイタリアンレストラン」や「ミルウォーキーの美味しい寿司」といった、軽快な短い記事を無限に生み出すボットを完成させました。

[Narrative Science CEO] ハモンド氏は、Narrative Science が成長するにつれ、同社の記事はジャーナリズムの食物連鎖の上位へと、つまりコモディティニュースから解説ジャーナリズム、そして最終的には詳細な長文記事へと進化していくと考えています。もしかしたら、人間とアルゴリズムがそれぞれの強みを活かしながら協力し合うようになるかもしれません。完璧な記憶力とデータへのアクセス能力を持つコンピューターは、人間のライターの足手まといになるかもしれません。あるいはその逆で、人間の記者が取材対象者にインタビューし、聞き逃した情報を拾い上げ、それをコンピューターに送り、コンピューターがそれをまとめて記事にするかもしれません。コンピューターの能力が向上し、より多くのデータにアクセスできるようになるにつれて、ストーリーテラーとしての限界はなくなるでしょう。時間がかかるかもしれませんが、最終的には、今回のような記事でさえ、私なしで制作できるようになるかもしれません。「人間は信じられないほど豊かで複雑な存在ですが、機械です」とハモンド氏は言います。「20年後には、Narrative Science が記事を書かない分野はなくなるでしょう。」

一つだけ聞いてください

クエンティンは問いかける。「今日、より多くの利益を求める企業によるオンライン上でのデータの改ざん、情報漏洩、虚偽表示が蔓延しています。ソフトウェア開発者は、こうしたウェブ上の商業上の大きな落とし穴を回避するソフトウェアを提供したいと考えないのでしょうか？」

こんにちは、クエンティン。質問ありがとうございます。スパムや詐欺的な勧誘をブロックするソフトウェアはたくさんありますが、おそらくほとんどの人は何らかのフィルタリング機能を使っていて、そういったメールのほとんどを内蔵のスパムフォルダに直送しているのではないでしょうか。中には正当なメールもスパムとして分類されてしまうこともありますが、少なくとも招待に応じない言い訳にはなります。私のスパムフィルターにも引っかかっていたんです！

しかし、私たちは依然として、目の前に突きつけられる大量の情報を処理しなければなりません。そして、その多くは巧妙な詐欺です。PayPalやAmazonからの本物のメッセージを装ったスパムメールがあまりにも蔓延しているため、その背後にいる本当の企業は途方に暮れているに違いありません。幸いなことに、驚くほど多くのスパムメールはメールアドレスを見るだけで見分けられます。メールアドレスを見れば、明らかに企業ではない送信者であることが容易に分かります。

さらに厄介な問題は、まともな企業でさえ卑劣な方法で商品を売り込んでくることです。「信頼できるブランド」を自負する企業でさえ、カーニバルの呼び込みのように私たちのメールボックスに押し寄せてくることがあまりにも多いのです。オファーは常にラストチャンス（そう、ザ・フーのフェアウェルツアーのように）であり、「割引」は実際にはめったにお買い得ではありません。マーケターは、解約がほぼ不可能な長期サブスクリプションに私たちを縛り付けるために無料トライアルを提供します。彼らは私たちの銀行口座を肥やすと約束しますが、結局は減らしてしまいます。そして、たとえ私たちが騙されない商品を買ったとしても、彼らはその体験を評価するよう繰り返し要求し、オファーを4倍に増やします。AIは確かにそのような戦術を検知して警告するように開発できるでしょうが、同時に、より厄介な商業的な罠を設計するためにも利用されています。要するに、クエンティン、あなたの苦しみはよく分かります。私たちの受信トレイはホッブズ的な悪夢のようですが、すぐに状況が変わるとは思えません。ごめんなさい！

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。

終末クロニクル

えっ？グラミー賞授賞式なのに、みんなが「なんてひどいんだ」と文句を言ってるわけじゃないって？（ジェイ・Zは例外だけど、彼は「愛を込めて」文句を言ったと言ってたよ。）それにジョニとトレイシーも！

最後になりましたが、重要なことです

GoogleがBardをGeminiにリブランドする中、CEOのサンダー・ピチャイが今後の展望を語る。検索ではないかもしれない。

ジェミニの上級モデルもありますが、購入する人はいるでしょうか？

特異点が支配する 2054 年を舞台にした、6 部構成の素晴らしい架空の物語をここから始めましょう。

ビットコイン論文発表から16年が経った今も、サトシが誰なのか誰も解明できていない。今、裁判官が判断を下すことになる。