AIは本を読めない。それでも書評はする

大規模言語モデルを経験した今、その限界はあまりにも明白だ。確かに彼らは文章を書くことができる。しかし、彼らの散文は、ジェニファー・イーガン、エミリー・セント・ジョン・マンデル、あるいはデイヴィッド・フォスター・ウォレスの言葉のように、脳内で爆発することはない。確かに彼らは音楽を作ることができる。しかし、テイラー・スウィフトやケンドリック・ラマーは夜ぐっすり眠っている。そして、彼らは確かに歴史を迅速かつ簡潔に要約することができるが、バーバラ・タックマンやロン・チャーナウのような洞察力は持ち合わせていない。とはいえ、法学修士課程はまだ始まったばかりだ。今後、さらに発展していくはずだ。

しかし、どれほど優れているのでしょうか？チェスからLSATまで、ロボットが到達不可能と思われていた領域をAIが制覇した事例は数多くあります。創造芸術の分野でも同じことが可能でしょうか？最近、私はこの疑問に囚われています。AIで生成されたものは、本当に素晴らしいものになり得るのでしょうか？

そういうわけで、先週受け取ったPRリリースの格好の標的になったのです。件名は「AI書評家？」。プレスリリースは「AIアバターによる初の書評」と謳っていました。私は書評を書いた経験があり、また私の本も書評を受けてきました。そして、書評の真髄は鋭く啓発的なものだということを自覚しています。誰かがAIを使ってそれを実現するためのコードを解読したのでしょうか？

そこで調べてみたところ、宣伝されていた「書評」は私が考えていたものとは全く違っていた。あるPR会社が『クラウド』という小説を宣伝していたのだ。英雄的な人間がAIの支配者に反撃するディストピア小説の一つで、その会社はAIを使った仕掛けを考案していた。AIが生成したキャラクターたち――反乱を起こしたアンドロイド、タイムトラベラーなど――を作り、彼らに本の評価を書かせていたのだ。

AI生成ビデオ。ヘンリー・ロイPR提供

アバターの話はここまで。それでも、この経験から、将来AIが本物の書評を作成できるようになるかもしれないと考えるようになりました。最先端の技術のベースラインを把握するために、ChatGPTに私の処女作『Hackers』の書評を依頼しました。この本は出版されてからしばらく経っているので、大規模な言語モデルが処理できる材料は豊富にあります。もしかしたら、ChatGPTは『Hackers』が日曜日のニューヨーク・タイムズ・ブック・レビューで受けたひどい書評を補うことができるかもしれません！（ワシントン・ポストの書評の方が良かったです。）ChatGPTは、AIモデルであるため意見や感情を持たないという免責事項を作品の冒頭に添えていました。それでも、ChatGPTは限界に挑戦しました。最初の段落はこうでした。

スティーブン・レヴィ著『ハッカー：コンピュータ革命の英雄たち』は、コンピュータ産業の黎明期とその発展を形作った先駆者たちを探求した傑作です。1984年に初版が出版された本書は、現代のコンピューティングとインターネット文化の基盤を築く上で重要な役割を果たしたコンピュータ愛好家、技術者、そしてプログラマーたちの世界を、洞察力に富み、魅力的に描いています。

悪くないですね。でも、『Hackers』が大好きだと言ってくれた人もいました。そういうファンは、レビューが熱意に欠けると思うかもしれません。だから、そういう忠実な読者のために（私のためではないので、ご承知おきください）、ChatGPTにもっと肯定的なレビューを書くように促しました。すると、数秒でそれに従いました。

スティーブン・レヴィ著『ハッカー：コンピュータ革命の英雄たち』は、読者をコンピュータ革命の刺激的で変革に満ちた黎明期へと誘う、まさに珠玉の書です。1984年に初版が出版されて以来、本書は時代を超越した傑作として、今日のデジタル世界の基盤を築いた輝かしい知性と限りない創造性を称えています。

ずっと良くなった。しかし、ChatGPTは感情や意見が欠けていることは認めているが、優れたレビューが果たす役割、つまり本を新しい洞察力のある方法で解き明かすことはできなかった。そんなことはあり得るのだろうか？このことをさらに深く考えるため、私はピューリッツァー賞受賞作家で、ニューヨーク・タイムズ紙に数年間素晴らしい書評を書いてきたジェニファー・シニアに相談した。「書評をAIにアウトソーシングするのは奇妙に思える」というのが彼女の最初の反応だった。しかしその後、彼女はChatGPTに自分が書いた本のレビューを依頼し始めた。その結果は信憑性があったものの、他の人が書いたもの（彼女自身も含む）を言い換えているように感じた。「ある本の特定の箇所があまりにも曖昧で読みにくいと感じた場合、レビューには『本の一部が理解しにくい』と書かれていました」と彼女は言う。

問題は、将来のAI書評家がそのような判断を自ら下せるかどうかだった。「AIは文章を切り離してそのひどさを解析したり、本の引用文を使って作家がなぜ書けないのかを説明したりできるだろうか？」とシニアは疑問を呈した。現在のAIシステムではそのようなことはできないと我々は同意した。しかし、将来のAIシステムにはそれができるのではないかと私は考えている。大規模な言語モデルは、訓練なしで外国語を習得したり、コーディングを学習したりできる。したがって、これまでに書かれたほぼすべての単語を訓練した将来のシステムが、人間が良い文章と見なすものの例を特定することを阻むものは何もないだろう。

私がまだ確信を持てないのは、AIがシニア氏をはじめとする一流の批評家たちの批評と同じくらい新鮮で洞察力に富んだ判断を下せるかどうかだ。彼らにとって、読書という行為は自身の人生との共鳴を呼び起こし、思考プロセスを引き起こし、それが彼らの観察へと繋がる。シニア氏は、ロボットでそれが可能かどうか疑問視している。「最高の批評家が行うような読書体験を、AIが再現できるとは思えません」と彼女は言う。

チューリングテストのバリエーションとして、ロボットがまさにそれをできるかどうか、というのがあるだろう。しかし、それはAIが人間と同じようにタスクをこなせるようになったら、それ以上レベルアップしないと決めつけるという罠に陥ることになる。AI書評家は、人間が本を読むという体験をわざわざ再現しようとはしないかもしれない。優れた批評とは何かという論文を含む、これまでに書かれたあらゆる書物に関する包括的な知識を駆使して、将来のAI愛書家は、単なる人間が生み出せる以上の洞察力を持つ、ある種のハイパー批評に耽溺するかもしれない。もちろん、その時までに書評対象となる本の多くは、おそらく法学修士（LLM）によって書かれているだろう。

その間も、人間は依然として支配しています。ロンドン・レビュー・オブ・ブックスの購読をまだキャンセルしないでください。それでも、ChatGPTのレビューには魅力があります。実は、私には新しい趣味があります。法学修士（LLM）たちに、私の本のより良いレビューを書いてもらうことです。これが最新のハッカーズです。

本書の出版以来、コンピュータの世界は進化を遂げてきたが、その輝かしい響きは今もなお色褪せることはない。本書に示された予測は、歴史の織物と織り交ぜられながらも、レヴィの先見性と進歩の脈動を見抜く驚異的な能力の証であり続けている。要するに、『ハッカーズ：コンピュータ革命の英雄たち』は単なる一冊の本ではない。それは、時間、知性、そして人間の潜在能力の本質を巡る旅、オデッセイなのだ。スティーブン・レヴィの最高傑作は、過去を理解しようとするだけでなく、未来を切り拓いた先駆者たちの大胆さに触発されたいという人々の書棚に、安らぎの場として置かれるに値する。

人間が書いたらいいのに！ニューヨーク・タイムズで人間が書評を書いたなんて。

タイムトラベル

2012年に、スポーツや金融ニュースに関するアルゴリズム生成記事を制作する企業、Narrative Scienceについて記事を書きました。当時は、現在のような大規模言語モデルが登場する前のことでした。2021年に、Salesforceがこの企業を買収しました。

[CEO クリスチャン] ハモンド氏は、Narrative Science が成長するにつれ、同社の記事はジャーナリズムの食物連鎖の上位へと、つまりコモディティニュースから解説ジャーナリズム、そして最終的には詳細な長文記事へと進化していくと考えています。もしかしたら、人間とアルゴリズムがそれぞれの強みを活かしながら協力し合うようになるかもしれません。完璧な記憶力とデータへのアクセス能力を持つコンピューターは、人間のライターの足手まといになるかもしれません。あるいはその逆で、人間の記者が取材対象者にインタビューし、聞き逃した情報を拾い上げ、それをコンピューターに送り、コンピューターがそれをまとめて記事にするかもしれません。コンピューターの能力が向上し、より多くのデータにアクセスできるようになるにつれて、ストーリーテラーとしての限界はなくなるでしょう。時間がかかるかもしれませんが、最終的には、このような記事でさえ、私なしで制作できるようになるかもしれません。「人間は信じられないほど豊かで複雑な存在ですが、機械です」とハモンド氏は言います。「20年後には、Narrative Science が記事を書かない分野はなくなるでしょう。」

しかし今のところ、ハモンド氏はジャーナリストたちに、落ち込んでいる彼らを蹴飛ばそうとしているわけではないと安心させようとしている。彼は、シカゴの名門即興クラブ「セカンド・シティ」のマーケティングディレクターを務める妻と出席したパーティーの話を披露した。そこで、地元の著名な演劇評論家と会話を交わし、ハモンド氏の仕事について尋ねられた。ハモンド氏が自分の仕事内容を説明すると、評論家は動揺した。「ジャーナリズムの世界は十分に厳しい時代なのに、今度はライターをロボットに置き換えるつもりか？」と彼は言った。

「私はただ彼を見つめて尋ねました」とハモンドは回想する。「『リトルリーグの試合に記者がいるのを見たことがありますか？』と。それが私たちの一番大切なことです。私たちのせいで仕事を失った人は一人もいません」少なくとも今のところは。

一つだけ聞いてください

ジョンは、「クルーズのような自動運転車は試験に合格して運転免許を取得する必要がありますか？」と尋ねます。

ジョン、ありがとう。ちょうどサンフランシスコが自動運転車による24時間365日の配車サービスにゴーサインを出したばかりなので、タイムリーな質問ですね。ロボットカーがテストを受け、インストラクターが怒鳴り散らしながら指示を出すというコンセプトは興味深いですね。残念ながら、それは実現していません。自動運転車の運行を承認している州では、より非人間的な検証システムを採用しており、公道での走行を希望する企業は、安全性の証明を提出する必要があります。さらに、安全性が不十分な場合に備えて、万全の保険をかけていることの証明も必要です。

自動運転車が通常の免許取得ルートを辿れば、筆記試験は完璧にクリアするだろうと私は推測する。運転マニュアルは全部自動運転車の脳の中に入っているのだ！そして実際の運転試験では、最難関である縦列駐車も全く問題ないだろう。（あの車が狭い場所にすっぽり収まる様子は、まさに美だ。）しかし、申請者が制限速度以下でゆっくりと道路を走行し、何かが進路を塞いでいるところで急停止し、緊急車両の進路を妨害する時、免許試験官がどれほど苛立たしい思いをするかは想像に難くない。ロボットさん、もう一度試してみて！

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。