AIが社会に与える大きな贈り物は…簡潔な要約でしょうか?

ノンフィクション界の巨匠ロバート・カロの手法を端的に表すフレーズがある。「すべてのページをめくる」。このフレーズはカロと深く結びついており、彼に関する最近のドキュメンタリーや、ニューヨーク歴史協会で開催されている彼のアーカイブ展のタイトルにもなっている。カロにとって、研究対象に関するあらゆる文書の、一行一行に目を通すことは不可欠だ。たとえそれが、どれほど退屈で不都合なものであっても。些細なことのように思えることから、ある出来事に対する全く新しい理解が生まれたり、未知の源泉への道筋が見えてきたり、あるいは危機や偉業の責任者が誰なのかという謎が解き明かされたりすることもあることを、彼は学んできた。彼はキャリアを通じて、文字通り何百万ページにも及ぶ文書を熟読してきた。報告書、記録、記事、弁論要旨、書簡（ジョンソン大統領図書館だけでも4500万ページ！）。中には、ひどく退屈で、繰り返しが多く、あるいは無関係に思えるものもあった。しかし、彼はどんなに気を配り、ページをめくるという行為を続けた。カロの執拗なページめくりが、彼の作品を象徴的なものにしているのだ。

しかし、AI時代には新たなモットーがあります。ページをめくる必要など全くありません！インタビューの記録さえもです。ああ、会議に集中する必要も、出席する必要もありません。メールや同僚のメモを読む必要もありません。生の素材を大規模な言語モデルに入力するだけで、瞬時に要約が作成され、目を通すことができます。OpenAIのChatGPT、GoogleのGemini、そしてAnthropicのClaudeといった強力なツールが私たちの相棒となってくれるので、要約を読むことこそが今や準備と言えるでしょう。

LLM は要約が大好きです。少なくとも、開発者はそれを LLM に求めました。Google は現在、ドキュメントを「自動要約」し、「重要な情報をすばやく解析し、どこに重点を置くか」を決定できます。AI は Google Chat の未読の会話さえ要約します。Microsoft Copilot を使用すると、Excel スプレッドシート、PDF、Word 文書、または PowerPoint プレゼンテーションにカーソルを合わせるだけで、要点が表示されます。そうです。プレゼンテーションの要約された箇条書きでさえ、…より重要な部分に切り詰めることができるのです。Meta では、人気のある投稿へのコメントも要約されるようになりました。Zoom は会議を要約し、リアルタイムでカンニングペーパーを作成します。Otter などの文字起こしサービスでは、要約が前面に表示され、文字起こし自体は別のタブに表示されます。

なぜ要約にこだわるのでしょうか？法学修士課程から価値を引き出す方法を理解し始めたばかりの今、要約は最も分かりやすく、すぐに役立つ機能の一つです。もちろん、誤りや重要な点の見落としが含まれることもあります。承知しました。より深刻なリスクは、要約に頼りすぎると、私たちがより愚かになってしまうことです。

要約は結局のところ、大まかな地図であり、領土そのものではありません。ウディ・アレンが『戦争と平和』を20分でさらっと読み上げ、「これはロシアについてだ」と結論づけたジョークを思い出します。AIによる要約がそれほど曖昧だと言っているわけではありません。実際、それが危険なのは、AIによる要約が十分に優れているからです。要約によって、ある程度の理解を得た上で、内容を偽装することができます。ただし、深い理解には至りません。

例として、Otterのような音声録音のAI生成要約を考えてみましょう。ジャーナリストとして、自分で書き起こしをしないと何かが失われることを知っています。信じられないほど時間がかかります。しかし、その過程で、対象者が何を言っていて、何を言っていないかを本当に理解できます。ほとんどの場合、見逃していた何かが見つかります。書き起こしを注意深く読むことで、その一部を取り戻せるかもしれません。しかし、すべてが要約されていると、すぐに興味のある部分だけを見てしまい、テキストに埋もれた宝物を発掘する機会を逃してしまいます。

成功するリーダーは、こうした近道の危険性をずっと前から認識していました。だからこそ、ジェフ・ベゾスはアマゾンのCEOだった当時、会議でPowerPointの使用を禁止したのです。彼は部下に「6ページ」として知られる綿密なメモの作成を要求したことで有名です。6ページの作成は、マネージャーに提案内容を深く考えさせるもので、一言一言が提案の実行、あるいは失敗の鍵となる重要な意味を持つのです。ベゾスの会議の最初の部分は沈黙の中で行われ、全員が6ページ分の資料をめくります。要約は一切許されません！

公平を期すために言うと、要約に対する私の不快感に対する反論は可能です。法学修士（LLM）は全く努力することなく、すべてのページを読みます。ですから、要約以上のものを読みたい場合、適切な指示を与えれば、法学修士（LLM）は最も難解な事実を素早く見つけ出すことができます。もしかしたら、いつかこれらのモデルが、あなたが探しているものに合わせてカスタマイズされた、そのような貴重な情報を実際に特定し、浮かび上がらせるほどのスキルを持つようになるかもしれません。しかし、そうなれば、私たちはさらにそれらに依存するようになり、私たち自身の能力は衰えてしまうかもしれません。

長期的な要約マニアは、文章そのものの衰退につながる可能性があります。メール、文書、レポートの文章を実際に読む人がいないと分かっているなら、なぜ時間をかけて魅力的な読み物となる詳細を掘り起こしたり、機知に富んだ文章を練ったりする必要があるのでしょうか？ 100ページのレポートを大量に作成するよう依頼しても全く気にしないAIにライティングをアウトソーシングした方が賢明です。誰も文句を言うことはありません。なぜなら、彼らもAIを使ってレポートを箇条書きにまとめてくれるからです。もしそうなれば、文明の集合的な成果物は第三世代のゼロックス並みの品質になってしまうでしょう。

ロバート・カロに関しては、壮大なLBJサーガの第5巻の締め切りを何年も過ぎている。もし彼が50年近く前に大統領の物語を語り始めた頃に法学修士課程が存在していたなら――そして彼が実際に法学修士課程を利用し、これほど多くのページをめくらなかったなら――おそらくこのサイクル全体はとっくに完了していただろう。しかし、これほど素晴らしいものには程遠いだろう。

タイムトラベル

今年初め、Otter社のCEO、サム・リアン氏と話をする機会がありました。かつては音声文字変換に特化していた同社は、現在では会議ベースのAIツールを幅広く提供しています。要約機能はもちろんのこと、会議に出席して議論を主導するAIアバターといった、より先進的な機能も提供しています。このテーマに関するPlain Viewのエッセイで、こうしたツールは会議の目的を損なう可能性があるのではないかと考えました。

リアン氏に、会議でAIが目立つようになると、人間が出席する可能性が低くなるのではないかと尋ねた。概要が利用可能になることを知っていると、実際に出席する意欲が減退するようだ。リアン氏自身、招待された会議のほんの一部しか出席していないと言う。「スタートアップのCEOとして、会議への招待を大量に受け取ります。予約が2つ、3つと埋まっていることもよくあるんです」と彼は言う。「Otterを使えば、招待を確認して順位付けできます。内容、緊急性、重要性、そして私が出席することで何か価値がもたらされるかどうかに基づいて分類しています。」彼はCEOなので、辞退するのは簡単かもしれない。一方、上司が会議に出席することは、彼の考えを知る手がかりや提案への即座の同意を求めている人にとっては、その会議の価値を高める。

もちろん、会議の根底にあるのは、一人ひとりの存在が潜在的な価値を付加するという点です。しかし、全員が問題について意見を言える一人の人物に頼った瞬間に、空席しか見つからなかったら、会議の目的が達成されません。しかし、リアン氏はこの点にもAIによる解決策を持っています。「私たちは『Otter Avatar』というシステムを開発しています。これは、従業員が会議に行きたくない、病気、休暇などで都合が悪くなった場合に備え、各従業員専用のモデルをトレーニングするものです。このアバターは、過去の会議データやSlackのメッセージを使ってトレーニングされます。従業員に質問があれば、アバターが代わりに質問に答えてくれます。」

私は、これがAI軍拡競争につながる可能性があると指摘しました。「私は自分のアバターをすべての会議に送り込み、他の全員もそうするつもりです」と説明しました。会議はAIアバター同士が会話するだけの場となり、会議後には参加者はAI同士の会話の要約を確認することになるでしょう。

「そういうことは起こり得ます」とリャン氏は言う。「もちろん、直接個人的な関係を築きたい状況は常に存在します。」

一つだけ聞いてください

ジュディスはこう問いかけます。「STEM関連の自伝には、トランジスタ、ラジオ、ロケット、化学実験セットを使った子供時代の体験談が多く書かれています。今の子供たちは、こうした経験を逃しているのでしょうか？」

ジュディスさん、ご質問ありがとうございます。確かに、子供向けの科学実験の全盛期は過ぎ去ったのかもしれませんね。その理由の一つは、私たちが今、安全性（そして訴訟）に以前よりずっと敏感になっていることです。おもちゃの化学キットの中には、かつては有毒なシアン化ナトリウムや放射性ウラン鉱石など、有害な物質が入っていたものもありました。そのため、危険性は低く、面白みも薄れたキットになってしまったのです。

しかし、私たち二人がおそらく知っているように、子供たちが実験に踏み出そうとしないのは、安全上の懸念のためではありません。コンピューターが普遍的に普及している今、子供の科学探究はシミュレーションで簡単に行うことができます。それでも、世界の仕組みを学びたいという強い欲求を持つ子供たちは、ロケットの工具、望遠鏡、さらには興味深い化学物質でさえ、汚れた小さな手で苦労することなく手に入れることができるでしょう。未来のリチャード・ファインマンは、必要な道具を手に入れるためにインターネット、地元の廃品置き場、あるいはクラブや親切な理科の先生を利用するかもしれません。それほど自然と興味を持てない人にとっては、Minecraftのような世界構築ツールやCivilizationのようなゲーム、そしてプログラミングそのものが、科学の世界への素晴らしい入り口となります。オタクはオタクであり続けるのです。

ご質問は[email protected]までお送りください。件名に「ASK LEVY」とご記入ください。