Googleの新しいAIライティングアシスタントをテストしてみた

GoogleのAIライティング支援ツールに友人への誕生日おめでとうメールの下書きを頼んだところ、私の脳は完全に圧倒されました。81語のまともな挨拶文を書くのに90秒ほどかかりましたが、Googleのテキスト生成機能は、その3分の1の時間で完璧な87語のメールを作り上げました。

まさにGoogleが望んでいることだ。3月にリリースされ、先週の同社年次会議でより広範囲に展開された「Help Me Write」機能は、Gmailが長年提供してきた短いフレーズを生成する「スマート返信」や「スマート作成」ツールをはるかに超える画期的なものだ。この新機能では、送信したいメールの簡単な説明を入力する。例えば「昨年サンフランシスコで知り合った友人に誕生日おめでとうとメッセージを送りたい」など。「作成」ボタンをクリックすると、完全な下書きが表示される。それぞれの下書きには、「これは創作支援ツールであり、事実に基づくものではありません」という免責事項が記載されている。

Help Me Writeは、GoogleがDuet AI for Workspaceという包括的なブランド名で、生産性向上スイート向けに計画している一連の生成AI機能の第一弾です。私は結婚式の準備をスピードアップさせ、その限界を探るため、GmailとGoogleドキュメントで数日間テストしてみました。

ビジネス向けの丁寧なメールの下書きや、ありふれた話題の流暢なエッセイを素早く展開できるとはいえ、時間をかけて得たものを、新たな頭痛の種によって失ってしまうこともあった。Duetの文章は堅苦しく聞こえることが多く、ジェンダーステレオタイプや不正確な情報が紛れ込んでいることもあった。また、飲み会ゲームなど、私が必要とするテーマについて詳しく説明してくれなかった。「まだ学習中なので、その件についてはお手伝いできません。別のリクエストをお試しください」という返事が、あまりにも頻繁に返ってきた。

不満はさておき、このシステムはGmailを利用する20億人、そしてGoogleドキュメントなどのGoogle生産性ソフトウェアを利用する30億人の間で、間違いなく広く普及するだろう。Google CEOのサンダー・ピチャイ氏は先週、既存のAIサービスであるスマートリプライとスマートコンポーズは昨年1800億回利用されたと述べた。

Help Me Writeは、Gmailの「作成」ウィンドウの下部、またはGoogleドキュメントのページの左端にある鉛筆と星のボタンから起動し、OpenAIのChatGPTと同義語となったような応答を提供します。Microsoftは、一部の法人顧客を対象に、WordやOutlookなどのサービスでこの技術のバージョンをテストしています。しかし、GoogleのDuet技術は、一般消費者向けに提供され、広く利用されているサービスに組み込まれた、同等のAIライティング支援ツールとしては初めてのものです。

Google Workspace Labsに登録した、米国およびその他の国々の英語圏のユーザー数十万人がアクセス可能です。Googleの製品担当副社長で、コラボレーションサービスと生成AI統合を統括するクリスティーナ・ベア氏によると、彼らは求人応募書類、顧客向けレター、授業計画などでこのツールをテストしているとのことです。「登録完了！」というメールは、登録から数日後に届きました。このAIライティングコンパニオンは無料で、利用制限もありませんが、Googleはそれが永久に続くかどうかはまだ決めていないとベア氏は述べています。

Duet の体験は、利用規約への同意を求められるところから始まりました。プロンプトや応答は Google アカウントに紐付けられないが、人間が確認する可能性があるため、入力内容には注意する必要があると説明されました。その後も、メール作成や結婚式のスピーチ原稿作成など、個人的な用途で Duet を使い続け、WIRED の読者に情報を提供するという精神でデータを提供しました。

最初に気づいたことの一つは、Duet の挙動が Google サービス間で一貫性がないことがあることです。コンテスト、スピーチ、音楽演奏が満載の結婚前パーティーで司会を務める友人のために、台本を完成させたいと思っていました。しかし、Google ドキュメントの Duet では、有名なドリンクゲーム「フリップカップ」の説明を書くことができませんでした。ビアポンの説明もありませんでした。Gmail の Duet では、どちらのゲームも正しく説明されていました。 

ベア氏によると、Gmail版のこの機能は、職場や学校で利用される可能性が高いGoogleドキュメント版よりもカジュアルに調整されているため、このような事態になったという。両製品にはそれぞれ別のチームがDuetのテストと機能制限の設定を行っている。

Gmailを使いこなせるようになったので、結婚式のウェルカムイベントに参加するゲストへのメールの書き方について相談してみました。Duetは、私が思いつかなかったポイントをいくつか提案してくれました。「ローストのレシピは、自由に、そしてクリエイティブに書いてください。」しかし、全体的な書き方は、企業の人事部や法務部が送るようなメールと似ていました。

AIが作ったメッセージには、私のお決まりの文体、動詞が抜けていたり「Just」で始まっていたりする文章は皆無で、絵文字も一つも入っていませんでした😡。テキストジェネレーターは、私や他の人が普段どのようにインフォーマルなコミュニケーションをしているかをほとんど理解していませんでした。パートナーは、私がDuetで作った下書きを軽く修正しただけで二人の友人に送って、返事をもらったのを見て、恐怖のあまり悲鳴を上げました。（今のところ、どちらからも返信はありません。）

ベア氏は、AIライターへのプロンプトでは、よりカジュアルでくだけた口調でお願いできたはずだと語る。Googleは、そのようなトリックについてユーザーにどう教育するかを模索している。「私たちは実質的に、リアルタイムでお客様と共に構築しているのです」と彼女は言う。 

先週のGoogle I/Oカンファレンスでピチャイ氏が行ったデモでは、航空会社への正式な払い戻しリクエストの作成が取り上げられていましたが、GmailのDuetは文句を言うのにうってつけでした。イベントチケット販売技術について消費者保護当局に苦情を申し立てる？全く問題ありません。靴底が摩耗しすぎると靴メーカーに苦情を申し立てる？まさにその通り。犬の診断書を獣医に求める？分かりました。Googleは強力な苦情処理マシンを構築しました。Duetのこの機能は、企業が自らを守るために生成AIを活用するきっかけとなるでしょう。

消費者向けには、既に改善が進められています。今月末までに、Gmailのテキストジェネレーターは、同じスレッド内の過去のメールの情報も活用できるようになります。I/Oのデモでは、ポットラックパーティーを計画しているユーザーが、スレッド内で以前に共有された計画書を参照するメールを生成できることが示されました。システムが私の受信トレイから取引日、型番、その他の情報を取得してくれれば、靴やチケットに関する私の苦情もより説得力を持つようになるでしょう。

「Help Me Write」を呼び出すのと同じボタンに、AIが作成したテキストや自分の文章を長くしたり、短くしたり、フォーマルにしたりするためのトグルが多数あります。どれも驚くほどうまく機能します。ドキュメントでは、「もっと自信のある文章に！」といった独自の編集フィルターを入力することもできます。Gmailには「I'm feeling lucky」オプションがあり、テキストに意外性のある面白いフィルターを適用します。例えば、「hello」を「ahoy」に、「your」を「yer」に置き換えるなど、海賊風に加工できます。また、「car」を「flying car」に変えるといったこともできました。

Docsに戻ると、Duetへの不満は募るばかりだった。結婚の誓いの言葉（ChatGPTなら使えるだろう）も、「妻との結婚披露宴でのスピーチ」も生成してくれなかったのだ。しかし、「妻と」というフレーズを削除して、関連するプロンプトを試してみたところ、新郎のベストマンの視点でのスピーチなら生成できることがわかった。新婚夫婦が一緒に話すという概念は、この技術にはあまりにも異質だったようだ。

Duetは、下書きが生成される前に、例えばユーザーにテキストの視点を指定するよう求めるなど、追加のガイダンスを提供できれば、より便利になるでしょう。ベア氏によると、GoogleはChatGPTに似た「マルチターンエクスペリエンス」を検討しており、ユーザーはテキストジェネレーターと対話しながら出力を完璧に仕上げることができるとのことです。

Help Me Writeは、他のテキスト生成ツールと同様に、性別に関するミスを犯すことがあります。Docsでは、結婚式の司式者について好意的なオンラインレビューを書いたものの、司式者を「男性」と想定してしまいました。また、将来の息子、そして娘に宛てた手紙を書くように依頼された際には、「お父さん」と「お父さん」が書いたと署名しましたが、ベア氏によると、システムは私の性別を認識していないとのことです。

2018年に、Gmailで機械学習を使って文章を完成させるスマートコンポーズ機能が代名詞を提案しないのは、代名詞を間違えた場合のユーザーからの反発を恐れたためだと記事にしました。Duetにはそのような予防措置が欠けています。ベア氏は、Googleの包括的な言語への取り組みは変わらないものの、新しいAIモデルのためのガードレールには、現在開発中の異なるエンジニアリングが必要だと述べています。

Duetのジェンダー問題への対応は、代名詞の誤用だけにとどまりませんでした。私はシステムに、男の子と女の子それぞれへのプレゼントのアイデアを提案してもらいました。アイデアのリストは重複していましたが、男の子向けのリストには「ラジコンカーか飛行機」などの科学技術寄りのアイテムしかなく、女の子向けのリストには「ドールハウスかプレイセット」と「ジュエリー」しかありませんでした。「Help Me Write」ボックスは、ユーザーが入力するのを待っている間にヒントとなるアイデアを瞬時に提示しますが、同様の実験では、その提案の一つ（「6歳の男の子についての詩」）を使っただけでも、ジェンダーの慣習が永続化しました。

「ゲイの友達」と、あるいは「ただの友達」と観る映画を尋ねてみた時も、ステレオタイプが浮かび上がってきました。最初の質問に対しては、Duet in Docsはゲイのロマンスを描いた映画を3本リストアップしましたが、2つ目の質問に対しては、「二人とも好きな映画」といった一般的な提案しか表示しませんでした。

GoogleのAIアシスタントは、代名詞を巧みに扱う場面もありました。生まれてくる赤ちゃんへのグリーティングカードを書いてほしいと頼まれた際には、「この子は可愛くて幸せで健康な赤ちゃんになりますよ」と、性別を表す言葉を一切使わずに答えてくれました。しかし、私のテスト結果から、包括的な表現を好む人やステレオタイプを避けたい人は注意が必要だと示唆されました。

Duetは時に難しいテーマを避ける。ナイジェリアの王子を騙すメール、AIを使って世界を征服するという邪悪な計画、保守派コメンテーターのタッカー・カールソンについてのスピーチ、あるいはテロや銃器について言及するほとんど全てのテーマを書くのには役立たないだろう（水鉄砲とナーフガンは例外だった）。

Duet機能は、人口統計学的特性に関するいくつかの質問も拒否し、その回答には大きな矛盾がありました。GoogleのAIライターは、インド人家族への新築祝いのギフトアイデア（インドのターリー、インドのスナック菓子のバスケット、インドの芸術品）は喜んで提案しましたが、黒人家族には提案しませんでした。シク教徒が得意とする職業（起業家、医師）に関する質問には回答しましたが、ユダヤ人向けの同じ質問には回答しませんでした。イギリス文学に関する5段落のエッセイは？答えました。大西洋奴隷貿易におけるイギリスの役割に関するエッセイは？答えられませんでした。

Duet の機能がテキストを生成しない場合、その原因がバグなのか、プロンプトの不備なのか、コンテンツの問題なのかを判断するのは不可能だ。これは、Google が迅速に展開したために、エラー通知の微調整に時間がかかっているためだと Behr 氏は認めている。

人間のライターなら誰でも知っているように、言葉を紙に書き出すこと自体が一つの難題ですが、事実を正確に伝えることもまた別の難題です。Duet in Docsは「福祉の女王」という言葉を軽蔑的な言葉として正しく表現し、あらゆる企業における人件費削減の選択肢について鋭いメモを作成しました。

しかし、より具体的な依頼になると、その対応がずさんに見えるようになってきた。ウルグアイと比較したパラグアイの消費者嗜好に関するメモを作成するよう依頼された際、システムはパラグアイの人口を「人口が少ない」と誤って記載した。結婚前の歓迎会で演奏された1960年代のヒンディー語映画の歌の意味を、幻覚的に、あるいは捏造したように解釈したのだ。

皮肉なことに、Duet AIの利点について尋ねられた際、システムはDuet AIを、元Google社員2人が音楽業界向けAIを開発するために設立したスタートアップ企業で、アンドリーセン・ホロウィッツやYコンビネーターなどの投資家から1,000万ドル以上の資金を調達していると説明しました。しかし、そのような企業は存在しないようです。Googleは、AIが生成した回答の下にある「低評価」ボタンを使って、ユーザーに不正確な点を報告するよう促しています。

ベア氏によると、Googleはトピック、キーワード、その他のコンテンツキューを精査し、特にユーザーの属性や政治的・宗教的信条に基づいて、不快な、あるいは不当な影響を与えるような回答を回避しているという。ベア氏はシステムには間違いがあることを認めつつも、AIシステムが学習データに見られるバイアスを反映したり、捏造された情報を提示したりする傾向に対抗するには、公開テストからのフィードバックが不可欠だと述べた。「AIは永遠に続くプロジェクトになるでしょう」とベア氏は語る。

それでもベア氏によると、インスタカートやヴィクトリアズ・シークレットの下着ブランド「アドーア・ミー」の従業員といった初期ユーザーは、この技術に好意的な反応を示しているという。インスタカートの広報担当者ローレン・スベンソン氏は手書きのメールで、グーグルのAI機能のテストには期待しているものの、まだ具体的な成果を発表する段階ではないと述べている。

私のテストから、AIライティング支援ツールが独創性を消し去り、AIが作成した文章を受け取る人間に悪影響を及ぼすのではないかと懸念が湧きました。読者は、Googleの約6,000語に及ぶプライバシーポリシーを読まされた時のように、古くなったメールや文書にうんざりするでしょう。Googleのツールがどれだけ個人の個性を吸収できるのか、そしてそれが私たちを助けるのか、それとも私たちに取って代わるのかは不明です。

ベア氏によると、Googleの社内テストでは、同僚からのメールが今のところ「ありきたり」になったり「ありきたり」になったりしていないという。ツールは人間の創意工夫や創造性を抑制するのではなく、むしろ高めていると彼女は言う。ベア氏も自分のスタイルを模倣するAIモデルがあれば嬉しいと考えているが、「そういったものはまだ評価段階です」と彼女は言う。

失望や制限はあるものの、GoogleドキュメントとGmailのDuet機能は、ChatGPTや競合のAIライティングソフトウェアに頼り始めたユーザーを呼び戻す可能性が高そうです。Googleは他のほとんどの選択肢をはるかに超える進歩を遂げており、今日私たちが目にしているのは、これから起こることのほんの序章に過ぎません。

Duetが有望な起草ツールから、公平で専門的な文書作成ツールへと成長すれば、あるいはもしそうなれば、その使用は止められないものになるでしょう。それまでは、心のこもった誓いやスピーチを書くとなると、それは完全に私の手の中に残された空白の画面です。