2015年のある日、ダン・ホンは幼い息子カルビンを体重計に乗せました。2歳半のカルビンは、体重が29.2ポンド（約13.3kg）と表示されました。前の週より1.9ポンド（約8.3kg）増加し、年齢の標準範囲のちょうど真ん中でした。ホンは迷うことなくそれを受け入れました。
しかし、体重計はそれを実現した。その週の後半、ホンはウィジングス社（彼の「スマート体重計」と付属アプリを開発している企業）からカルビンの「週報」を受け取った。そこには、体重増加に落胆せず、「余分な体重を落とす」目標を立てるようにと書かれていた。
「彼のプロフィールには生年月日まで載っている」とホン氏はこの件についてツイートした。「でも、エンゲージメントには通知が必要だからね！」
Withingsは「スマート」体重計を専門としています。これは、インターネットに接続し、スマートフォンなどのデバイス上のアプリを使ってアクセスできるアカウントにデータを保存するデバイスです。アプリでは、体重の推移を確認したり、傾向を追跡したり、目標を設定したりできます。
ただ一つ問題があります。Withings が理解できる唯一の目標は減量です。
カルビンの場合のように、結果は滑稽なほど不条理なものになることもあります。健康な2歳児に体重目標が必要だなんて、ほとんどの人は笑ってしまうでしょう。しかし、場合によっては、それがひどく傷つくこともあります。例えば、Withingsが過去最低体重を記録した時に送るデフォルトのメッセージ、「おめでとうございます！最低体重を更新しました！」とアプリが叫びます。ホンの家族も同じメッセージを受け取りました。今回は妻のことでした。彼女はちょうど赤ちゃんを産んだばかりで、目標は達成していませんでした。しかし、Withingsはそれを見分けられないのです。
摂食障害をお持ちですか？おめでとうございます！
化学療法を始めたばかりですか？おめでとうございます！
慢性疾患ですか？おめでとうございます！
Withings は、体重減少が目標でなくても、あらゆる体重減少を祝福するように設計されています。
この問題を抱えているのはWithingsだけではありません。オンラインのどこを探しても、あなたを祝福し、励まし、そして「夢中にさせる」製品を見つけることができます…あなたがどう思おうとも。
恐ろしいことを見逃さない
2016年9月のある日、サリー・ルーニーは携帯電話の着信音に気づきました。画面を見ると、Tumblrからの通知が届いていました。「ビープビープ！#ネオナチが来た！」と書かれていました。
ルーニーはネオナチではない。アイルランド出身の小説家だ。「アプリをダウンロードしただけで、元の設定は一切変えていないし、あのタグもフォローしていませんでしたし、そもそも他のタグもフォローしていませんでした」と彼女は言った。「一瞬、うっかり#ネオナチをフォローしてしまったのではないかと不安になりましたが、そうではありませんでした」
それでもルーニーは、幼稚園で聞くような、可愛らしくて子供っぽい小さなパッケージに包まれたネオナチに関するアラートを受け取っていた。一体どうやってこんなことになったのだろうか？通知のスクリーンショットがTwitterで拡散した後、Tumblrの従業員がルーニーに、おそらく「見逃した通知」だろうと伝えた。ルーニーは以前、ファシズムの台頭に関する投稿を読んでおり、通知システムは彼女の過去の行動から、彼女がネオナチ関連のコンテンツに興味を持つかもしれないと予測していたのだ。
さて、コピーについて。ご想像の通り、Tumblrの社員は誰も腰を据えてこのひどい文章を書いたわけではありません。彼らは文字列を書いたのです。どんなトピックでも自動的に挿入できる、既成のコピーです。「ビープビープ！#[トレンドタグ]が来たぞ！」（実際、別のTumblrユーザーが、自分が受け取った通知をそのままシェアしていました。「ビープビープ！#精神疾患が来たぞ！」）
このような文字列は、ソフトウェアにおいて、文脈に合わせてメッセージをカスタマイズするために頻繁に使われます。例えば、銀行口座にログインすると、画面上部に「こんにちは、サラ」と表示されます。しかしここ数年、テクノロジー企業は製品に「個性」を取り入れることに熱中するようになり、こうしたコピーは、可愛らしく、風変わりで、「楽しい」印象を与える最初の手段として使われることが多くなりました。私自身も、この点については多少の責任を負っていると言えるでしょう。コンテンツ戦略コンサルタントとして、多くの組織がオンラインコンテンツの「声」を育み、より人間味があり、会話的な文章を書くよう支援してきました。これほどまでに、不適切で、頑張り過ぎて、おしゃべりなテクノロジー製品が溢れかえることになるとは、当時は想像もしていませんでした。
その一つがMediumです。2015年の春、ケビン・M・ホフマンは、癌で亡くなった友人エリザベスについて投稿しました。テクノロジー業界で働いているホフマンは、エリザベスとカンファレンスを一緒に企画していた頃の知り合いでした。そこで彼は、エリザベスの追悼記事を、同僚やエリザベスの友人たちが目にする場所で共有したいと考えました。Mediumは当然の選択でした。
追悼記事を投稿してから数時間後、Mediumからメールが届き、記事の反響と3人が推薦してくれたことが伝えられました。メールには、彼が書いた「エリザベスを偲んで」という見出しと、それに続く「豆知識：シェイクスピアの最初のMedium記事はたった2件しか推薦されませんでした」という短いコピーが添えられていました。
ユーモアのある文章を書くべきです。軽くて明るいジョーク、一日を明るくするちょっとした文章です。もちろん、友人の死を悼んでいるのでなければ。あるいは、悲劇や失業、あるいは、アメリカの刑事司法制度における構造的な人種差別について書くのもいいでしょう。
Mediumのデザインチームとプロダクトチームもケビンのスクリーンショットを見て、ひどく動揺しました。そしてすぐにコピー文を見直し、状況によっては無神経だったり不適切だと感じられそうなものを削除しました。というのも、素晴らしい個性を持つための重要な要素の一つは、いつそれを表現するか、いつ控えるべきかを知ることだと分かったからです。これは、ほとんどの人間が成長し、社会的な状況を乗り越えていく中で身につけるスキルです。しかし悲しいことに、愚かな機械を「人間らしく」させるという任務を課せられると、すぐに忘れてしまうようです。
偽りの友達
サリー・ルーニーがTumblrで受け取ったネオナチの通知は、人々の心を揺さぶった。この記事を書いている時点でも、彼女のスクリーンショットは7000回近くリツイートされ、1万2000回以上「いいね」されている。Tumblrのヘッドライター、タグ・サベージ氏もこの通知に注目した。ルーニーのスクリーンショットが拡散する中、サベージ氏はTwitterで「削除しようかとも話したが、なかなか良いパフォーマンスを見せている」と投稿した。
サベージ氏が「ビープビープ！」メッセージが「効果的」だと言うとき、彼が言っているのは、通知によって多くの人がTumblrを開くようになるということです。これは、デイリーアクティブユーザー（DAU）やマンスリーアクティブユーザー（MAU）に投資している企業にとって大きなメリットです。そして、ほとんどのテクノロジー企業にとって、重要なのはそれだけです。「倫理的か？」「適切か？」といった疑問は、ROI（投資収益率）が常に優先されるため、考慮する必要はありません。
こうした可愛らしいコピーやお祝いの機能は、私たちと使う製品の間に偽りの親密さを生み出しています。一見どんなに素晴らしい個性に見えても、私たちはデジタル製品と本当の友達ではありません。本当の友達は、あなたが危機的状況にある時に冗談を言ったりはしません。トラウマを再び経験させたり、ヘイトスピーチを無視させたり、テクノロジー製品がエンゲージメントの名の下に日常的に行うようなことを強要したりもしません。彼らはただ、あなたを気遣っているだけなのです。テクノロジー業界は、この点をもっと改善すべき時です。
