Pinterestが自傷行為に対処するための新たな計画を発表

インターネット上で不快な体験が溢れる現代において、Pinterestは「気分が良くなる場所」としてニッチな市場を確立しました。そこで同社は、Pinterestユーザーが「自傷行為」関連のコンテンツを検索していることに気づいたのです。検索数は多くありませんが、注目を集めるには十分でした。そこで同社は、まずサイトに表示されるコンテンツをフィルタリングすることにしたのです。

Pinterestはすでに「反ワクチン」などのキーワードに対して、人間と機械学習を組み合わせて検索結果をクリーンアップするモデレーション作業を行っていました。現在、自傷行為を助長するコンテンツを認識できるようにアルゴリズムをトレーニングした結果、そのようなピンの報告が88%減少したと同社は述べています。自殺や自傷行為を助長するコンテンツを禁止するコミュニティガイドラインに違反するピンにフラグが付けられた場合、削除速度は3倍になります。

悪質なコンテンツを削除することは、問題の一部に過ぎませんでした。人々がPinterestに、自傷行為に関連した情報を探して来ているという事実は変わりませんでした。彼らは、途方に暮れ、苦しみを抱えていました。「本当に多くの人が、まさにそのためにPinterestを利用しています」と、Pinterestの共同創設者兼チーフデザインであるエヴァン・シャープは言います。「では、私たちはどうすれば、彼らを助けるために最善を尽くすという責任を果たすことができるのでしょうか？」

同社は今夏、「compassionate search（思いやりのある検索）」という取り組みを開始しました。これは、Pinterestユーザーがネガティブな感情をガイド付き呼吸法や日記をつけるといったエクササイズに結びつけることで、ストレスや不安と闘えるよう支援することを目的としています。そして今、同社は自傷行為に伴う感情の揺れ動きに特化した新たなエクササイズシリーズを開発しました。メンタルヘルス団体との共同開発によるこれらのエクササイズは、弁証法的行動療法（気分障害、自傷行為、自殺念慮などの治療に用いられる心理療法の一種）の手法を取り入れ、スマートフォン向けに再解釈したものです。

ピンナーが関連する検索語を入力すると、サイトにはこれらのエクササイズのプロンプトが表示されます。（Pinterestのパートナーである全米自殺予防ライフラインの電話番号も表示されます。）Pinterestはこれらのエクササイズの利用者に関するデータを保存せず、参加がプラットフォーム上の広告やピンの推奨に影響を与えることはありません。

「実際、弁証法的行動療法に基づいた、エビデンスに基づいた効果的な治療法は存在します」と、スタンフォード大学医学部の臨床助教授であり、Pinterestと協力したグループの一つであるスタンフォード大学のメンタルヘルスイノベーション研究所「ブレインストーム」の創設者兼所長であるニーナ・ヴァサン氏は語る。「問題は、人々がそれらの治療法を知らない、あるいはアクセスできないことです。ですから、医師として、効果が実証されている治療法について人々に啓蒙し、アクセスを向上させるための創造的な方法を考えることが急務だと感じています。」

Pinterestの新しいエクササイズの一つ、「Redirect Your Energy（エネルギーを向け直す）」では、激しい感情を解放する方法として、日記をつけたり、絵を描いたり、落書きをしたり、プレイリストを作ったりするガイド付きの練習を提供しています。もう一つの「Cool Down（クールダウン）」では、氷を手に、または腕の付け根に持ち、溶けていく様子に集中するよう指示されます。

これらの戦略は、弁証法的行動療法の概念を借用したもので、困難な感情が湧き上がったときに自己鎮静や気をそらすといったものです。「自傷行為への衝動につながる感情は、一般的に2通りあります。感情が溢れすぎて抑えきれない状態、あるいはその逆で、何も感じない、あるいは感覚が麻痺していて何かを感じたい状態です」とヴァサン氏は言います。溶けていく氷を見るのは単純に思えるかもしれませんが、ヴァサン氏によると、このような方法は効果があることが証明されています。即効性があり、気を紛らわせる手段としても、強い感覚を感じる手段としても機能し、「感情体験の核心に直接迫る」のです。

Pinterestは、Vasan氏のような組織が、感情的な結果を改善するために何が効果的かに関する証拠に基づいた研究とプラットフォームのユーザーデータを組み合わせて、思いやりのある検索を中心とした体験を設計できるよう配慮してきました。「ここまでたどり着くまでにどれほどの時間がかかったのか、本当に驚きです」とシャープ氏は言います。「ましてや、同じようなユーザー行動をとる他の企業となるとなおさらです。」

Pinterest は、思いやりのある検索機能を設計する際に Vasan のようなメンタルヘルス組織の意見を尊重し、プラットフォームのユーザーデータと感情的な結果を改善するための最良の方法に関する研究を組み合わせた。

うつ病、不安、その他のメンタルヘルスに関する懸念から生じる検索は、インターネットの他の部分と同様に、Pinterestでも常に存在してきました。（Pinterestは「自傷行為」を検索する人の具体的な数字を公表しませんでしたが、これは新しい現象ではないと指摘しました。）ヴァサン氏によると、子供や若者の間で自傷行為の記録率は増加傾向にありますが、オンラインプラットフォーム自体がどのような役割を果たしているのか、もし果たしているのであれば、まだ議論の余地があります。明らかなのは、自傷行為を計画している人は、インターネットと何らかの関係を持っているということです。自傷行為という言葉をGoogleで検索したり、自分の気持ちを投稿したり、あるいは何らかの形で助けを求めたりしているのです。「Pinterestユーザーと、彼らが今いる場所で出会う機会があります」とシャープ氏は言います。

他の主要プラットフォームも、危機に瀕したユーザーを支援したり、評判の良いメンタルヘルス組織に誘導したりする体験を設計している。Facebookでは、「うつ病」を検索すると、いくつかの危機ホットラインの電話番号と一連のセルフケアエクササイズを提供するランディングページにユーザーが誘導される。これはFacebookであるため、信頼できるFacebookの友人に連絡することを推奨するメッセージも表示され、会社によって作成された次のような自動メッセージが表示されます。「こんにちは。難しいことを経験しているので、お話したいと思っています。よろしければ、メッセージをお返しください。」Instagramは、ハッシュタグ#depressionや#suicideなどの同様のページにユーザーを誘導します。Googleで「うつ病」を検索すると、症状を定義するボックスと、臨床的にうつ病であるかどうかを確認するためのオプションの診断アンケートが表示されます。

シャープ氏によると、Pinterestも業界標準の診断ツールを活用した同様のツールの開発を検討したが、結局は断念したという。「Pinterestにとって、『私はうつ病かそうでないか』よりも重要なのは、うつ病の可能性がある人に効果があると証明されている臨床的実践内容かもしれません」と彼は言う。「それらは、臨床的にうつ病かどうかに関わらず有益です。私は情報を探すためにGoogleを利用しますが、インスピレーションを得るためにPinterestを利用するのです。」

今年上場し、株価下落の挽回に努めているテクノロジープラットフォームとしては、大げさな話に聞こえるかもしれない。しかし、セラピー体験を率直に語るシャープ氏は、テクノロジーで人々を幸せにしたいという真摯な思いを抱く、シリコンバレーでも数少ない創業者の一人だ。彼はPinterestを、何かをするための場所というより、何かを感じるための場所だと考えている。プラットフォームがネガティブな感情を引き起こす可能性があるとしても、ポジティブな感情も引き起こす可能性があると彼は言う。重要なのは、企業のリーダーたちがどのようなものを作るかという選択だ。Pinterestでは、シャープ氏はこれを「思いやりのあるデザイン」と呼んでいる。

シリコンバレー全域で、他のプラットフォームもユーザーをどのように感じているかを認識し始めています。先週、Instagramは「いいね！」数を非公開にすると発表した。これは「ソーシャル比較」を減らし、ユーザーの精神的な幸福度を向上させるための決定です。シャープ氏は、Pinterestが約5年前に「いいね！」ボタンを削除し、最近ではフォロワー数の表示も削除した理由を指摘します。「ソーシャルシェアリングがユーザーの感情に誤った影響を与えていると感じたからです」

「感情的な成果」を測定するのは難しい場合があり、シャープ氏は、それがプラットフォームがそれを製品ロードマップに組み込むことを難しくしていると考えています。エンゲージメントやユーザーの増加を定量化するのは簡単ですが、ユーザーがプラットフォームで時間を過ごした後にどれだけの幸福感や悲しみを感じるかを定量化するのは容易ではありません。しかし、シャープ氏はPinterestを感情的な体験と捉え、その体験をポジティブなものにするよう努める義務があると述べています。

「私たちの仕事の一部は、人々が感情的な状況を乗り越えるお手伝いをすることです」とシャープ氏は言います。「私たちは彼らと向き合ってマンツーマンでセラピーを行うわけではありませんが、小さなことでも、できればエネルギーの方向転換を手助けすることはできます。私たちが今日行っていることの多くは、実は私たちの責任を果たしているだけなのです。」

ご自身またはお知り合いの方が助けを必要としている場合は、1-800-273-8255にお電話ください。全米自殺予防ライフラインが24時間無料でサポートいたします。また、741-741に「HOME」とテキストメッセージを送信すると、クライシス・テキスト・ラインをご利用いただけます。米国以外の方は、国際自殺予防協会（IASU）のウェブサイトで、世界中のクライシスセンターの情報をご覧ください。

WIREDのその他の素晴らしい記事

• アマゾンに挑戦した移民たち
• アスペルガー症候群の永続的な力は、たとえ診断されていなくても
• 個人データを販売するサイトからオプトアウトする方法
• GoogleによるFitbit買収がウェアラブルの未来に及ぼす影響
• アンドリュー・ヤンは嘘つきではない
• 👁 より安全にデータを保護する方法。さらに、AIに関する最新ニュースもチェックしてください。
• 🏃🏽‍♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください。