Instagramは長年、オンライン上で最も快適な場所となることを使命としてきました。ソーシャルメディア企業、特にティーンエイジャーを主要ユーザーとする企業にとっては、空想的なミッションと言えるでしょう。ティーンエイジャーは、互いに傷つけ合うことに長けていることが証明されている年齢層です。ネットいじめは定義が難しく、測定はさらに困難です。Instagramの親会社であるFacebookでさえ、プラットフォーム上でネットいじめがどれほど蔓延しているのか、あるいはInstagramが学校のカフェテリアやショッピングモールに取って代わり、ティーンエイジャーの主な交流の場となっていることで、いじめが悪化しているのかどうかを推定することはできません。それでもなお、Instagramはネットいじめを根絶すべく、悪質な行為を軽減するための機能を次々と導入し続けています。
Instagramは火曜日、2つの新しいツールを機能に追加します。1つ目は、いじめに該当する可能性のあるコメントを、たとえルールに明らかに違反していなくても自動的に非表示にする機能です。2つ目は、コメントが繰り返し「有害」とフラグ付けされたユーザーに新しい警告メッセージを送信し、早期に行動変容を促す機能です。これらのツールは、英語、ポルトガル語、スペイン語、フランス語、ロシア語、中国語、アラビア語を話すユーザーから順次、世界中のInstagramユーザーに展開されます。
Instagramは既に、悪質なコメントを積極的に非表示・削除しています。そして今、より深刻なケースを目立たなくしようとしています。この新機能は機械学習を活用し、過去にInstagramにいじめとして報告されたコメントに類似するコメントを見つけ出します（「💩みたい」といった絵文字も検出します）。もちろん、文脈も重要です。同じ言葉でも、ある会話では冗談めいた冗談として使われ、別の会話では露骨な意地悪として使われる可能性があります。人間でさえ、何かが一線を越えるかどうかについて常に意見が一致するわけではありません。ピュー研究所の2017年の調査によると、悪口を言ったり、意図的に恥をかかせたりするような行為が「ハラスメント」に含まれるかどうかについて、アメリカ人の意見は分かれています。
写真：インスタグラム
今回の件で、Instagramは慎重な姿勢を取った。「私たちはできる限り多くのいじめや嫌がらせを捕捉しようとしています」と、Instagramのグローバルポリシープログラム責任者であるキャロリン・メレル氏は述べ、ユーザー保護と言論の自由の抑制の間にはトレードオフがあることを認めた。Facebookのいじめや嫌がらせに関するルールには、目もくらむほど多くの禁止用語が含まれているが、メレル氏は「一部のコメントはコミュニティガイドラインに違反していなくても、有害、嫌がらせ、あるいはいじめと見なされる可能性があります」と述べている。
AIによってフラグが付けられたコメントは、Instagramでは「非表示のコメントを表示」というテキストボックスの後ろに表示されます。誰でもこのボックスをタップすれば、問題のあるコンテンツを表示できます。また、コミュニティガイドラインに違反しているコメントは、Instagramに報告することも可能です。Instagramでは、自分のページに届いたコメントからコンテンツカバーを削除するオプションも提供されます。例えば、友達があなたの写真に付けた下品なジョークがコメントカバーに埋もれてしまった場合、それを再び見えるようにすることができます。
Instagramは、アルゴリズムによって繰り返し問題のあるコメントとしてフラグ付けされたユーザー向けに、新たな警告メッセージを導入しました。これまでInstagramは、不快な可能性のあるメッセージを投稿する前に、投稿前に「本当に投稿しますか？」という穏やかなメッセージで再考を促してきました。今後は、不快なコメントを繰り返し投稿しようとするユーザーには、追加の警告メッセージが表示されます。コミュニティガイドラインに違反するコメントを投稿し続けると、アカウントが削除される可能性があります。（Instagramのポリシーによると、一定期間内に一定数の違反があったアカウントは削除されるとのことです。）
写真：インスタグラム
このツールは、Instagram版の「スケアード・ストレート」キャンペーンのように思えるかもしれないが、メレル氏によると、このアプローチは、発言が他者に影響を与え、結果をもたらす可能性があることを人々に思い出させることが目的だという。Instagramは以前の警告メッセージで既に一定の成果を上げており、5人に1人が、投稿内容を再考するよう促された後、コメントを編集または削除すると報告している。有害なコメントに対する自動フィードバックの効果を調査する他の取り組みでも同様の結果が得られており、こうしたシンプルな介入が効果を発揮していることが示唆されている。Instagramの責任者であるアダム・モッセリ氏が昨年指摘したように、自動ツールは「10代の若者にとって特に重要だ。なぜなら、彼らはオンラインでのいじめを最も多く経験しているにもかかわらず、報告する可能性が低いからだ」。
それでも、オンラインでのネットいじめ対策は、いじめっ子たちが新しいツールやフィルターを回避しようと行動を変えていくため、まるでいたちごっこのようだと感じることも少なくありません。Instagramは自動介入が効果を発揮している兆候が見られる一方で、常に新たな挑発行為が出現しています。また、昔ながらの嫌がらせの方法も検討が必要かもしれません。「ダイレクトメッセージ（DM）に注目しています」とメレル氏は述べ、Instagramがそこでのネットいじめ対策に取り組む必要があることを認めました。
WIREDのその他の素晴らしい記事
- 📩 テクノロジー、科学、その他の最新情報を知りたいですか？ニュースレターにご登録ください！
- 西部の地獄は、火の仕組みに関する私たちの感覚を溶かしている
- パンデミックにより国境が閉鎖され、故郷への憧れが呼び起こされた
- 図書館の仮想棚から電子書籍が消えていくことに出版社は懸念を抱いている
- 写真はかけがえのないものです。携帯電話から取り出しましょう
- Twitterはいかにして大規模なハッキングから逃れたのか、そして次のハッキングを阻止する計画は？
- 🎮 WIRED Games: 最新のヒントやレビューなどを入手
- 🏃🏽♀️ 健康になるための最高のツールをお探しですか？ギアチームが選んだ最高のフィットネストラッカー、ランニングギア（シューズとソックスを含む）、最高のヘッドフォンをご覧ください
