Instagramが新たないじめ対策アルゴリズムを導入

アダム・モッセリには証明すべきことが山ほどある。先月、共同創業者のケビン・シストロムとマイク・クリーガーが電撃退任した後、後任としてInstagramのトップに就任したモッセリは、写真共有プラットフォーム10億ユーザー王国の鍵を握っている。しかし、モッセリが心配しているのはユーザーだけではない。彼は今、Facebookの最も貴重な資産、マーク・ザッカーバーグが今も決算報告で自慢するFacebookのエコシステム、投資家が安堵の眼差しを向けるFacebookのエコシステムの一部を担っているのだ。

そこで今日、新しい職務に就いてわずか数週間のモッセーリ氏は、Instagram の最も得意とするところをさらに強化する。Instagram 上の有害なコンテンツを排除するために設計された新しいツール セットを導入し、Instagram を Web 上で最も快適な場所にするための長年の取り組みをさらに拡大する。

新しいツールの中で最も注目すべきは、写真やキャプション内の不適切なコンテンツをフィルタリングするアルゴリズムです。Instagramは既に、コミュニティガイドラインに違反するコメントを検出して非表示にする機械学習アルゴリズムを採用しており、有害なコメントや分断を招くコメントは写真に表​​示される前に非表示になります。今回、Instagramは同様のツールを用いて、プラットフォーム上の写真における「いじめ」の事例を検出します。Instagramのアルゴリズムによって特定された不適切な写真は、コミュニティオペレーションチームに送られ、人による確認を経て削除される可能性があります。

Instagramによると、このアルゴリズムは「人物の外見や人格への攻撃、および個人の幸福や健康への脅威」を含む写真やキャプションにフラグを立てるよう訓練されているという。これは数ヶ月前にInstagramが不適切なコメントフィルターを拡張し、個々のユーザーへの攻撃や脅威を含むコメントを自動的に削除するポリシーを施行したものだ。本日より、Instagramはこの機能をライブ動画にも拡張し、コミュニティガイドラインに違反するコメントを自動的に非表示にする。

優しく

多くのソーシャルプラットフォームと同様に、Instagramは爆発的な成長と礼儀正しさの維持という両立に苦慮しています。Instagramは、創造性と自由な表現の場であると同時に、人々が安全で歓迎されていると感じられる場所でありたいと考えています。今年初め、Instagramは後者の実現に重点を置いたウェルビーイング・イニシアチブを立ち上げ、Instagramのコミュニティオペレーションチームが手作業で行っている作業を、機械学習ツールを活用して大規模に実現しました。本日の発表もこの流れに沿ったものであり、ウェルビーイング・ツールをプラットフォームのより多くの部分に拡張します。

もちろん、これらすべてはモッセリ氏がCEOに就任するずっと前から進行中だった。しかし、彼がInstagramの責任者として最初に取り組んだのが、Instagramをさらに快適にすることだったことは、示唆に富んでいる。フィルターに加え、彼は新たに「親切カメラエフェクト」も導入する。これは、自撮りモードで画面をハートで埋め尽くし、応援したい友人をタグ付けするよう促す機能だ。「いじめを阻止することは重要ですが、Instagramにおける親切を称え、促進するためにも、もっと多くのことをしなければなりません」と、モッセリ氏は新機能を発表するブログ記事で述べている。

確かに安っぽい。しかし、Instagramは、使っていて楽しいソーシャルメディアアプリ、有害なコンテンツや荒らし行為のないアプリというブランドを確立することで、ここまで成功してきた。新しいいじめ対策機能がうまく機能すれば、ユーザーはその存在にすら気づかないだろう。他のソーシャルメディアはなぜこんなに親切にできないのか、と不思議に思いながら、ただスクロールし続けるだけだろう。

WIREDのその他の素晴らしい記事

• マルウェアがMacに潜む新たな方法
• キャプテン・マーベルと女性スーパーヒーローの名前の長く奇妙な歴史
• このペダル駆動車で、あなたの中の原始家族フリントストーンを呼び覚ましましょう
• オープンソースプロジェクトに礼儀正しさをもたらす女性
• iOS 12のスクリーンタイムコントロールを最大限に活用するためのヒント
• もっと知りたいですか？毎日のニュースレターに登録して、最新の素晴らしい記事を見逃さないでください。