Instagramが、利用についての製品開発や利用体験における偏りをより深く理解し、それに対処することに焦点を当てた専用の製品開発チーム「Instagramエクイティチーム」を設立したことを発表した。
新型コロナウイルスの世界的流行や、米大統領選挙、人種差別問題などについて緊張が高まる中、自分が関心を持っている人種問題、市民権の問題、社会問題などへの意識を高めるために、Instagramのプラットフォームを利用することが増えたという。
こうした利用の変化の中、2020年6月、同社はInstagramが黒人の声を抑制しているのではないか、すべての人を平等に扱っていないのではないか、というユーザーからの懸念を受け、Instagram内で多くの黒人たちが嫌がらせを受けていたり、「シャドウバン（※）」されることを恐れていたり、コンテンツの削除に反対したりしていることを認めると発表。
こうした問題への対策のため、ハラスメント、検証、流通、アルゴリズム的バイアスという4つの分野に焦点を当てて、検討していくと説明していた。
今回発表されたInstagramエクイティチームはその取り組みの一つ。公正かつ公平な製品の開発に重点的に取り組む。またFacebookのレスポンシブルAIチームと連携し、アルゴリズムの公平性の確保や、サービスが十分に行き届いていないコミュニティのニーズに対応した新機能も開発などを行うという。
さらにそれは別に、Instagramはダイバーシティ&インクルージョン担当の取締役を新たに採用。より多様性に富んだ才能を見つけ出し、利用継続と成長を促すという目標を推進するとしている。
その他、Instagramは今夏「嫌がらせ・ヘイト」「認証」「配信」についても、以下のようにアップデートし、公平な利用のための対策を講じている。
嫌がらせ・ヘイトへの対策
嫌がらせ・ヘイトへの対策として、ポリシーを改定。今回のポリシー改定では、黒塗りの顔を描いたコンテンツやユダヤ人に関するステレオタイプなど、特定の種類の暗示的なヘイトスピーチをより具体的に例示するようにした。
また、深刻なレイプの脅迫をする人への取り締まりを強化し、コンテンツだけを削除するのではなく、そのような脅迫を行ったアカウントはすべて、発覚後ただちにアカウント自体が停止される。
さらに、不本意に世間の注目を集めてしまった人(注目を求めていなかった可能性がある人で、社会的に疎外されたコミュニティのメンバーであることが多い)が、注目を集める前と同じように嫌がらせやいじめから保護される。
Instagramではこれまでも、ヘイトグループに関するポリシーに違反するコンテンツの削除を優先しており、その中で23のそれぞれ別の禁止団体が削除され、その半数以上が白人至上主義を支持していたという。
また、QAnonのような暴力と結びついた組織に対して措置を講じるためのアップデートについても、先日発表された。
さらにクリエイターやビジネス用としてインスタグラムを利用するユーザーのポリシーも変更。ビジネスアカウントやクリエイターアカウントは、自分にダイレクトメッセージを送信できる人を管理できるようになった。
また従来のコメント警告機能がLiveへのコメントにも拡張されたため、今後は、不快な内容の可能性がある全てのコメントが投稿前に再検討するよう求められるようになる。
アカウント認証のプロセス変更
Instagramによるアカウント認証を受ける際の基準（一定水準の注目度など）についてのプロセスを変更。注目度は、認証の申請者に関するプレス記事を通じて測定されるが、このプロセスで検討するプレスソースのリストを拡大し、黒人、LGBTQ+、ラテンアメリカ系メディアが追加された。
また、アプリ内フォームを通じた認証については誰でも申請をすることができたが、毎日届く数万のリクエストを処理するために一部のシステムで、フォロワー数の多いアカウントが優先されていたという。
同社は、従来より、フォロワー数に関しては認証基準には入っていなかったとし、認証プロセスの自動化されている部分からこのシステムを削除したとのことだ。
コンテンツ配信のためのガイドライン公開
Instagramで検閲が行われているのではないかという懸念が続いていることを受け、発見タブなどの場所に表示されるコンテンツの種類を決めるために使用しているガイドラインを公開。
これによりInstagramやFacebookのおすすめに含まれていない種類のコンテンツがあること、その結果として、コンテンツが広く配信されない可能性があることを、ユーザーに理解してほしいとしている。
また、このガイドラインの策定にあたっては、おすすめシステム、ソーシャルコンピューティング、表現の自由、安全性、市民権、デジタル権などを専門とする50人以上の一流の専門家から助言を受けているとのことだ。
同社は、これらの取り組みについて、現段階ではまだ包括的なものではなく、他にもやるべきことはたくさんあると説明。しかし、正しく実行することと、そのための十分な時間をかけることが重要だとし、引き続き、定期的に最新情報を共有していくとしている。
（※）運営が悪質なユーザーのアカウントの投稿をタイムライン等に表示させないように設定し、アカウント凍結（BAN）に近い状態にする措置のこと。