ハラスメントを管理できるサービス「Block Party」。今後のオンラインのハラスメント環境をどう変えていけるのか？

TAG：: 【特集】コミュニケーションは変わるか？

2021.3.10

佐藤麦穂

近年、シリコンバレーをはじめとしたテック業界で「ダイバーシティ」という名の下に多様性を推進する活動が企業のトレンドと化している。

生まれた時からインターネットがある時代に育ったZ世代。その多くが社会へと進出し、より多様な労働人口が様々な職種に就き始めている。

Z世代は10代をオンラインで過ごし、また様々なSNSを使いこながら政治や社会時事にも精通している人は多い。ダイバーシティはただのトレンドではなく、実際の行動を伴わなければいけないものとなった。

しかし、実情としてテクノロジー業界におけるダイバーシティの状況は2021年になったいまも、昔と変わらず圧倒的に白人男性社会である。^[1]

いつまで経っても多様化しないテック業界

米国の雇用機会均等委員会（Equal Employment Opportunity Commission (EEOC)）が行った、主にテクノロジー職を対象と行った調査「Diversity in High Tech」によると、職場の男女比は男性60%に対して女性40%。役員クラスになると71%に対して29％という男女比となる。^[2]

例えば、Facebookは2014年、同年6月時点で職場の男女比は男性69%に対し女性31%というダイバシティーに関する統計を発表しているが、これでも前進し始めたほうだという趣旨の内容でその表明は締められている。^[3]

しかし、テック業界全体における統計はこれとは反対、つまり後退の結果を示しており、1990年代に比べ、2016年のコンピューター関係のSTEM職に従事する女性の割合は32%から25%へと減っていた。

同時に、人種の多様性のデータを見ても圧倒的に白人社会となっているのが現状で、中でもPOC（People of color）と呼ばれる人口層は32%に留まっており、総合的に見ても業界内ではマイノリティである。^[4]

後を絶たないハラスメント

これらのデータを踏まえたうえで、SNSやその他のオンラインプラットフォームにおけるハラスメントを考察していく必要がある。

というのも、これらのプラットフォームの仕組みやハラスメント規約に関わる側が多様性を象徴できないことは、実際のユーザー側のハラスメントのあり方に大きく関わってくるからだ。

アムネスティインターナショナルの統計データによると、オンライン上でのハラスメントや嫌がらせを体験した女性は、2017年時点の調査国8カ国の中で23%にも上っている。

これらのハラスメントは性暴力に関連した脅迫や女性以外のジェンダーや人種をターゲットにしたもの、ドキシングと呼ばれるプライベート情報をオンライン上で公開する行為などが主な内容となっている。

複数人で一人のターゲットを同時攻撃（pile-on）する行為に加担する人物をtrolls（ネット荒らし）というが、彼らのオンラインアイデンティティのほとんどが匿名となっている。

テック企業によるこうしたハラスメントに対応するための仕組みが機能していないことが、これらの統計から見て取れる。多様化しないテック業界の状況は、そのままプロダクトやオンライン環境へと反映されてしまうのだ。^[5]

主導権をユーザーたちへ

新しいオンラインサービス「Block Party」は、こうしたテクノロジー業界の偏りとオンライン上に蔓延するハラスメント体験を元に作られた。

Tracy Chouが2017年に創設したBlock PartyはSNS上でのスパムフィルターとして機能するオンラインサービスで、これまでに1500万ドルの資金調達に成功している。^[6]

現在はTwitterのみでしか使用できないが、近日Instagram向けのフィルターも公開される予定だ。

Chouは長らくシリコンバレーやテクノロジー業界に従事してきた人物で、ソフトウェアエンジニアとしてQuoraとPinterestの初期メンバーとして立ち上げに関わってきた。同時に彼女はテック業界で後を絶たない差別とハラスメントとも戦ってきた。

彼女のQuoraで最初に開発したプロダクトはブロックボタンだった。彼女自身が攻撃を目的としたコメントに遭遇していた体験から導入されたものだった。

独立後、ダイバーシティを推進するアクティビストとして活動するようになり、オンラインハラスメントが急増したChouは独自の体験を元に独立してBlock Partyを創設した。^[7]

Block Partyではユーザー登録した後、Twitterアカウントを紐づけてアカウントのフィルターを選択する。

「I’m pretty open（結構オープン）」というカジュアルなフィルターは、プロフィール写真のないユーザーや新しいアカウント、フォロワーが100人以下のユーザーを締め出すことができる。

「I need a break（ちょっと休憩が必要）」はより厳し目のフィルターで、自分の見たい情報、アカウントだけを選択し、それ以外は締め出すことができる。

またこれらのフィルターに引っかかったものは全てBlock Party内に保存され、将来オンラインハラスメントなどで警察やSNS側に報告する際に証拠として残せるようになっている。^[8]

ロックアウトのフォルダに行くと、自分がブロック、ミュートしたアカウントの他にも、ウォッチリストの作成、ミュートアカウントが解除されたものなどをそれぞれ確認できる。

このフィルターの画期的な点は、完全にブロックして見なかった・なかったことにするのではなく、それらのハラスメントや嫌がらせの存在を認めていることだ。

彼女はProtocolのインタビューで、これらの嫌がらせを完全に抹消することがサービスの目的ではなく、ただ自分の見たくないものを見なくていいという選択肢を与えているだけだと話している。

Block Partyの機能はどれもコメントを削除したりアカウントを凍結するのが目的ではないのが分かる。むしろ、自分で後から確認・レビューできるような仕組みになっている。

これは主導権をユーザーたちに与えることで、ユーザー自身が自分たちのオンライン環境を整えていけることを可能にしている。^[9]

オンラインモデレーションの現状と限界

こうした自身でコントロールできるオンラインフィルターが機能する理由として挙げられるのが、各テック企業のオンライン規約のせまさとモニタリング環境の過酷さにある。

オンライン規約にはヘイトスピーチや誤情報などに関する詳細の規約はあるものの、個人に対して直接的に行われるハラスメントや攻撃に対する規約は曖昧なものが多い。

これは、内容が個人的である場合や過激とまでは言えず規約に引っかからないなどの場合がある。しかし内容が個人の気分を害していることには変わりない。

Block Partyはこうした「グレーゾーン」に存在するハラスメントをうまくモデレートできるシステムで、自分が見たくない内容などを避ける一般に向けた機能として利用できる。

また、現在様々な機械学習を利用した規約違反感知システムの開発が進められているが、これらの精度はまだまだ低く、またそれらのAI自体に偏見が取り込まれている可能性が高い。

ある程度これらの技術を通して選別されたものの最終確認は人間の判断にまかせられる。

同時にAIは「コンテンツモデレーター」と呼ばれる、規約違反を直接判断するモデレーターたちから人間の判断基準を学んでいることから、人間の関わりがモデレーションのプロセスに欠かせないことが理解できる。

実際、TwitterやFacebookなどは大量のコンテンツモデレーターを雇い、規約違反の判断をまかせている。^[10]

しかし2018年、Facebookの元コンテンツモデレーターは仕事内容の過酷さと企業側のメンタルサポートの欠如からPTSDに陥ったとし、訴訟を起こした。

2017年当時は主にモデレーターたちがユーザーたちから報告されたコンテンツにアクセスし、規約違反の有無を判断するというものだった。日常的に膨大な数の差別や暴力、個人に向けたハラスメントや嫌がらせを目の当たりにする仕事は多くのコンテンツモデレーターたちの精神を蝕んでいた。

同時にこれらのストレス下にあるモデレーターたちは、瞬間的にハラスメントの有無の判断を迫られており、必ずしも正しい判断ができているとはかぎらなかった。それは現状も同じである。^[10]

Block Partyの未来とオンライン環境の改善の可能性

SNSなどオンライン上でのハラスメントは、特に企業側の規約が追いついておらず、それらの嫌がらせに対応する効果的な機能が現在ほとんどない状況。それによって、日々多くの人たちがこれらのハラスメントから苦しんでいる。

そんな中、Block Partyは今後フィルターの種類を増やすことで様々なオンラインプラットフォームに対応してきたいと大きなビジョンを掲げている。APIをそれぞれのSNS自体に導入することで、横断的にハラスメントに遭う可能性を縮小していくことも可能だろう。

ハラスメントから逃げるのではなく、どうすればこれらとうまく交わっていけるのかを追求し続けるBlock Partyがオンライン体験を改善していけるのか、今後注目していきたい。

文：佐藤麦穂
編集：岡徳之（Livit）

参考：