オンライン上のヘイトグループの生態系は、ソーシャルメディアプラットフォーム上にしぶとく存在し続ける。その仕組みはどのようなものなのか、そして、その存在を効果的に減少させるためにはどんな対策を取ることができるのか？　これらの疑問に対し、ジョージ・ワシントン大学（米国ワシントンD.C.）のNeil Johnsonら¹は、複数のソーシャルメディアプラットフォームに存在するオンラインヘイトコミュニティの挙動に関して、Nature 2019年9月12日号261ページに興味深い報告をしている。Johnsonらは、オンラインヘイトグループの構造と力学を解明し、その結果を踏まえて、オンラインソーシャルメディア上にはびこるヘイトコンテンツを減らすための4つのポリシーを提案している。

私たちは、高度な社会的相互接続の時代に生きている。そのため、1つの地域でシェアされる意見は、その場所のみに限定されるわけではなく、オンラインソーシャルメディアを介して急速に地球全体に拡散していく可能性がある。この拡散の速さは、ヘイトスピーチを取り締まる側にとっては問題である。一方、複数の悪意に満ちた組織にとっては、彼らのメッセージをシェアして、新規参加者の募集活動を世界的に広げる機会を生み出す。ソーシャルメディアの取り締まりを効率的に行えない場合、オンラインの生態系は過激な人々にとって強力なツールとなり得る²。従って、ヘイトコミュニティの力学を支配するメカニズムを理解することは、この「オンライン戦場」でそのような組織と戦う効果的な方法を提案するために、非常に重要である。

Johnsonらは2つのソーシャルメディアプラットフォーム（FacebookとVKontakte）におけるヘイトクラスターの力学を数カ月にわたって調べた。ここでいうクラスターとは、同様の視点や関心、または表明している目的をシェアする個人を組織化してコミュニティーとしたオンラインページかグループのことである。ソーシャルメディアプラットフォーム上のこれらのページやグループは、ユーザーが参加できる、同様のコンテンツを持つ他のクラスターへのリンクを含んでいる。Johnsonらは、これらのリンクを通じて、クラスターの間のネットワーク接続を確立して、1つのクラスターのメンバーがどのように他のクラスターにも参加しているかを追跡することができた。2つのクラスター（グループまたはページ）が互いにリンクを含んでいる場合、その2つは接続されていると考えられた。このアプローチには、クラスターのメンバーであるユーザーの個人レベルの情報を必要としないという利点があった。

Johnsonらは、オンラインヘイトグループが非常にレジリエントな（復元力のある）クラスターとして組織されていることを示している。これらのクラスターのユーザーは、限定された地域に集まってはいないが、異なる国々、大陸、および言語にまたがってオンラインヘイトの拡散を促進する「ハイウェイ」によって、世界的に相互接続されている。例えば、ヘイトグループがソーシャルメディアプラットフォームの管理者によって削除されるなど、これらのクラスターが攻撃を受けたとしよう。この場合、クラスターは即座につなぎ換えを起こして自己修復し、これらのクラスターをシェアしているユーザーたちによって、化合物の共有結合のような強い結合がクラスター間で作られる。時には、複数の小さいクラスターが合わさって大きいクラスターを形成することがある。Johnsonらは、この過程を原子核の融合に例えている。彼らは自分たちが考案した数学的モデルを使用して、単一のプラットフォーム上でヘイトスピーチを禁止するとオンラインヘイト生態系を悪い方向に刺激して、プラットフォームの取り締まりでは検知できないクラスター（彼らはこれを「ダークプール」と呼んでいる）の創設が促進されることを示した。ダークプールではヘイトスピーチは規制されることなくはびこることができる。

オンラインソーシャルメディアプラットフォームは規制に苦慮しており、政策立案者はオンライン上のヘイトスピーチを減少させる実用的な方法の提案について考えあぐねている。すでに、ヘイト関連コンテンツを禁止、削除する努力は、効果がないことが立証されている^3,4。また、ここ数年間でオンラインでのヘイトスピーチの報告件数は増えており⁵、悪意に満ちたコンテンツの拡散との戦いに敗れつつあることを示している。これは私たちの社会の幸福と安全にとって、不吉な傾向である。さらに、ソーシャルメディア上のオンラインヘイトに触れたり関わったりすることによって、オフラインでも攻撃性が促進されることが示唆されており⁶、実際に、暴力的なヘイトクライムの加害者の一部がそのようなコンテンツに関わっていたことが報告されている⁷。

以前の研究（例えば、文献8）では、ヘイトグループは個々のネットワークと考えられたり、あるいは相互接続された複数のクラスターをひっくるめた1つの世界的なネットワークと考えられたりしてきた。しかし、Johnsonらの新しいアプローチでは、複数のヘイトクラスターからなるコミュニティーの相互接続された構造が「ネットワークのネットワーク」として研究された^9-11。「ネットワークのネットワーク」では、クラスターはハイウェイによって相互接続されているネットワークである。さらに、彼らは有効な介入のための4つのポリシーを提案している。それらのポリシーは、この研究で明らかにされたメカニズム、つまり、オンラインヘイト生態系の構造と力学を支配しているメカニズムから得た情報に基づいている。

現在、ソーシャルメディア企業は、どのコンテンツを禁止すべきかを決めなければならないが、コンテンツの圧倒的な量と、国によって異なるさまざまな法的制約や規制上の制約に対処しなければならないことが多い。Johnsonらが推奨する4つの介入法（ポリシー1～4）では、グループや個々のユーザーを禁止することに関連する法的な問題を考慮に入れている。特に、彼らが示唆する各ポリシーは、プラットフォーム間で機密情報をシェアする必要はなく、個々のプラットフォームによって独立に実行でき得ることが重要である。そうした機密情報のシェアは、ほとんどの場合、明確なユーザーの同意なしには法的に許されていないのだ。

ポリシー1では、Johnsonらは、最も大きいオンラインヘイトのクラスターを除去するのではなく、比較的小さいヘイトクラスター群を禁止するよう提案している。このポリシーは、オンラインヘイトのクラスターのサイズ分布はべき乗数傾向に従う、すなわち、ほとんどのクラスターは小さく、大きいものはほんのわずかだという今回の発見を利用している。最も大きいヘイトクラスターを禁止することは、無数の小さいクラスターから新しい大きいクラスターが構成されることへつながると予測される。対照的に、小さいクラスターは非常に数が多いので場所を特定するのが比較的簡単であり、それらを排除すれば、他の大きいクラスターの出現を防ぐことができるというのだ。

グループのサイズにかかわらず、ユーザーのグループ全体を禁止すれば、結果的には、ヘイトコミュニティーを激怒させ、言論の自由への権利が抑え付けられているとソーシャルメディアプラットフォームに対する非難が起こる可能性がある¹²。それを避けるためにポリシー2では、グループ全体を禁止する代わりに、オンラインヘイトのクラスターから無作為に選ばれた少数のユーザーを禁止することを勧めている。この無作為標的アプローチは、ユーザーたちの居住地を特定したり、機密のユーザー・プロファイル情報（特定のユーザーを標的とするために適用することはできない）を使用したりする必要もないので、プライバシー規則に違反する可能性を避けられる。しかし、このアプローチの有効性はソーシャルネットワークの構造に大いに依存する。なぜなら、ネットワークのトポロジカルな特性が、無作為な障害や標的型攻撃に対するクラスターのレジリエンスに強く影響するからだ。

ポリシー3は、クラスターは当初無秩序だったユーザーグループから自己組織化されるという研究結果を利用している。ポリシー3では、プラットフォームの管理者がアンチヘイトユーザーのクラスターの組織化を促進することを推奨している。そうしたクラスターは、ヘイトクラスターと戦ったり対抗したりする「ヒト免疫系」のような働きをする可能性がある。ポリシー4は、オンライン上のヘイトグループの多くは対立する見解を持っているという事実を利用している。このポリシーでは、プラットフォームの管理者が人工的なユーザーグループを導入して、対立する意見を持っているヘイトクラスター間の相互作用を促すことを提案している。その後、ヘイトクラスターが互いの意見の相違を巡って争うことを期待するわけだ。Johnsonらはモデル化により、そのような争いによって、対立する意見を持つ大きいヘイトクラスターを効果的に消せることを証明した。ポリシー3と4はいったん実行に移されると、プラットフォームの管理者による直接的介入をほとんど必要としないだろう。しかし、対立する意見を持つクラスター同士を仲たがいさせるには、細部まで考え抜いた策略が必要だろう。

Johnsonらは、それぞれのポリシーを採用する利点と欠点を評価する際には注意が必要だという。あるポリシーの実施を実現できるかどうかは、利用可能なコンピューターリソースおよび人的リソース、そしてプライバシーに関する法的制約によって決まるからだ。加えて、どのポリシーを採用してどれを不採用にするかは、実証的分析とこれらのクラスターの綿密な監視によって得られたデータに基づいて決定されなければならない。

過去数年間で、オンラインヘイトに対処する効果的な解決策と、オンラインソーシャルメディアプラットフォームから生じる法的な問題およびプライバシーの問題は、個々の産業部門のみから生まれるわけではないこと、その代わりに、テクノロジー企業、政策立案者、および研究者の共同の努力が必要とされることが明確になってきた。Johnsonらの研究は、貴重な手掛かりを提供し、そして、彼らが提案したポリシーは今後の取り組みのためのガイドラインとなり得る。

翻訳：古川奈々子