この動きは、Twitchが「ヘイトレイド」やその他のハラスメントからストリーマーを保護していないことへの批判が今年に入ってから続いていることを受けたものです。
今年7月、Twitchは、トランス、黒人、障害者など、さまざまなアイデンティティを持つユーザーのチャンネルを発見しやすくするために、多数のタグを追加しました。これは、嫌がらせをする側にとっては、それらのコミュニティを見つけ出し、憎しみを向けるための避雷針にもなりました。特にひどいのは、いわゆる「ヘイトレイド」と呼ばれるもので、自動化されたアカウントが軽蔑的な言葉や暴力的な言葉をチャットに氾濫させるというものでした。
9月1日、この問題に対するTwitch社の不適切な対応に抗議するため、ストリーマーのグループが「DayOffTwitch」を実施し、事態は収束に向かいました。Twitchはこれを受けて、ストリーマーがチャットに参加する際に電話番号ベースの認証を要求するオプションを用意し、これによって最悪のヘイトレイドは緩和されたようです。
Twitchは、プライバシーおよびセキュリティツールに最新の機能を追加することで、ストリーマーにモデレーションのためのオプションを提供し、特に、問題のある人物が別のアカウントを作成して禁止を免れた場合に対処できるようになることを期待しています。Twitchは、11月30日の発表で、そのようなユーザーを検出しようとする機械学習システムの概要を明らかにしました。
機械学習を利用した「疑わしいユーザー検出」は、チャンネル禁止を逃れた疑いのあるユーザーを特定し、あなたのストリームに支障をきたす前にチャットを制限するのに役立ちます。
詳しくはこちらをご覧ください。https://t.co/01cCwnQZfw pic.twitter.com/QWVSnRPg1X
– Twitch (@Twitch) 2021年11月30日。
デフォルトの設定では、そのようなアカウントがチャットに参加していることが検出されると、アルゴリズムが不要なユーザーであると判断する可能性に応じて、その入力がチャンネル内でマークされるか、モデレーターのアクションを待ってミュートされます。ストリーマーは、この最初の自動対応の厳しさを調整することができ、最も極端なオプションは、疑わしいアカウントを自動的に禁止することです。
今回の発表では、このプログラムの精度についての注意点が述べられています。
「機械学習の精度は100％ではないため、誤検知や誤認識の可能性があります。このツールは、あなたの行動から学習し、その結果、予測の精度は時間とともに向上するはずです」と述べています。
このツールのモジュール性と、自分のチャンネルを管理する際にどれだけコントロールできるかを評価しています。Twitchは、昨年10月に起きたヘイトレイディングの問題や、著作権保護された音楽の問題とそれに伴う古いビデオのパージを放置してきたことを考えると、少なくともストリーマーにはこれくらいの義務があります。
