Censorly

Censorly とは

Censorly は、事業者、つながりの場、遊びの共同体が文章の憎悪、攻撃的な表現、方針違反を検出するための監視の接続口と説明されている。確認時は公式サイトが開かず、以下の内容は第三者の掲載情報による。

できること

掲載情報が述べるのは、文章を接続口へ送ると学習済みの判定器が憎悪表現や攻撃などの危険な内容に印を付け、隠す、確かめる、消すのいずれかを選べるという流れだ。送る、印を付ける、対処するという循環である。

売り文句は人の確認と基本的な語の一覧表の置き換えである。この言い方は多くの組織の出発点を正直に踏まえている。語の一覧表は安く説明もしやすいが、その気になった人には容易に破られる。その一覧では手に負えなくなった共同体にとって、文脈を読む判定器は実際の改善になる。

掲載情報は、投稿、書き込み、会話を即時に調べる接続口を備えた監視の仕組みだと説明する。ここではページに届かなかったため、機能は実際の画面で確認を要する。料金の記載はなく、案内を求める必要がある。伏せ字や保存の単独道具ではなく、対処まで含めた検出器である。

向いている人

攻撃的な表現と憎悪の自動検出を大量に要する場、共同体、遊びの提供者が対象である。遊びの分野が最も厳しい。会話の量が多く、言葉の移り変わりが速く、会話の最中に対処しなければならないからである。

注意点

製品に届かなかったため、上記の記述はすべて未確認として扱い、何かを作る前に実際のページで確かめるべきである。公開の流れに組み込んだ監視の依存は、後から外すのが難しい。

監視は表現に直接働くため、境目の調整と人の確認を残すべきである。二つの失敗はいずれも害になる。取りこぼしは攻撃の対象を危険にさらし、締め付け過ぎは正当な書き込みを消して検閲と受け取られる。遊びの共同体は後者に陥りやすい。仲間内の言葉や言い換えは読み誤りやすいためである。

掲載情報に GDPR や CCPA といった認証の記載はない。送る情報の扱いと置かれる場所は方針で読むべきである。利用者の書き込みを第三者へ送る以上、その流れを説明できなければならない。保管の有無と学習への利用は規約に書かれているべきである。

実際に使われる言語への対応も尋ねるべきである。有害さの検出の質は言語や話し方で大きく変わり、英語で良くても主要な言語では頼れない場合がある。実演用の題材ではなく自分の書き込みで試すこと。固有の言葉の扱いはそれでしか分からない。