Censorfy

Censorfy とは

Censorfy は、開発者と事業者が接続口の呼び出しで文章と画像を調べられる監視の基盤である。画面を備えた製品ではなく API から使う監視なので、手元の作業の流れの中に置く設計になっている。

できること

内容を送ると、独自の規則と区分に沿って即時に判定が返る。送る、区分する、対処するという循環である。

目玉は調整の幅である。同じ語でも医療の掲示板では許され、遊びの会話では曖昧で、子ども向けの製品では許されない。区分を変えられるため、掲示板、会話、書き込み欄で同じ基盤を共有できる。作り直すのではなく判定の調整で済む。

接続口から使うため、文章と画像を別々にも一緒にも判定できる。通常は公開の手前に組み込み、印が付いたものを確認の列へ回す。後で点検するのではなく、流れの中で対処できる。Webhook は予定とされており、現状では組み込みの作業は自分側に残る。

料金と上限は十分に確認できていない。呼び出し一回あたりか席数か、費用の単位を確かめる必要がある。

向いている人

自分の製品に判定を組み込む開発者と、安全性を担当する組織が対象である。技術者を確保できる側ほど恩恵が大きい。最初から使える画面がないからである。

注意点

注意点は自動の監視と同じである。判定は締め付け過ぎも見逃しも起こし、どちらも損になる。すべてを自動で処理せず、際どいものは人が確認する道を残す。自分で書いた規則の偏りにも目を向けるべきである。意図しない前提が紛れ込むためである。削除された人のために申し立ての手段も用意する。

送った内容はこの基盤で処理される。特に書き込みに個人の情報が含まれる場合は、保管の条件を確認すべきである。確認のために残る記録も自分の管理下の情報になる。削除の理由を尋ねた利用者には、実際に残していたものに基づく答えを返す必要がある。

作る前に接続口の上限を確かめるべきである。頻度の上限、一度に送れる大きさ、負荷時の応答の遅れが、実際の入力の前に置けるかを決める。対話する製品では、正確さの表示よりこれらの数値が物を言う。

Webhook は予定なので、今すぐ自動で動かすなら自分で順番待ちと再試行を用意する。確認できる人がいないときの扱いも決めておくべきである。見られていない列は判定ではなく、公開されないままの滞留にすぎない。