IdentifAI

IdentifAI とは

IdentifAI は言葉ではなく画像と動画を扱う。画像や動画をアップロードすると、AI によって生成または加工されたかを推定する。ベンダーはこのツールをディープフェイクや合成コンテンツの検出を軸に位置づけている。

できること

• 画像が合成っぽいかを点検する
• 公開前に動画を解析する
• SNS 上の素材を選別する
• 一括で点検を実行する
• 報道機関の確認作業を支援する

向いている人

• ジャーナリストやファクトチェック担当
• ユーザー投稿を扱うプラットフォーム
• ブランドやセキュリティのチーム

注意点

• 結果は確率的である。確信度の高いスコアでも偽陽性と見逃しの両方が生じ、生成品質は検出の進歩より速く向上する。
• 特定可能な人物を写したメディアをアップロードする場合、生体関連データの処理にあたるため、同意と保存期間が重要である。
• 自動スコアだけで誰かを偽造だと公に疑ってはならない。
• 編集、圧縮、再エンコードは検出結果を大きく変える。