Lakera

Lakera とは

Lakera は LLM 製品向けのセキュリティレイヤーである。プロンプトと出力を調べてインジェクション攻撃、ジェイルブレイク、データ漏えいを検出し、モデルだけでは持てない防御線を生成 AI チームに与える。

できること

• プロンプトのインジェクションのパターンの検査
• ジェイルブレイクと不正利用の試行の遮断
• 出力内の機微データの防止
• AI のエンドポイントへの攻撃の監視
• 既知の手法に対するアプリの試験

向いている人

• LLM アプリケーションを出荷するチーム
• AI 製品を担うセキュリティ部門
• エージェントを運用する基盤エンジニア

注意点

• カテゴリの不一致。コンテンツのモデレーションではなく AI 基盤のセキュリティに当たる
• プロンプトインジェクションの防御は競争であり、どのレイヤーもすべては捕らえられない。設計と人による監視を重ねること
• 過度に強い遮断は正当な利用者を壊す。誤判定の割合を調整すること
• 無料で始められるとの記載がある。エンタープライズ導入の価格は異なる