AIに任せるシンプルな仕事：Diditの防御突破に挑む
DiditがAIエージェントを使用して本人確認をテストし、ボットの行動を研究し、ユーザー体験を改善する方法について、業界全体のセキュリティ基準の向上を求める呼びかけとともに解説します。
Diditでは、AIレッドチームとは、人工知能（AI）エージェントを使用して、ステージング環境で本人確認フローに挑戦させることを意味します。 私たちは、その試みと結果を研究し、弱点を見つけ、本人確認を行うボットを検出し、実際のユーザーがどこで苦労しているかを理解します。
ズームアウトを再生アニメーションを一時停止
エージェントにソースコードへのアクセスを許可し、ステージング環境でのチェックを突破する方法を見つけるよう依頼します。 彼らは偽造文書、注入されたカメラフィード、実際のワークフローを通じた自動化されたジャーニーを試します。 私たちは何が起こるかを観察し、結果を調査し、学んだことをシステム改善に役立てます。
また、この作業は、本人確認を行うボットの検出やユーザー行動の理解にも役立ちます。 自動化がフローをどのように移動するかを見ることで、不正行為と画面の向こう側にいる人物の体験の両方について、より良い質問をすることができます。
主なポイント
ジャーニー全体をテストします。 偽造文書、人工的なカメラフィード、自動化されたアクションは、本人確認フローの異なる部分に挑戦します。
何が起こったかを調査します。 バイパスを主張するエージェントは、再現可能な証拠と照合して確認する必要があります。
行動から学びます。 タイミングと再試行は、自動化に関するコンテキストを追加するだけでなく、正当なユーザーが助けを必要としている場所を明らかにすることもできます。
調査結果を役立てます。 この作業は、調査、修正、そして実際の人物への影響の確認を通じて継続されます。
画面の裏側の責任
TechCrunchは、ある本人確認プロバイダーでの侵害の疑いを報じました。
私たちにとって、責任は人々が本人確認会社に委ねるものから始まります。 パスポートのスキャンには、あなたの名前、写真、その他の識別情報が含まれます。 自撮り写真はあなたの顔の記録です。 パスワードは漏洩後にリセットできます。 しかし、顔はリセットできません。
その責任は、文書が本物に見えるか、人物が存在するかを判断するだけにとどまりません。 これには、リクエストを処理するサービス、データに関する権限、およびシステムを操作する人々が含まれます。 ジャーニーの最初の段階での強力なチェックは、他の場所での弱点を補うことはできません。
だからこそ、私たちは、発見したことに基づいて行動する機会があるうちに、自分たちの仮定に挑戦したいと考えています。
実際にエージェントに依頼すること
通常のテストは期待される結果から始まります。 敵対的テストは、システムが阻止すべき目標から始まります。
本人確認の場合、それは偽造文書を受け入れさせたり、記録された顔をその場にいる人物として通過させようとすることかもしれません。 また、自動化されたクライアントが予期しない方法でフローを移動するときに、システムがどのように応答するかを調査することかもしれません。
エージェントはコードを検査し、ワークフローと対話し、応答に基づいて次の試行を調整できます。 これにより、固定されたテストケースでは見逃してしまう可能性のある仮定を探るのに役立ちます。
このGIFアニメーションでは、エージェントが標本文書をアップロードし、人工的なカメラフィードを提供し、ステージング環境で本人確認の手順を進めています。 カメラは1つの画面から、それらの記録の壁に引き戻され、活動の範囲を見ることができます。
操作されたメディアの背景については、当社の ディープフェイク攻撃と検出に関するガイドをご覧ください。
壁は作業の視覚化です。 各結果は、基礎となる証拠と照合して確認する必要があります。 エージェントがバイパスを発見したと言っても、それがバイパスであるとは限りません。
ステージングでのテストの仕組み
エージェントが試し、観察し、調整する。
エージェントはソースコードを確認し、ステージングで試す入力を選べます。各経路は入力の入口を示しており、チェックの回避成功を示すものではありません。
応答によって、何が起きたかがエージェントに伝わります。チェックを回避したという主張には、引き続き独立した検証が必要です。
エージェントは応答を確認し、次の試行を調整します。この情報により、固定のテストケースを超えて探索できます。
正当な利用者への影響も確認します。
私たちのアプローチには、フロンティアモデルと、試行するタスクに対する制限が少ないオープンモデルが含まれます。 私たちは、モデルが探索を拒否する可能性のある試みを含む、敵対的行動の有用なカバレッジを求めています。 モデルが攻撃を試みる意欲は、その攻撃が成功したかどうかとは関係ありません。 それは私たちが検証しなければならないエンジニアリングの問題です。
この作業がボットの理解にどのように役立つか
文書と自撮り写真は、物語の一部を語ります。 本人確認が行われる方法は、コンテキストを追加できます。
私たちはこれらの演習を使用して、本人確認を行うボットを検出し、ボットの行動についてさらに学ぶのに役立てています。 私たち自身で自動化を実行することで、自動化の変化に合わせて研究、比較、挑戦できる例が得られます。
自動化された試みがどこで一時停止するか、エラー後に何を繰り返すか、そして毎回同じシーケンスに従うかどうかを調べることができます。 また、その行動がデバイスとセッションのコンテキストに適合するかどうかも検討できます。 これらの比較は、調査をより具体的にするのに役立ちます。
これらは調査すべき質問であり、それ自体で不正行為を確立するルールではありません。 素早いユーザーは、単に何をすべきかを知っているだけかもしれません。 何度も再試行する人は、照明が悪いか、接続が不安定なだけかもしれません。 支援技術を使用している人は、デザイナーが期待したパターンとは異なる方法で操作するかもしれません。
有用なボット検出は、その変動を考慮に入れる必要があります。 タイミング、繰り返し、デバイスのコンテキストは、本人確認の証拠と合わせて考慮する必要があります。 1つの異常な行動を不正行為の証拠として扱うと、実際の人物の体験が悪化します。
同じ作業は、人々がどこで苦労しているかを教えてくれます
行動を研究することは、より良い製品に関する質問をするのにも役立ちます。 再試行は攻撃を指すこともありますが、理解しにくい指示を指すこともあります。 放棄されたカメラのステップは、ユーザーが許可を与えられなかったことを意味するかもしれません。 キャプチャの失敗は、まぶしさ、損傷した文書、または異なるアプローチが必要なデバイスを反映しているかもしれません。
自動テストにより、フローがこれらの状況にどのように応答するかを探ることができます。 実際の人物が何を経験しているかを理解するには、ユーザー行動も考慮する必要があります。 一方が他方を代替することはできません。
これらを組み合わせることで、有用な機能を持つ制御と、調査に値する摩擦を区別するのに役立ちます。 目的は、不正行為をより困難にすると同時に、正当なユーザーが明確な指示と、問題が発生した場合に回復するための合理的な経路で本人確認を完了できるようにすることです。
発見は何かを変えなければなりません
演習の価値は、試行後に何が起こるかにあります。
疑わしい弱点には、再現可能なケースが必要です。 エンジニアは、どの制御が関与していたか、そして証拠が主張を裏付けているかどうかを理解する必要があります。 修正が必要な場合、元の試行は変更に対して再度実行する必要があります。
また、その変更が正当なユーザーにどのような影響を与えるかも確認する必要があります。 より多くの人々を拒否することでより多くの攻撃を拒否する制御は、解決すべき別の問題を生み出しています。
それが、この作業がサポートしたい規律です: 試行し、観察し、調査し、改善し、そして再度テストします。 GIFアニメーションは試行を示しています。 それらの背後にある作業が重要なのです。
私たちもハッキングされる可能性があります
私たちを含め、誰もがハッキングされる可能性があります。 継続的なテストは、その可能性を排除するものではありません。 それは、弱点を発見し、それに対処するためのより多くの機会を与えてくれます。
私たちは、人々が自信を持ってオンラインで自分が誰であるかを証明できるべきだと信じているため、本人確認と不正防止のためのインフラストラクチャを構築しています。 AI時代にインターネットを人間化するという私たちのビジョンは、実際にその信頼を得ることに依存しています。
それは、攻撃者がどのように行動するかを理解し、実際のユーザーがどこで苦労しているかに注意を払い、私たちの証拠が何を教えてくれるかについて正直であるということです。
業界全体の技術リーダーへの呼びかけ
サイバーリスクは本人確認においてシステム的なものです。 私たちは接続されたサービス、統合、そして人々に依存しており、危機に瀕している信頼はどのプロバイダーをも超えています。 ある企業での失敗は、個人に害を及ぼし、業界全体の信頼を損なう可能性があります。
この業界の最高技術責任者、エンジニアリングリーダー、またはセキュリティリーダーである皆様には、その責任を非常に真剣に受け止めることをお勧めします。 セキュリティ作業に明確な担当者、時間、予算を与えてください。 本人確認フロー、本人確認データを扱うシステム、人々のアクセス、そしてあなたのチームがインシデントにどのように対応するかを検討してください。 テクノロジーと攻撃が変化するにつれて、それらの仮定を再検討してください。
先週の報道は、準備のための警鐘となるはずです。 私たちはそれを利用して、自社の防御を強化し、有用な防御の教訓を責任を持って共有し、検証された弱点に対処すべきです。 自社が影響を受けるまで待つと、その作業は手遅れになります。
私たちはその責任に私たち自身を含めます。 私たちもハッキングされる可能性があり、人々が私たちに寄せる信頼を得続けなければなりません。
私たちの業界はステップアップする必要があります。 人々は私たちに彼らの身元を委ねています。 私たちは彼らにその仕事をする義務があります。
よくある質問
DiditでのAIレッドチームとはどのようなものですか？
私たちはAIエージェントにソースコードとステージング環境へのアクセスを許可し、本人確認チェックに挑戦するよう依頼します。 この記事の例には、偽造された標本文書、人工的なカメラフィード、自動化されたジャーニーが含まれます。 エンジニアは、疑わしい弱点の各結果を検証する必要があります。
これは、本人確認を行うボットの検出にどのように役立ちますか？
私たち自身で自動化を実行することで、研究するためのボット行動の例が作成されます。 これにより、本人確認の証拠と合わせて、シーケンス、再試行、およびコンテキストを調べることができます。 単一の行動信号だけでは、ユーザーがボットであることや不正行為が発生したことを確立するものではありません。
このGIFアニメーションは、Diditがあらゆる攻撃を阻止することを証明していますか？
いいえ。 このGIFアニメーションは、繰り返される画面を含むステージング記録の合成です。 これはテストプロセスを示すものであり、検出のベンチマークや、あらゆる攻撃が失敗するという約束ではありません。
この作業は、実際のユーザーの体験を改善できますか？
はい、本人確認フローが困難になる場所を調査するのに役立ちます。 有用なセキュリティ制御と、不明確な指示や困難なカメラアクセスなどの問題を区別できるように、自動テストと合わせて実際のユーザー行動も考慮する必要があります。
本人確認ジャーニーを構築している場合は、 Diditのユーザー本人確認 を探索し、 ライブネスドキュメントを読んでください。 また、 価格を見る か、 無料で始めることもできます。