我们让AI做一项简单工作：尝试攻破Didit
Didit利用AI代理测试验证流程，研究机器人行为并优化用户旅程，同时呼吁行业提升安全标准。
在Didit，AI红队测试意味着利用人工智能（AI）代理在测试环境中挑战我们的身份验证流程。 我们研究这些尝试及其结果，以发现弱点，帮助检测执行验证的机器人，并了解真实用户遇到的困难。
播放拉远动画暂停动画
我们允许代理访问我们的源代码，并要求它们找到通过测试环境检查的方法。 它们尝试伪造文件、注入摄像头画面并通过真实工作流程进行自动化操作。 我们观察发生的一切，调查结果并利用所学知识改进系统。
我们还利用这项工作来帮助检测执行验证的机器人并了解用户行为。 观察自动化如何通过流程有助于我们更好地审视欺诈行为以及屏幕另一端用户的体验。
主要收获
测试整个流程。 伪造文件、人工摄像头画面和自动化操作会挑战验证流程的不同部分。
调查发生了什么。 当代理声称找到绕过方法时，需要通过可重现的证据核实其说法。
从行为中学习。 时间安排和重试可以为自动化提供背景信息，同时也能揭示合法用户需要帮助的地方。
使发现有用。 这项工作通过调查、修复和检查对真实用户的影响而持续进行。
屏幕背后的责任
TechCrunch报道了一家验证服务提供商疑似发生数据泄露。
对我们而言，责任始于人们对验证公司的信任。 护照扫描件包含您的姓名、照片和其他身份信息。 自拍照是您面部的记录。 密码泄露后可以重置。 但您的面部无法重置。
这项责任超越了判断文件是否真实或人员是否在场。 它包括处理请求的服务、数据权限以及操作系统的人员。 流程前端的强力检查无法弥补其他地方的弱点。
这就是为什么我们希望在有机会根据发现采取行动时，挑战我们的假设。
我们实际要求代理做什么
正常的测试始于预期结果。 对抗性测试始于系统应阻止的目标。
对于身份验证，这可能意味着接受伪造文件或尝试让录制的人脸冒充在场人员。 这可能意味着探测系统在自动化客户端以意外方式通过流程时如何响应。
代理可以检查代码、与工作流程交互并根据响应调整其下一次尝试。 这为我们提供了一种有用的方法来探索一组固定测试用例可能遗漏的假设。
在随附的录像中，代理上传样本文件、提供人工摄像头画面并在测试环境中完成验证步骤。 镜头从一个屏幕拉远到一整面墙的录像，以便您可以看到活动的范围。
有关媒体操纵的背景信息，请参阅我们的深度伪造攻击和检测指南。
这面墙是工作的可视化。 每个结果仍需根据底层证据进行检查。 代理声称找到了绕过方法并不意味着它就是。
走进一次测试环境演练
智能体行动、观察，再调整。
智能体可以检查源代码，并选择输入在测试环境中尝试。这些路径表示入口，不代表成功绕过检查。
响应让智能体了解发生了什么。即使声称绕过了检查，仍需独立核实。
智能体检查响应并调整下一次尝试。这种反馈让它能够探索固定测试用例之外的情况。
也要检查对正常用户的影响。
我们的方法包括前沿模型和开放模型，它们对尝试的任务限制较少。 我们希望对对抗性行为进行有用的覆盖，包括模型可能拒绝探索的尝试。 模型尝试攻击的意愿并不能说明该攻击是否成功。 这是一个我们需要验证的工程问题。
这项工作如何帮助我们理解机器人
一份文件和一张自拍照只讲述了故事的一部分。 验证发生的方式可以增加背景信息。
我们利用这些练习来帮助检测执行验证的机器人，并更多地了解机器人行为。 亲自运行自动化为我们提供了可以研究、比较和挑战的示例，因为自动化会不断变化。
我们可以检查自动化尝试在哪里暂停、错误后重复了什么以及每次是否遵循相同的序列。 我们还可以考虑该行为是否符合设备和会话上下文。 这些比较有助于使调查更具体。
这些是需要调查的问题，而不是单独建立欺诈的规则。 快速的用户可能只是知道该怎么做。 多次重试的人可能光线不佳或连接不可靠。 使用辅助技术的人可能与设计师预期的模式交互方式不同。
有用的机器人检测必须考虑到这种变化。 时间、重复和设备上下文需要与验证证据一起考虑。 将一个异常行为视为滥用证据会使真实用户的体验变差。
同样的工作也让我们了解人们的困难之处
研究行为也有助于我们提出更好的产品问题。 重试可能指向攻击，但也可能指向难以理解的指令。 放弃的摄像头步骤可能意味着用户无法授予权限。 捕获失败可能反映了眩光、损坏的文件或需要不同方法的设备。
自动化测试让我们能够探索流程如何响应这些情况。 了解真实用户的体验需要同时观察用户行为。 两者不能相互替代。
它们共同帮助我们将有用的安全控制与值得调查的摩擦区分开来。 目标是使滥用更困难，同时帮助合法用户通过清晰的指令和合理的恢复路径完成验证，以防出现问题。
发现必须改变一些东西
一项练习的价值在于尝试之后发生的事情。
一个可疑的弱点需要一个可重现的案例。 工程师需要了解涉及哪个控制以及证据是否支持该主张。 如果需要修复，则需要针对更改再次运行原始尝试。
我们还需要检查这种改变对合法用户的影响。 一个通过拒绝更多人来拒绝更多攻击的控制创造了另一个需要解决的问题。
这就是我们希望这项工作支持的纪律：尝试、观察、调查、改进并再次测试。 动图展示了尝试。 它们背后的工作才是最重要的。
我们也会被黑客攻击
任何人都有可能被黑客攻击，包括我们。 持续测试并不能消除这种可能性。 它为我们提供了更多发现弱点并采取行动的机会。
我们构建身份验证和防欺诈基础设施，因为我们相信人们应该能够自信地在线证明自己的身份。 我们在AI时代实现互联网人性化的愿景取决于在实践中赢得这种信任。
这意味着了解攻击者的行为方式，关注真实用户遇到的困难，并诚实地对待我们的证据能告诉我们什么。
致我们行业的技术领导者
网络风险在身份验证中是系统性的。 我们依赖于互联服务、集成和人员，所涉及的信任超越了任何一个提供商。 一家公司的失败可能会伤害个人并削弱整个行业的信心。
如果您是本行业的首席技术官、工程负责人或安全负责人，我们鼓励您非常认真地对待这一责任。 为安全工作提供明确的负责人、时间和预算。 挑战验证流程、处理身份数据的系统、人员的访问权限以及您的团队对事件的响应。 随着技术和攻击的变化，重新审视这些假设。
上周的报道应该是一个警钟，提醒我们做好准备。 我们应该利用它来加强自身的防御，负责任地分享有用的防御经验，并对已验证的弱点采取行动。 等到我们自己的公司受到影响才采取行动就太晚了。
我们将自己也纳入这一责任范围。 我们也会被黑客攻击，我们需要不断赢得人们对我们的信任。
我们的行业需要加紧努力。 人们将他们的身份托付给我们。 我们有责任做好这项工作。
常见问题
Didit的AI红队测试涉及什么？
我们允许AI代理访问我们的源代码和测试环境，然后要求它们挑战验证检查。 本文中的示例包括伪造的样本文件、人工摄像头画面和自动化流程。 工程师仍需验证每个可疑弱点的结果。
这如何帮助检测执行验证的机器人？
亲自运行自动化会创建机器人行为的示例供研究。 它帮助我们检查序列、重试和上下文以及验证证据。 单一的行为信号并不能确定用户是机器人或发生了欺诈。
动图是否证明Didit阻止了所有攻击？
不。 动图是测试录像的合成，屏幕重复播放。 它展示的是测试过程，并非检测基准或承诺所有攻击都会失败。
这项工作能否改善真实用户的体验？
是的，它可以帮助我们调查验证流程在哪里变得困难。 我们仍需将真实用户行为与自动化测试一起考虑，这样我们才能区分有用的安全控制与诸如不清晰的指令或困难的摄像头访问等问题。
如果您正在构建验证流程，请探索Didit的用户验证并阅读活体检测文档。 您也可以查看定价或免费开始。