AI 에이전트 시대의 신원 확인: LLM 플랫폼의 필수 요소 (KO)

지난 2년 동안 대규모 언어 모델(LLM)에 대한 보안 논의는 주로 LLM이 무엇을 말하는지에 집중되었습니다. 탈옥, 거부, 안전장치, 출력에 대한 레드팀 테스트 등이 그 내용이었죠. 하지만 이제 이러한 논의는 구시대적인 것이 되었습니다. 모델이 더 이상 단순한 텍스트 생성기가 아니라 행위자가 되었기 때문입니다. 이제 LLM은 API 자격 증명을 보유하고, 도구를 호출하며, 돈을 움직입니다.

모델이 행동할 수 있게 되면 흥미로운 보안 질문은 더 이상 "무엇을 말했는가?"가 아닙니다. 바로 "방금 한 일에 대한 책임은 누구에게 있는가?"입니다. 이 질문은 콘텐츠 필터로는 답할 수 없습니다. 오직 신원(identity)으로만 답할 수 있습니다.

주요 요점

• 취약점은 언어가 아닌 에이전시입니다. OWASP는 LLM 애플리케이션의 Top 10에 과도한 에이전시를 포함시켰으며, 2025년 12월에는 에이전트 애플리케이션을 위한 별도의 Top 10을 발표했습니다.
• 인간 확인 절차는 적극적인 공격을 받고 있습니다. Entrust의 2026년 신원 사기 보고서는 딥페이크가 생체 인식 사기 시도의 5건 중 1건과 연관되어 있으며, 주입 공격(injection attacks)이 전년 대비 40% 증가했다고 밝혔습니다.
• 규제 기관은 이미 이러한 격차를 인지하고 있습니다. 영국의 FCA는 AI 도구가 결제를 시작함에 따라 은행들에게 "에이전트 확인(know your agent)" 절차를 준비하라고 지시하고 있습니다.
• 마감 기한은 현실입니다. EU AI법 제50조의 투명성 의무는 2026년 8월 2일부터 적용되었으며, 최대 2,000만 유로 또는 전 세계 연간 매출의 3%에 해당하는 벌금이 부과될 수 있습니다.
• 표준은 아직 미완성입니다. 세 개의 개별 IETF 초안이 위임된 에이전트 권한 부여를 정의하기 위해 경쟁하고 있으며, 이들 모두는 검증되어야 할 인간 주체(human principal)로 귀결됩니다.

과도한 에이전시가 진정한 취약점 클래스입니다.

OWASP의 과도한 에이전시 항목은 문제를 정확히 설명합니다. LLM 기반 시스템은 함수를 호출하거나 다른 시스템과 인터페이스할 수 있는 권한을 부여받으며, 어떤 함수를 호출할지에 대한 결정은 종종 입력 프롬프트나 이전 출력에 따라 모델 자체에 위임됩니다. 에이전트 시스템은 이러한 호출을 연결하여 각 결과를 다음 호출에 공급합니다.

취약점은 모호하거나, 예상치 못했거나, 적대적인 입력에 반응하여 해당 체인이 손상되는 행동을 실행할 때 발생합니다. 모델은 어떤 고전적인 의미에서 "해킹"될 필요가 없습니다. 설득되기만 하면 되며, 모델은 설득될 수 있도록 설계되었습니다.

이것은 심각한 문제이므로 OWASP의 GenAI 보안 프로젝트는 2025년 12월에 에이전트 애플리케이션을 위한 별도의 Top 10을 발표하여, 에이전트 시스템을 LLM 보안의 부록이 아닌 별개의 위협 표면으로 다루고 있습니다.

과도한 에이전시를 완화하기 위해 실제로 무엇이 필요한지 주목하십시오. 권장되는 모든 제어(최소 필수 권한, 휴먼 인 더 루프 승인, 범위 지정된 도구 접근, 완전한 감사 로깅)는 에이전트가 어떤 주체(principal)를 위해 행동하는지 알고 있다고 전제합니다. 권한은 부여할 신원이 없으면 무의미합니다. 익명의 행위자에게 최소 권한을 부여할 수 없습니다.

사기 데이터: 인간 확인 절차가 공격 대상이 되고 있습니다.

가장 분명한 답은 승인 시점에 인간을 확인하는 것입니다. 공격자들은 이를 알고 있으며, 그렇기 때문에 확인 단계 자체가 이제 공격 대상이 됩니다.

Entrust의 2026년 신원 사기 보고서는 딥페이크가 생체 인식 사기 시도의 5건 중 1건과 연관되어 있으며, 주입 공격(카메라를 완전히 우회하고 합성 비디오를 확인 스트림에 직접 공급하는 방식)이 전년 대비 40% 증가했다고 밝혔습니다.

4백만 건 이상의 사기 시도를 분석한 Sumsub의 2025-2026년 신원 사기 보고서는 전반적인 전 세계 사기율이 안정화되고 있지만, 고품질의 정교한 공격은 2024-2025년 동안 180% 증가했다고 보고합니다. 이러한 패턴은 양에서 정확성으로의 전환을 보여줍니다. 즉, 시도 횟수는 줄었지만 각 시도는 훨씬 더 잡기 어려워졌습니다.

전략적 함의는 불편합니다. 생성형 AI는 동시에 (a) 에이전트가 중대한 행동을 할 수 있도록 만들고, (b) 가장 저렴한 신원 확인(셀카, 문서 사진, OTP)을 신뢰할 수 없게 만듭니다. 약한 확인과 자율적인 에이전시의 조합은 좋지 않으며, 이들은 함께 오고 있습니다.

이것이 바로 에이전트가 사용자를 대신하여 돈을 쓸 수 있게 되는 순간, 패시브 라이브니스(passive liveness)와 주입 공격 감지가 "있으면 좋은" 기능에서 필수가 되는 이유입니다. 확인 단계는 이제 양식 필드가 아니라 적대적 인프라입니다.

규제 기관이 표준보다 먼저 나섰습니다.

2026년 6월, 영국 금융감독청(FCA) 고위 관계자들은 더 뱅커(The Banker)와의 인터뷰에서 은행들이 새로운 "에이전트 확인(know your agent)" 시대에 대비해야 한다고 말했습니다. 그들의 추론은 에이전트 상거래(사용자를 위해 쇼핑하고, 거래하고, 계정을 관리하는 AI)가 은행들로 하여금 거래의 상대방이 누구인지 확인하는 방식을 재고하도록 강요한다는 것입니다.

이러한 관점은 빠르게 확산되었습니다. 아메리칸 뱅커(American Banker)의 산업 논평은 규정 준수 측면에서 동일한 점을 지적합니다. 즉, 은행 시스템에 접근하여 잔액을 확인하고 자금을 이체하는 새로운 주체가 있으며, 이는 사람이 아니라는 것입니다.

한편, 엄격한 규정 준수 기한은 이미 적용되고 있습니다. 2026년 8월 2일부터 EU AI법 제50조의 투명성 의무가 특정 AI 시스템의 제공자 및 배포자에게 적용되며, 유럽 위원회의 지침은 2026년 7월 20일에 채택되었습니다. 규정 미준수는 최대 2,000만 유로 또는 전 세계 연간 매출의 3% 중 더 높은 금액의 벌금을 초래할 수 있으며, 이 규정은 EU 시장에 AI를 출시하거나 그 결과물이 EU에서 사용되는 모든 제공자에게 적용됩니다 (Cooley).

이미 존재했던 의무들(AMLD6 고객 실사, 암호화폐 자산 서비스에 대한 MiCA, 금융 기관에 대한 DORA 운영 탄력성, 신원 데이터 자체에 대한 GDPR)을 추가하면, 에이전트를 배포하는 규제 대상 기업은 미래의 규칙을 기다리지 않습니다. 이미 4가지 규제 안에 있습니다.

표준의 격차, 그리고 왜 항상 검증된 인간에게 귀결되는가?

프로토콜 계층은 눈에 띄게 불안정합니다. 위임된 에이전트 권한 부여를 다른 방향에서 다루는 최소 3개의 활성 IETF 초안이 있습니다.

초안	접근 방식
OAuth 2.0용 에이전트 권한 부여 프로필(AAP)	시스템이 에이전트 신원, 작업 컨텍스트 및 운영 제약 조건을 추론할 수 있도록 구조화된 클레임을 통해 OAuth 2.0 및 JWT를 확장합니다.
위임된 AI 에이전트 권한 부여를 위한 OAuth 프로필	사용자를 대신하여 행동하는 에이전트에 대한 위임에 대한 부여 유형을 정의합니다.
에이전트 위임 헤더	관리 도메인 간에 감쇠된 위임 링크 체인을 전달합니다. 각 링크는 범위를 좁히고 만료 기간을 단축하며, 검증자는 모든 링크를 확인합니다.

이 초안들은 메커니즘에 대해서는 의견이 다릅니다. 하지만 형태에 대해서는 일치합니다. 즉, 위임 체인으로, 각 링크는 상위 링크보다 좁고, 체인은 그 루트만큼만 신뢰할 수 있습니다.

그 루트는 인간입니다. 감쇠된 위임 체인은 에이전트가 누군가에게서 범위를 부여받았음을 증명하지만, 그 누군가가 실제인지, 제재 대상인지, 법적 연령인지, 또는 계정을 개설한 사람과 동일한 사람인지에 대해서는 아무것도 말해주지 않습니다. 암호화는 위임이 발생했음을 증명할 수 있습니다. 하지만 위임자가 존재한다는 것을 증명할 수는 없습니다. 이는 신원 확인 문제이며, 어떤 OAuth 프로필도 이를 해결하지 못할 것입니다.

이것이 아키텍처적으로 어떻게 보이는가

두 가지 우려 사항을 분리하는 실용적인 패턴:

1. 인간을 한 번, 제대로 확인합니다. 온보딩 시 문서 확인, 패시브 라이브니스, 안면 매칭 및 주입 공격 감지 — 공격자들이 이 단계를 노리고 있기 때문입니다.
2. 에이전트 자격 증명을 확인된 신원에 바인딩합니다. 에이전트의 토큰은 단순한 계정 ID 대신 확인된 주체를 참조하므로, 범위에 대해 추론할 수 있습니다.
3. 주체를 한 번만 스크리닝하는 것이 아니라 지속적으로 스크리닝합니다. 제재 및 PEP 상태는 온보딩 후 변경될 수 있습니다. 1월에 권한을 부여받은 에이전트가 6월에는 제재 대상자를 위해 행동할 수도 있습니다.
4. 일정표가 아닌 위험에 따라 재확인합니다. 에이전트가 가치 임계값을 넘거나 행동을 변경할 때 생체 인증으로 단계를 높이고, 달력에 따라 전체 KYC를 다시 실행하지 않습니다.
5. 전체 체인을 기록합니다. 인간 신원, 에이전트 자격 증명, 행동 및 결정 — 제50조와 AMLD6 모두 궁극적으로 누가 무엇을 승인했는지 재구성하도록 요구하기 때문입니다.

중요한 설계 지점은 1단계와 3단계가 일반적인 신원 인프라라는 것입니다. 진정으로 새로운 작업은 2단계이며, 1단계가 바인딩할 가치가 있는 것을 생성했을 때만 실현 가능합니다.

Didit이 어떻게 적합한가

Didit은 신원 및 사기 방지 인프라입니다. 인증 → 확인 → 모니터링 라이프사이클 전반에 걸쳐 단일 API를 제공하며, 사용량 기반 공개 요금제를 제공하고 최소 요금이 없습니다.

인간 확인 단계의 경우, 사용자 확인 (KYC)은 ID 확인(0.15달러), 패시브 라이브니스(0.10달러), 안면 매칭 1:1(0.05달러), IP 분석(0.03달러)을 포함하며, 전체 KYC 번들은 0.33달러입니다. 핵심 기능에 대해 월 500건의 무료 확인을 제공합니다. 연령 추정(0.10달러)은 연령 확인 규정을 준수해야 하는 소비자 AI 제품에 중요하며, 재사용 가능한 KYC는 무료이므로 한 번 확인된 사용자는 권한을 부여하는 모든 에이전트에 의해 다시 확인될 필요가 없습니다.

지속적인 위험 관리 단계의 경우, AML 스크리닝은 1,300개 이상의 목록에 대해 건당 0.20달러이며, 지속적인 모니터링은 사용자당 연간 0.07달러입니다. 거래 모니터링은 거래당 0.02달러이며, 법정화폐 및 암호화폐 규칙 엔진과 사례 관리 및 SAR 워크플로우를 포함합니다. 지갑 스크리닝/KYT는 거래 모니터링 내에 건당 0.15달러로 제공됩니다. 기업 확인 (KYB)은 기업당 2.00달러부터 시작하며, UBO 추출을 포함하여 소비자가 아닌 기업을 대신하여 행동하는 에이전트를 지원합니다.

연결을 위해 MCP 서버, 워크플로우 오케스트레이터 및 SDK는 무료입니다. 이는 에이전트 프레임워크가 별도의 라이선스 협상 없이 확인을 도구로 호출할 수 있음을 의미합니다.

기반 기술: 220개 이상의 국가, 14,000개 이상의 문서 유형, 1,000개 이상의 데이터 소스, 200개 이상의 사기 신호, 2초 미만의 추론 시간, 5분 통합. SOC 2 Type 1 및 Type 2 (Type 2는 2026년 7월 30일 발행), ISO/IEC 27001, 그리고 라이브니스 주장에 대한 iBeta Level 1 PAD 인증을 받았습니다. Didit의 확인은 EU 회원국 정부(스페인의 Tesoro, Banco de España 및 SEPBLAC)로부터 대면 확인보다 더 안전하다고 공식적으로 인증받았습니다. 2,000개 이상의 기업이 이를 프로덕션 환경에서 사용하고 있습니다.

솔직한 요약

신원 확인이 LLM에 필수가 되는 것은 단일 규제 때문이 아닙니다. 모델이 행동할 수 있는 능력을 얻고, 저렴한 신원 확인이 동시에 위조 가능해지며, 규제 기관이 누가 행동을 승인했는지 묻기 시작하고, 이 질문에 답하기 위해 초안이 작성되고 있는 위임 표준이 모두 누군가가 존재를 증명해야 하는 인간에게 귀결되기 때문에 필수가 되는 것입니다.

콘텐츠 안전은 2024년의 문제였습니다. 책임은 2026년의 문제이며, 책임은 곧 신원(identity)입니다.

자주 묻는 질문

"에이전트 확인(know your agent)"은 실제로 무엇을 의미합니까?

이는 고객을 위해 행동하는 자율 소프트웨어에 대한 고객 실사(customer due diligence)의 확장입니다. 실제로 이는 특정 에이전트가 어떤 확인된 인간 또는 기업에 의해 승인되었는지, 어떤 범위를 가지고 있는지, 그리고 감사 가능한 기록을 유지하는 것을 의미합니다. 에이전트를 익명의 API 클라이언트로 취급하는 대신 말이죠. 영국 FCA 관계자들은 은행들이 이러한 확인 절차에 대비할 것을 공개적으로 촉구했습니다.

AI 에이전트 인증에 OAuth만으로는 충분하지 않은 이유는 무엇입니까?

OAuth 및 이를 확장하는 에이전트 권한 부여 초안은 범위가 체인을 따라 위임되었음을 증명할 수 있으며, 각 링크에서 해당 범위를 좁힐 수 있습니다. 하지만 체인의 루트에 있는 사람이 실제인지, 성인인지, 제재 대상이 아닌지 확립할 수는 없습니다. 위임과 신원은 다른 문제입니다. 에이전트 권한 부여는 검증된 주체를 생성하는 것이 아니라 이미 검증된 주체를 가정합니다.

딥페이크는 AI 제품의 신원 확인을 어떻게 변화시킵니까?

공격을 문서에서 확인 파이프라인 자체로 옮깁니다. Entrust의 2026년 보고서는 딥페이크가 생체 인식 사기 시도의 5건 중 1건과 연관되어 있으며, 카메라에 보여주는 대신 합성 비디오를 스트림에 직접 공급하는 주입 공격이 전년 대비 40% 증가했다고 기록합니다. 셀카 비교 대신 주입 감지가 포함된 패시브 라이브니스가 관련 제어 기능입니다.

구체적인 규정 준수 마감 기한은 무엇입니까?

EU AI법 제50조의 투명성 의무는 2026년 8월 2일부터 적용되었으며, 유럽 위원회 지침은 2026년 7월 20일에 채택되었고, 최대 2,000만 유로 또는 전 세계 연간 매출의 3%에 해당하는 벌금이 부과될 수 있습니다. 금융 서비스 기업들은 기존 AMLD6, MiCA 및 DORA 의무와 함께 이를 검토해야 합니다. 이 모든 의무는 이미 신뢰할 수 있는 고객 식별을 요구합니다.

에이전트 자체의 확인된 신원이 필요합니까, 아니면 인간을 확인하는 것으로 충분합니까?

두 가지 모두 다른 이유로 필요합니다. 인간은 책임성을 확립하고 실사 의무를 충족시킵니다. 에이전트 자격 증명은 범위(이 특정 에이전트가 어떤 행동을 할 수 있고, 얼마나 오랫동안 할 수 있는지)를 확립합니다. 인간만 확인하는 것은 개별 에이전트를 제한하거나 취소할 수 없게 만들고, 확인된 인간 없이 에이전트 자격 증명을 발급하는 것은 누가 책임이 있는지 말할 수 없게 만듭니다.