연령별 콘텐츠 규제: 변화하는 규제 환경 헤쳐나가기

디지털 환경은 중요한 변화를 겪고 있습니다. 아동 안전과 유해 온라인 콘텐츠에 대한 우려가 커짐에 따라 연령별 콘텐츠에 초점을 맞춘 새로운 입법이 추진되고 있습니다. 유해 생성형 AI(HGI)와 더 넓은 범위의 디지털 안전 요건을 중심으로 한 이러한 규정은 플랫폼, 콘텐츠 제작자, 그리고 기술 제공자에게 큰 도전 과제를 제시합니다. 본 포스트에서는 이러한 새로운 규정, 이로 인해 발생하는 운영상의 어려움, 그리고 기업이 규정 준수를 적극적으로 해결할 수 있는 방법을 살펴봅니다.

핵심 내용 1: 영국 온라인 안전 법과 전 세계적으로 유사한 제안과 같이 새로운 규정은 플랫폼의 책임 범위를 온라인에서 아동을 보호하는 데에서 연령별 콘텐츠를 적극적으로 보장하는 것으로 전환하고 있습니다.

핵심 내용 2: 유해 생성형 AI(HGI)는 주요 관심사이며, 미성년자에게 접근 가능한 AI 생성 콘텐츠와 관련된 위험을 식별하고 완화하기 위한 엄격한 요건이 적용됩니다.

핵심 내용 3: 규정 준수는 단순히 법적 준수를 넘어 사용자 신뢰를 구축하고 온라인 안전에 대한 의지를 보여주는 것입니다.

핵심 내용 4: 효과적인 연령 확인 및 콘텐츠 조정 기술은 이러한 규제의 복잡성을 헤쳐나가는 데 매우 중요합니다.

규제 환경 이해

가장 대표적인 예는 온라인 서비스에 사용자 보호 의무를 부과하는 영국 온라인 안전 법입니다. 이 법의 핵심 구성 요소는 연령에 부적합한 콘텐츠에 대한 노출을 포함하여 위험을 평가하고 완화하도록 기업에 요구함으로써 아동을 보호하는 데 중점을 둡니다. 유사한 입법이 유럽 연합(EU)의 디지털 서비스 법(DSA) 및 미국 연방 입법 가능성을 포함하여 다른 지역에서도 논의되고 시행되고 있습니다. 이러한 법률은 사용자 안전과 관련된 '자격을 갖춘 제공자'와 '위험 평가' 개념을 도입합니다.

주요 관심사는 유해 생성형 AI(HGI)의 증가, 즉 어린이와 같은 개인에게 유해하거나 불법적이거나 상당한 위험을 초래하는 AI 시스템에서 생성된 콘텐츠입니다. HGI를 대상으로 하는 규정은 플랫폼이 이러한 콘텐츠를 적극적으로 감지하고 제거하며, 연령 제한 메커니즘을 구현하고, 생성 및 배포를 방지하기 위해 실사를 수행하도록 요구합니다.

연령 확인의 과제

효과적인 연령별 콘텐츠 필터링을 구현하려면 신뢰할 수 있는 연령 확인이 필요합니다. 그러나 이것은 복잡한 문제입니다. 자기 신고와 같은 기존 방법은 쉽게 무시될 수 있습니다. 신분증 확인과 같은 보다 강력한 솔루션은 개인 정보 보호 문제를 야기하고 합법적인 사용자의 불편을 초래할 수 있습니다. 또한, 각 관할 구역마다 개인 데이터 수집 및 처리에 대한 법적 요구 사항이 다릅니다.

동영상 공유 플랫폼을 예로 들어 보겠습니다. 단순히 사용자에게 나이를 묻는 것만으로는 충분하지 않습니다. 보다 정교한 접근 방식은 사용자 행동을 기반으로 한 수동적 연령 추정, 법적으로 허용되고 적절한 동의를 받은 경우 신분증을 사용한 적극적인 확인, 그리고 부모 통제 구현을 결합하는 것을 포함할 수 있습니다. 과제는 보안, 개인 정보 보호, 사용자 경험의 균형을 맞추는 데 있습니다.

콘텐츠 조정 및 필터링 기술

연령이 확인(또는 합리적으로 추정)되면 다음 단계는 콘텐츠 조정 및 필터링 기술을 구현하는 것입니다. 여기에는 다음이 포함됩니다:

• AI 기반 콘텐츠 분류: 머신 러닝을 사용하여 콘텐츠를 다양한 연령대의 적합성에 따라 자동으로 식별하고 분류합니다.
• 키워드 필터링: 노골적인 언어 또는 테마가 포함된 콘텐츠를 차단합니다.
• 이미지 및 비디오 분석: 부적절한 이미지 또는 비디오 콘텐츠를 감지합니다.
• 인간 검토: 플래그가 지정된 콘텐츠를 검토 및 조치를 위해 인간 조정자에게 에스컬레이션합니다.

이러한 기술의 효과는 정확도와 유해 콘텐츠의 변화하는 추세에 적응할 수 있는 능력에 달려 있습니다. 오탐(합법적인 콘텐츠를 잘못 플래그 지정)은 사용자를 좌절시킬 수 있으며, 미탐(유해 콘텐츠를 감지하지 못함)은 심각한 결과를 초래할 수 있습니다. 예를 들어, 소셜 미디어 플랫폼은 자살이나 착취를 조장하는 콘텐츠를 정확하게 식별하고 제거해야 하므로 맥락과 의도에 대한 미묘한 이해가 필요합니다.

데이터 개인 정보 보호 및 규정 준수의 역할

연령별 콘텐츠 규정을 준수하려면 데이터 개인 정보 보호 및 규정 준수에 대한 강력한 의지가 필요합니다. 조직은 연령 확인 및 콘텐츠 조정 목적으로 사용자 데이터를 수집하고 처리할 때 GDPR 및 CCPA와 같은 관련 데이터 보호 법률을 준수하는지 확인해야 합니다. 여기에는 명시적인 동의를 얻고, 투명한 개인 정보 보호 정책을 제공하고, 강력한 데이터 보안 조치를 구현하는 것이 포함됩니다.

또한 조직은 위험 평가, 콘텐츠 조정 정책, 사고 대응 절차를 포함하여 규정 준수 노력에 대한 자세한 기록을 유지해야 합니다. 이러한 기록은 규제 기관의 조사를 받을 수 있습니다.

Didit의 도움

Didit의 신원 플랫폼은 연령별 콘텐츠 규제의 과제를 해결하기 위한 포괄적인 솔루션을 제공합니다. 모듈식 아키텍처를 통해 기업은 특정 요구 사항에 맞게 맞춤형 신원 흐름을 구축할 수 있습니다. 주요 기능은 다음과 같습니다:

• 연령 추정: 셀카에서 ±3.5년의 정확도로 사용자 연령을 정확하게 추정합니다.
• 신분증 확인: 정부에서 발급한 신분증을 확인하여 연령을 확인합니다.
• 실시간 감지: 사용자가 확인 중에 실제 사람이고 존재하는지 확인합니다.
• 워크플로우 오케스트레이션: 조건부 로직으로 복잡한 확인 흐름을 구축하고, 연령 추정이 불확실한 경우 전체 신분증 확인으로 자동 에스컬레이션합니다.
• 재사용 가능한 KYC: 사용자가 한 번 확인하고 여러 플랫폼에서 신원을 재사용하여 마찰을 줄일 수 있습니다.
• AML 스크리닝: 사기성 활동을 감지하고 방지합니다.

Didit의 기본 개인 정보 보호 접근 방식은 사용자 데이터가 관련 규정에 따라 보호되고 처리되도록 보장합니다.

지금 시작할 준비가 되셨습니까?

진화하는 연령별 콘텐츠 규정을 앞서가는 것은 사용자를 보호하고 비즈니스의 장기적인 지속 가능성을 보장하는 데 중요합니다.

오늘 Didit 데모를 요청하세요: https://demos.didit.me

가격 정보 확인: https://didit.me/pricing