Контент для разных возрастов: руководство по новым правилам

Цифровая среда претерпевает значительные изменения. Растущая обеспокоенность безопасностью детей и вредным онлайн-контентом стимулирует принятие нового законодательства, ориентированного на контент, соответствующий возрасту. Эти правила, часто основанные на концепции вредоносного генеративного ИИ (HGI) и более широких требованиях цифровой безопасности, представляют собой серьезную проблему для платформ, создателей контента и поставщиков технологий. В этой статье мы рассмотрим эти новые правила, операционные трудности, которые они создают, и то, как предприятия могут активно решать вопросы соответствия.

Ключевой вывод 1: Новые правила, такие как Закон Великобритании об онлайн-безопасности и аналогичные предложения во всем мире, перекладывают ответственность за защиту детей в Интернете с платформ на проактивное обеспечение контента, соответствующего возрасту.

Ключевой вывод 2: Вредоносный генеративный ИИ (HGI) является ключевым направлением, с жесткими требованиями к выявлению и смягчению рисков, связанных с контентом, генерируемым ИИ, доступным для несовершеннолетних.

Ключевой вывод 3: Соответствие требованиям – это не только юридическое соблюдение; это построение доверия с пользователями и демонстрация приверженности онлайн-безопасности.

Ключевой вывод 4: Эффективная проверка возраста и технологии модерации контента имеют решающее значение для решения проблем, связанных с этими правилами.

Понимание нормативной базы

Наиболее ярким примером является Закон Великобритании об онлайн-безопасности, который возлагает на онлайн-сервисы обязанность заботиться о защите пользователей от незаконного и вредного контента. Основным компонентом Закона является защита детей путем требования к компаниям оценивать и смягчать риски, включая воздействие контента, не соответствующего возрасту. Аналогичное законодательство обсуждается и внедряется в других регионах, включая Закон ЕС о цифровых услугах (DSA) и потенциальное федеральное законодательство в Соединенных Штатах. Эти законы вводят концепцию «квалифицированных провайдеров» и «оценки рисков», связанных с безопасностью пользователей.

Основной проблемой является рост вредоносного генеративного ИИ (HGI) – контента, генерируемого ИИ-системами, который является вредным, незаконным или представляет значительный риск для отдельных лиц, особенно детей. Правила, касающиеся HGI, требуют от платформ активно выявлять и удалять такой контент, внедрять механизмы ограничения по возрасту и демонстрировать должную осмотрительность в предотвращении его создания и распространения.

Проблемы проверки возраста

Внедрение эффективной фильтрации контента, соответствующего возрасту, начинается с надежной проверки возраста. Однако это сложная проблема. Традиционные методы, такие как самодекларация, легко обходятся. Более надежные решения, такие как требование проверки удостоверения личности, вызывают опасения по поводу конфиденциальности и могут создавать препятствия для законных пользователей. Кроме того, в разных юрисдикциях существуют различные юридические требования к сбору и обработке персональных данных.

Рассмотрим платформу для обмена видео. Просто попросить пользователей указать свой возраст недостаточно. Более сложный подход может включать комбинацию методов: пассивную оценку возраста на основе поведения пользователя, активную проверку с использованием документов, удостоверяющих личность (если это разрешено законом и с соответствующего согласия) и внедрение родительского контроля. Задача состоит в том, чтобы сбалансировать безопасность, конфиденциальность и удобство использования.

Технологии модерации и фильтрации контента

После проверки возраста (или разумной оценки) следующим шагом является внедрение технологий модерации и фильтрации контента. Это включает в себя:

• Классификация контента на основе искусственного интеллекта: Использование машинного обучения для автоматического определения и категоризации контента на основе его пригодности для разных возрастных групп.
• Фильтрация ключевых слов: Блокировка контента, содержащего откровенный язык или темы.
• Анализ изображений и видео: Обнаружение неприемлемых изображений или видеоконтента.
• Ручная проверка: Направление отмеченного контента на рассмотрение и принятие мер модераторами-людьми.

Эффективность этих технологий зависит от их точности и способности адаптироваться к меняющимся тенденциям в вредном контенте. Ложные срабатывания (неправильная пометка законного контента) могут расстраивать пользователей, а ложные отрицания (невыявление вредного контента) могут иметь серьезные последствия. Например, платформе социальных сетей необходимо точно выявлять и удалять контент, пропагандирующий членовредительство или эксплуатацию, что требует нюансного понимания контекста и намерений.

Роль защиты данных и соответствия требованиям

Обеспечение соответствия требованиям к контенту, соответствующему возрасту, требует твердой приверженности защите данных и соответствию требованиям. Организации должны убедиться, что они соблюдают соответствующие законы о защите данных, такие как GDPR и CCPA, при сборе и обработке данных пользователей для целей проверки возраста и модерации контента. Это включает в себя получение явного согласия, предоставление прозрачной политики конфиденциальности и внедрение надежных мер безопасности данных.

Кроме того, организациям необходимо вести подробные записи своих усилий по обеспечению соответствия требованиям, включая оценку рисков, политику модерации контента и процедуры реагирования на инциденты. Эти записи могут быть подвергнуты проверке со стороны регулирующих органов.

Чем может помочь Didit

Платформа идентификации Didit предлагает комплексное решение для решения проблем, связанных с регулированием контента, соответствующего возрасту. Наша модульная архитектура позволяет предприятиям создавать индивидуальные процессы идентификации, адаптированные к их конкретным потребностям. Ключевые особенности включают в себя:

• Оценка возраста: Точно оцените возраст пользователя по селфи с точностью ±3,5 года.
• Проверка удостоверения личности: Проверьте государственные удостоверения личности для подтверждения возраста.
• Обнаружение активности: Убедитесь, что пользователи реальны и присутствуют во время проверки.
• Оркестровка рабочих процессов: Создавайте сложные процессы проверки с условной логикой, автоматически переходя к полной проверке удостоверения личности, когда оценка возраста неопределенна.
• Повторное использование KYC: Позвольте пользователям пройти проверку один раз и повторно использовать свою личность на нескольких платформах, снижая трение.
• Скрининг AML: Обнаружение и предотвращение мошеннической деятельности.

Подход Didit, основанный на конфиденциальности по умолчанию, гарантирует, что пользовательские данные будут защищены и обработаны в соответствии с соответствующими правилами.

Готовы начать?

Оставаться впереди меняющихся правил в отношении контента, соответствующего возрасту, имеет решающее значение для защиты ваших пользователей и обеспечения долгосрочной устойчивости вашего бизнеса.

Закажите демонстрацию Didit сегодня: https://demos.didit.me

Ознакомьтесь с нашими ценами: https://didit.me/pricing