Aturan Deepfake Eropa Berlaku: Fokus pada Alat, Bukan Penipuan

Pasal 50 Undang-Undang AI UE berlaku mulai 2 Agustus 2026. Penyedia sistem generatif harus menandai keluarannya dengan cara yang dapat dibaca mesin; siapa pun yang menyebarkan deepfake harus mengungkapkannya. Penipu yang mengarahkannya ke bank mengabaikan kedua tugas tersebut, dan peraturan ini ditulis dengan pemahaman bahwa mereka akan melakukannya.

Versi singkat

• Peraturan (UE) 2024/1689, Undang-Undang AI, berlaku mulai 2 Agustus 2026. Pasal 50 mewajibkan sistem AI yang menghasilkan audio, gambar, video, atau teks untuk menandai keluarannya dalam format yang dapat dibaca mesin agar dapat dideteksi sebagai buatan secara artifisial.
• Siapa pun yang menyebarkan deepfake harus mengungkapkan bahwa konten tersebut artifisial. Pasal 3(60) mendefinisikan deepfake sebagai konten AI yang menyerupai orang, tempat, atau peristiwa nyata yang "akan tampak palsu bagi seseorang sebagai autentik atau benar".
• Pelanggaran Pasal 50 dikenakan denda hingga EUR 15 juta atau 3% dari omzet tahunan di seluruh dunia, mana yang lebih tinggi. Sistem yang sudah ada di pasar sebelum 2 Agustus memiliki waktu hingga 2 Desember 2026 untuk memenuhi kewajiban penandaan.
• Daftar berisiko tinggi dalam Undang-Undang yang sama secara tegas mengecualikan verifikasi biometrik 1:1, yaitu pemeriksaan yang mengonfirmasi bahwa seseorang adalah orang yang mereka klaim. Alat yang menyerang pemeriksaan identitas diatur; pemeriksaan itu sendiri dibiarkan berfungsi.

Deepfake kini menjadi entri tetap dalam penilaian penipuan regulator

Pada 30 Juli 2026, Komisi Perjudian Inggris Raya menerbitkan penilaian risiko yang menyebut video deepfake dan pertukaran wajah sebagai salah satu metode yang digunakan untuk melewati pemeriksaan identitas, dan menilai risiko dokumen identitas pada skala tertinggi. Deepfake adalah video, audio, atau gambar yang dihasilkan AI yang secara meyakinkan meniru orang sungguhan.

Penilaian tersebut adalah salah satu contoh pola yang lebih luas. Pemeriksaan yang dibangun untuk membandingkan wajah dengan dokumen mengasumsikan wajah di kamera adalah milik orang yang hidup. Model generatif mematahkan asumsi itu, dan mematahkannya dengan murah: alat yang menghasilkan efek film dapat menghasilkan pelanggan sintetis, dan pemeriksaan tidak dapat membedakannya dengan melihat.

Jawaban Uni Eropa datang dalam undang-undang kecerdasan buatan umumnya daripada dalam undang-undang penipuan. Peraturan (UE) 2024/1689, Undang-Undang AI, adalah undang-undang AI komprehensif pertama dari regulator utama. Sebagian besar bebannya jatuh pada sistem berisiko tinggi: perangkat medis, alat perekrutan, penilaian kredit. Ini juga membawa serangkaian tugas transparansi, dalam Pasal 50, yang ditujukan untuk alat generatif biasa yang sekarang digunakan semua orang. Tugas-tugas tersebut berlaku mulai 2 Agustus 2026.

Pilihan desain yang patut diperhatikan adalah di mana tugas itu berada. Undang-Undang tersebut tidak melarang deepfake. Ini mewajibkan alat untuk menandai apa yang dibuatnya dan pengguna untuk mengungkapkan apa yang mereka sebarkan. Alasan yang dinyatakan Komisi Eropa adalah hak untuk mengetahui, yang dicatat oleh Komisioner yang bertanggung jawab ketika Kode Etik pendukung diterbitkan pada 10 Juni 2026.

Orang Eropa memiliki hak untuk mengetahui apakah apa yang mereka lihat, dengar, atau baca telah dibuat atau diubah oleh AI, terutama ketika konten tersebut dapat membentuk debat publik. Transparansi adalah cara kita melindungi kepercayaan.

Henna Virkkunen, Wakil Presiden Eksekutif untuk Kedaulatan Teknologi, Keamanan, dan Demokrasi, Komisi Eropa. Pernyataan 10 Juni 2026

Pasal 50 membagi pekerjaan: penyedia menandai, penyebar mengungkapkan

Pasal 50 Peraturan (UE) 2024/1689 menempatkan dua tugas utama pada dua aktor berbeda. Penyedia, perusahaan yang membangun atau memasok sistem AI generatif, harus memastikan keluarannya "ditandai dalam format yang dapat dibaca mesin dan dapat dideteksi sebagai dihasilkan atau dimanipulasi secara artifisial". Penyebar, siapa pun yang menggunakan sistem, harus mengungkapkan deepfake sebagai artifisial.

Tugas penyedia adalah tugas infrastruktur. Penandaan harus dibangun ke dalam sistem itu sendiri, dan Undang-Undang meminta solusi teknis agar "efektif, interoperabel, kuat, dan andal sejauh ini secara teknis layak". 'Dapat dibaca mesin' adalah frasa operatif: tanda tersebut dimaksudkan untuk perangkat lunak, sehingga sistem lain dapat mendeteksi konten sintetis tanpa perlu manusia memperhatikannya. Undang-Undang tidak menentukan teknologi. Watermarking dan metadata asal adalah dua kandidat yang menjadi fokus pekerjaan standar industri.

Tugas penyebar adalah tugas yang terlihat. Siapa pun yang menerbitkan deepfake harus menyatakan bahwa konten tersebut artifisial, "selambat-lambatnya pada saat interaksi atau paparan pertama". Dua tugas selanjutnya melengkapi rangkaian ini. Sistem yang berkomunikasi dengan orang, seperti chatbot, harus mengidentifikasi diri sebagai AI kecuali jika itu sudah jelas, dan perusahaan yang menjalankan pengenalan emosi atau kategorisasi biometrik pada orang harus memberitahu mereka.

Setiap tugas memiliki pengecualian, dan ini perlu dibaca. Penandaan tidak diperlukan di mana AI melakukan "fungsi bantu untuk pengeditan standar", jadi sentuhan foto bukanlah deepfake. Penggunaan yang diizinkan oleh hukum untuk mendeteksi atau menyelidiki kejahatan dikecualikan secara keseluruhan. Seni mendapat perhatian khusus: di mana deepfake adalah bagian dari karya "yang jelas-jelas artistik, kreatif, satir, fiktif, atau analog", pengungkapan hanya perlu dilakukan dengan cara "yang tidak menghambat tampilan atau kenikmatan karya". Teks yang ditulis AI tentang masalah kepentingan umum harus diungkapkan kecuali jika editor manusia telah meninjaunya dan seseorang memegang tanggung jawab editorial.

Harga ketidakpatuhan ditetapkan pada Pasal 99(4): denda hingga EUR 15 juta atau 3% dari total omzet tahunan di seluruh dunia, mana yang lebih tinggi. Itu adalah tingkat menengah Undang-Undang, di bawah EUR 35 juta dan 7% yang diperuntukkan untuk praktik terlarang dan di atas tingkat 1% untuk penyediaan informasi yang menyesatkan. Penegakan hukum berada di tangan otoritas pengawasan pasar nasional, badan-badan negara anggota yang mengawasi aturan produk.

Undang-Undang tiba secara bertahap, dan 2 Agustus 2026 adalah yang utama

Pasal 113 Peraturan (UE) 2024/1689 mengatur kedatangan undang-undang secara bertahap. Larangan praktik AI terlarang berlaku mulai 2 Februari 2025; kewajiban untuk model AI tujuan umum mulai 2 Agustus 2025. Peraturan secara keseluruhan, termasuk Pasal 50, berlaku mulai 2 Agustus 2026. Satu kategori tugas berisiko tinggi menyusul pada 2 Agustus 2027.

Satu hal transisional khusus untuk tugas penandaan. Berdasarkan panduan Komisi Eropa, sistem generatif yang sudah ditempatkan di pasar sebelum 2 Agustus 2026 memiliki waktu hingga 2 Desember 2026 untuk memenuhi persyaratan penandaan yang dapat dibaca mesin, dan konten yang dihasilkan sebelum 2 Agustus tidak memerlukan label retroaktif. Tugas pengungkapan pada penyebar tidak memiliki kelonggaran seperti itu. Tugas-tugas tersebut berlaku mulai 2 Agustus.

Teks pendukung mendarat tepat sebelum batas waktu. Komisi menerbitkan Kode Etik sukarela tentang penandaan dan pelabelan konten yang dihasilkan AI pada 10 Juni 2026; menandatanganinya adalah salah satu cara untuk menunjukkan kepatuhan, meskipun "cara alternatif yang setara" tetap terbuka. Pedoman Komisi yang mengklarifikasi cakupan dan memberikan contoh praktis menyertainya.

Tanggal	Aturan	Status
1 Agt 2024	Undang-Undang AI mulai berlaku — Peraturan (UE) 2024/1689, diterbitkan dalam Jurnal Resmi pada 12 Juli 2024, berlaku pada hari kedua puluh setelahnya.	Berlaku
2 Feb 2025	Praktik terlarang dilarang — Bab I dan II berlaku: penilaian sosial, praktik manipulasi dan scraping tertentu.	Berlaku
2 Agt 2025	Tugas model AI tujuan umum — Bab V berlaku untuk penyedia model tujuan umum yang ditempatkan di pasar mulai tanggal ini.	Berlaku
10 Jun 2026	Kode Etik diterbitkan — Kode sukarela tentang penandaan dan pelabelan konten yang dihasilkan AI; siaran pers Komisi IP/26/1328.	Berlaku
2 Agt 2026	Pasal 50 berlaku — Peraturan secara keseluruhan berlaku. Tugas penandaan, pengungkapan deepfake, identifikasi chatbot, dan pemberitahuan pengenalan emosi berlaku. Denda hingga EUR 15 juta atau 3%.	Berlaku
2 Des 2026	Masa tenggang penandaan berakhir — Sistem yang ditempatkan di pasar sebelum 2 Agustus 2026 harus memenuhi tugas penandaan yang dapat dibaca mesin, sesuai panduan Komisi.	Akan datang
2 Agt 2027	Tugas berisiko tinggi Pasal 6(1) berlaku — Tahap terakhir: klasifikasi berisiko tinggi untuk produk di bawah undang-undang keselamatan UE yang ada.	Akan datang

Undang-Undang yang sama menolak menyebut verifikasi identitas berisiko tinggi

Lampiran III Peraturan (UE) 2024/1689 mencantumkan identifikasi biometrik jarak jauh di antara penggunaan AI berisiko tinggi, kemudian menarik batasan. Pencantuman tersebut "tidak termasuk sistem AI yang dimaksudkan untuk digunakan untuk verifikasi biometrik yang tujuan utamanya adalah untuk mengonfirmasi bahwa orang perseorangan tertentu adalah orang yang dia klaim". Pemeriksaan identitas 1:1 tidak ada dalam daftar berisiko tinggi.

Perbedaan yang dibuat oleh perancang adalah antara mencari dan mengonfirmasi. Sistem identifikasi biometrik jarak jauh memindai wajah terhadap database untuk mencari tahu siapa seseorang, biasanya tanpa keterlibatan mereka. Itu berisiko tinggi, dengan perangkat penilaian kesesuaian lengkap yang mengikutinya. Pemeriksaan verifikasi biometrik menjawab pertanyaan yang lebih sempit: apakah orang ini adalah orang yang memiliki paspor ini, akun ini, klaim ini? Orang tersebut menampilkan diri dan menyatakan identitas; sistem mengonfirmasi atau menolaknya. Itu berada di luar entri.

Batas tersebut adalah garis cakupan, bukan pengecualian dari hukum. Penyedia verifikasi masih bertanggung jawab kepada sisa Undang-Undang di mana pun berlaku, kepada undang-undang perlindungan data, dan kepada aturan sektor setiap pelanggan yang dilayaninya. Dan Undang-Undang menjaga dua penggunaan tetangga tetap berada dalam daftar berisiko tinggi, pengenalan emosi dan kategorisasi biometrik berdasarkan atribut sensitif, keduanya juga membawa tugas pengungkapan Pasal 50 saat digunakan.

Dibaca bersama dengan tugas pelabelan, peta pemeriksaan identitas Undang-Undang ini simetris. Alat generatif yang dapat memalsukan wajah harus menandai keluarannya. Alat verifikasi yang mengonfirmasi wajah dibiarkan di luar daftar berisiko tinggi untuk melakukan pekerjaannya. Dokumen yang diserang deepfake dan pemeriksaan yang membacanya keduanya, dalam skema Undang-Undang, adalah infrastruktur yang layak dijaga keterbacaannya. Aturan identitas baru Eropa lainnya membuat taruhan yang sama dari arah yang berlawanan: peraturan anti-pencucian uang menerima dokumen atau identitas elektronik sebagai jalur alternatif untuk verifikasi dan menolak untuk memberi peringkat.

Kewajiban pelabelan mengikat yang patuh, dan itulah pertanyaan terbuka yang dibawanya

Pasal 50, yang berlaku sejak 2 Agustus 2026, tidak menghentikan penipu menghasilkan deepfake. Seseorang yang menggunakan video sintetis untuk menipu bank sudah melakukan pelanggaran dan tidak akan menghormati kewajiban pelabelan. Apa yang dibangun oleh aturan ini adalah infrastruktur asal, yang dibawa oleh mayoritas alat yang patuh.

Regulator telah menggunakan struktur itu sebelumnya: menempatkan kewajiban di mana kepatuhan benar-benar dapat diperoleh, sehingga tidak adanya sinyal yang diharapkan menjadi informatif. Jika sistem generatif arus utama menandai keluarannya secara machine-readable, konten sintetis yang tidak ditandai menjadi anomali, dan perangkat lunak di sisi penerima memiliki sesuatu untuk diuji. Penilaian Komisi Perjudian tentang AI di kedua sisi pemeriksaan identitas menjelaskan sisi penyerang; Pasal 50 adalah upaya pertama untuk membuat sisi itu mengumumkan dirinya.

Bagi tim kepatuhan atau penipuan, konsekuensinya konkret tetapi, untuk saat ini, sederhana. Tanda-tanda itu dimaksudkan untuk mesin, sehingga alur verifikasi mendapatkan sinyal baru untuk dibaca setelah pekerjaan standar selesai; Kode Etik adalah tempat konvergensi itu terjadi. Perusahaan yang menyebarkan AI generatif dalam komunikasi pelanggan memiliki tugas pengungkapan sendiri mulai 2 Agustus. Dan pemeriksaan identitas itu sendiri terus berfungsi persis seperti sebelumnya, karena rezim pelabelan mengasumsikan penyerang yang paling penting tidak akan memberi label.

Pertanyaan proporsionalitas di bawahnya adalah pertanyaan yang sudah ada, dalam kostum baru. Kewajiban jatuh pada setiap penyedia dan penyebar yang patuh di Uni; kerugian dilakukan oleh aktor yang akan mengabaikannya. Apakah infrastruktur asal membenarkan distribusi upaya itu adalah pertanyaan yang diakui oleh pengecualian Undang-Undang sendiri tanpa menyelesaikannya, dan keputusan penegakan hukum pertama berdasarkan Pasal 99(4) akan menunjukkan bagaimana otoritas nasional menimbangnya. Belum ada. Aturan itu baru berumur delapan hari.

Poin-poin penting

Tugas-tugas ini sudah berlaku.

Pasal 50 Peraturan (UE) 2024/1689 berlaku mulai 2 Agustus 2026: penandaan yang dapat dibaca mesin untuk penyedia, pengungkapan deepfake untuk penyebar, identifikasi chatbot, dan pemberitahuan untuk pengenalan emosi.

Ada satu masa tenggang.

Sistem di pasar sebelum 2 Agustus 2026 memiliki waktu hingga 2 Desember 2026 untuk memenuhi tugas penandaan, sesuai panduan Komisi. Tugas pengungkapan tidak memiliki masa tenggang.

Tingkat denda adalah 15 juta atau 3%.

Pasal 99(4) menetapkan batas denda untuk pelanggaran transparansi sebesar EUR 15 juta atau 3% dari omzet global, mana yang lebih tinggi, yang ditegakkan oleh otoritas pengawasan pasar nasional.

Verifikasi tidak ada dalam daftar berisiko tinggi.

Lampiran III mengecualikan verifikasi biometrik 1:1, pemeriksaan yang mengonfirmasi identitas yang diklaim, dari entri identifikasi biometrik jarak jauh. Pengenalan emosi tetap ada dalam daftar.

Aturan ini membangun sinyal, bukan perisai.

Penipu tidak akan memberi label pada deepfake mereka. Nilainya, jika ada, adalah bahwa keluaran arus utama yang ditandai membuat jenis yang tidak ditandai menonjol bagi mesin yang memeriksa.

Di mana Didit berperan: pemeriksaan identitas di bawah tekanan deepfake

Tugas Pasal 50 jatuh pada penyedia dan penyebar sistem AI generatif. Menjalankan pemeriksaan KYC (kenali pelanggan Anda) adalah peran yang berbeda, dan membeli verifikasi tidak membuat siapa pun patuh terhadap Undang-Undang AI. Jika perusahaan Anda menyebarkan alat generatif dalam komunikasi pelanggan, tugas pengungkapan di atas adalah milik Anda untuk dipenuhi. Apa yang ditangani oleh alur verifikasi adalah sisi lain dari masalah yang dijelaskan dalam postingan ini: pelanggan sintetis yang datang saat onboarding.

Modul-modul tersebut memetakan serangan. Passive Liveness seharga $0.10 per pemeriksaan menguji bahwa orang yang hidup, bukan video yang diputar ulang atau dihasilkan, berada di depan kamera. Face Match (1:1) seharga $0.05 per pemeriksaan adalah persis konfirmasi yang dijelaskan Lampiran III: membandingkan tangkapan langsung dengan potret dokumen untuk mengonfirmasi bahwa orang tersebut adalah orang yang mereka klaim. ID Verification seharga $0.15 per pemeriksaan membaca dan memvalidasi dokumen itu sendiri, dan di mana dokumen tersebut membawa chip, NFC Reading seharga $0.15 per pemeriksaan menarik data yang ditandatangani secara kriptografis yang tidak dapat disediakan oleh palsu yang disajikan di layar. Harga saat ini ada di halaman harga.

Yang tetap bersama Anda adalah penilaian yang sengaja ditinggalkan oleh Undang-Undang. Penilaian risiko Anda memutuskan pemeriksaan mana yang dilihat pelanggan, dan proses Anda memutuskan apa yang terjadi jika salah satu gagal. Belum ada modul vendor yang membaca tanda-tanda yang dapat dibaca mesin Pasal 50, karena standar teknis masih dalam tahap konvergensi. Ketika sudah stabil, konten yang ditandai menjadi satu sinyal lagi yang dapat diuji oleh alur. Hingga saat itu, data keaktifan dan chip adalah pertahanan yang berfungsi.

Pertanyaan yang sering diajukan

Kapan aturan pelabelan deepfake Undang-Undang AI UE mulai berlaku?

2 Agustus 2026. Pasal 113 Peraturan (UE) 2024/1689 menyatakan bahwa peraturan tersebut berlaku sejak tanggal tersebut, dan kewajiban transparansi Pasal 50 berlaku bersamanya. Ada satu transisional: di bawah panduan Komisi Eropa, sistem yang ditempatkan di pasar sebelum 2 Agustus 2026 memiliki waktu hingga 2 Desember 2026 untuk memenuhi tugas penandaan yang dapat dibaca mesin.

Apa yang didefinisikan oleh Undang-Undang AI sebagai deepfake?

Pasal 3(60) Peraturan (UE) 2024/1689 mendefinisikan deepfake sebagai "konten gambar, audio, atau video yang dihasilkan atau dimanipulasi AI yang menyerupai orang, objek, tempat, entitas, atau peristiwa yang ada dan akan tampak palsu bagi seseorang sebagai autentik atau benar".

Apa hukuman untuk melanggar Pasal 50 Undang-Undang AI?

Berdasarkan Pasal 99(4) Peraturan (UE) 2024/1689, ketidakpatuhan terhadap kewajiban transparansi Pasal 50 dikenakan denda administratif hingga EUR 15 juta atau, untuk suatu perusahaan, hingga 3% dari total omzet tahunan di seluruh dunia untuk tahun keuangan sebelumnya, mana yang lebih tinggi.

Apakah Undang-Undang AI memperlakukan verifikasi identitas sebagai AI berisiko tinggi?

Bukan verifikasi satu-ke-satu. Lampiran III mencantumkan sistem identifikasi biometrik jarak jauh sebagai berisiko tinggi tetapi menyatakan ini "tidak termasuk sistem AI yang dimaksudkan untuk digunakan untuk verifikasi biometrik yang tujuan utamanya adalah untuk mengonfirmasi bahwa orang perseorangan tertentu adalah orang yang dia klaim". Sistem pengenalan emosi ada dalam daftar berisiko tinggi.

Apakah Kode Etik tentang pelabelan konten AI wajib?

Tidak. Komisi Eropa menerbitkan Kode Etik tentang penandaan dan pelabelan konten yang dihasilkan AI pada 10 Juni 2026 sebagai alat sukarela. Menandatanganinya adalah salah satu cara untuk menunjukkan kepatuhan terhadap kewajiban penandaan dan pelabelan Pasal 50; penyedia dapat menggunakan cara alternatif yang setara.

Bacaan terkait

• AI sekarang berada di kedua sisi pemeriksaan identitas perjudian — Penilaian risiko regulator Inggris pada 30 Juli menyebut deepfake yang menjadi target aturan pelabelan ini.
• Hukum UE membiarkan lima tahun berlalu sebelum Anda memeriksa ulang siapa pemilik pelanggan — Instrumen identitas UE lainnya, yang dirancang dengan pola tanggal bertahap yang sama.
• Asia mengalihkan biaya pemeriksaan identitas yang lemah ke bank dan platform — Jepang menghentikan verifikasi unggah foto karena deepfake mengalahkan pemeriksaan dokumen.
• AMLR Pasal 26: seberapa sering Anda harus memeriksa ulang? — Apa yang diharapkan UE setelah onboarding, dari generasi buku aturan yang sama.

Sumber

1. Peraturan (UE) 2024/1689 tentang penetapan aturan yang harmonis tentang kecerdasan buatan — Parlemen dan Dewan Eropa · EUR-Lex · Pasal 3(60), 50, 99, 113 dan Lampiran III · berlaku mulai 2 Agustus 2026
2. Komisi menerbitkan Kode Etik tentang penandaan dan pelabelan konten yang dihasilkan AI — Siaran pers Komisi Eropa IP/26/1328 · 10 Juni 2026 · sumber pernyataan Virkkunen
3. Pedoman tentang kewajiban transparansi untuk penyedia dan penyebar sistem AI tertentu — Komisi Eropa · halaman kebijakan diperbarui 6 Agustus 2026
4. Kewajiban transparansi berdasarkan Pasal 50 Undang-Undang AI — FAQ Komisi Eropa · sumber untuk transisional 2 Desember 2026 dan alokasi penegakan
5. Kode Etik tentang Transparansi Konten yang Dihasilkan AI — Komisi Eropa · jalur kepatuhan sukarela untuk tugas penandaan dan pelabelan

Siapa yang menulis ini

Tuan Nguyen — Pertumbuhan · Didit

Menulis tentang verifikasi identitas, penipuan, dan kepatuhan di Didit.

Terakhir ditinjau 10 Agustus 2026 terhadap sumber di atas