Deepfake dan Peniruan Suara dengan AI: Bagaimana Risiko Hukumnya di Indonesia?

Perkembangan artificial intelligence membuat pembuatan gambar, video, dan suara sintetis menjadi jauh lebih mudah. Seseorang kini dapat membuat rekaman yang terlihat seolah-olah seseorang mengatakan atau melakukan sesuatu, padahal peristiwa tersebut tidak pernah terjadi.

Teknologi semacam ini dikenal luas sebagai deepfake. Pada sisi audio, teknologi serupa memungkinkan cloning atau peniruan suara berdasarkan sampel rekaman yang relatif terbatas.

Kemampuan tersebut dapat digunakan secara sah untuk kepentingan hiburan, produksi film, dubbing, pendidikan, maupun kegiatan kreatif lainnya. Namun, persoalan hukum muncul ketika teknologi dipakai untuk meniru seseorang tanpa persetujuan, membuat informasi palsu terlihat autentik, menipu pihak lain, menggunakan identitas seseorang untuk kepentingan komersial, atau menimbulkan kerugian terhadap korban.

Risikonya bukan lagi bersifat hipotetis. Pada Juni 2026, Kementerian Komunikasi dan Digital secara khusus memperingatkan bahwa AI memungkinkan suara dan wajah seseorang ditiru serta digunakan dalam video deepfake yang sangat sulit dibedakan dari materi asli. Pada Agustus 2026, Komdigi kembali menyoroti penipuan berbasis AI menggunakan suara sintetis untuk meniru orang terdekat maupun tokoh terkenal.

Deepfake Tidak Otomatis Merupakan Perbuatan Melawan Hukum

Penting untuk membedakan teknologi dengan cara penggunaannya.

Pembuatan deepfake tidak dengan sendirinya berarti telah terjadi tindak pidana. Analisis hukum harus melihat antara lain apakah terdapat persetujuan, tujuan penggunaan, informasi yang digunakan, apakah konten disajikan sebagai sesuatu yang autentik, apakah terdapat keuntungan yang diperoleh, dan apakah pihak lain mengalami kerugian.

Video AI untuk parodi yang secara jelas diberi label, misalnya, mempunyai karakter yang berbeda dari video palsu seorang direktur yang dibuat untuk memerintahkan staf keuangan mentransfer dana.

Hal yang sama berlaku pada voice cloning. Penggunaan suara sintetis dengan persetujuan pengisi suara untuk produksi film berbeda dengan peniruan suara seorang direktur tanpa izin untuk menginstruksikan pembayaran.

Dengan demikian, fokus hukum bukan hanya pada pertanyaan apakah AI digunakan, tetapi bagaimana dan untuk tujuan apa teknologi tersebut digunakan.

Manipulasi Konten Elektronik dan UU ITE

Salah satu ketentuan yang sangat relevan terdapat dalam Pasal 35 UU Informasi dan Transaksi Elektronik.

Pasal tersebut melarang seseorang dengan sengaja dan tanpa hak atau melawan hukum melakukan manipulasi, penciptaan, perubahan, penghilangan, atau pengrusakan Informasi Elektronik dan/atau Dokumen Elektronik dengan tujuan agar informasi atau dokumen tersebut dianggap seolah-olah merupakan data yang autentik.

Rumusan ini dapat menjadi penting dalam konteks deepfake.

Misalnya, seseorang membuat rekaman video palsu yang memperlihatkan direktur perusahaan seolah-olah menyetujui transaksi, atau membuat rekaman suara yang terdengar seperti pejabat perusahaan memberikan instruksi pembayaran.

Tidak setiap konten yang diedit otomatis memenuhi Pasal 35. Unsur tujuan agar informasi tersebut diperlakukan seolah-olah sebagai data autentik tetap perlu dibuktikan.

Karena itu, konteks penggunaan menjadi sangat penting. Deepfake yang dibuat dan diedarkan dengan maksud agar penerima mempercayainya sebagai rekaman asli mempunyai risiko hukum yang berbeda dengan konten sintetis yang sejak awal secara jelas dijelaskan sebagai simulasi.

Deepfake Dapat Menjadi Sarana Penipuan

Risiko menjadi lebih serius ketika identitas sintetis digunakan untuk memperoleh uang atau aset.

Contoh yang semakin relevan bagi perusahaan adalah ketika pelaku:

• meniru suara direktur untuk meminta transfer dana;

• membuat video call sintetis seolah-olah berasal dari pejabat perusahaan;

• meniru klien untuk mengubah rekening pembayaran;

• membuat rekaman suara anggota keluarga untuk meminta uang;

• menggunakan wajah seseorang untuk membuka atau mengambil alih akun; atau

• membuat endorsement palsu untuk menawarkan investasi atau produk.

Sejak 2 Januari 2026, KUHP baru berdasarkan UU Nomor 1 Tahun 2023 telah berlaku. Pasal 492 mengatur tindak pidana penipuan, termasuk penggunaan nama atau kedudukan palsu, tipu muslihat, maupun rangkaian kata bohong untuk menggerakkan pihak lain menyerahkan barang, memberi utang, atau menghapus piutang.

Deepfake dalam konteks seperti ini pada dasarnya merupakan alat. Kualifikasi hukumnya akan ditentukan oleh perbuatan dan unsur tindak pidana yang dilakukan melalui teknologi tersebut.

Wajah dan Suara Juga Membawa Persoalan Data Pribadi

Deepfake biasanya membutuhkan data mengenai orang yang ditiru.

Untuk membuat video sintetis, sistem dapat memproses gambar dan rekaman wajah. Untuk melakukan voice cloning, teknologi dapat menggunakan contoh suara seseorang.

UU Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi memberikan perlindungan terhadap Data Pribadi, termasuk Data Pribadi spesifik berupa data biometrik. Penjelasan UU PDP mendefinisikan data biometrik sebagai data mengenai karakteristik fisik, fisiologis, atau perilaku yang memungkinkan identifikasi unik seseorang, dengan gambar wajah sebagai salah satu contoh yang disebut secara eksplisit.

Data suara juga dapat menimbulkan persoalan pelindungan data apabila dikaitkan dengan individu yang teridentifikasi atau dapat diidentifikasi. Apabila karakteristik suara digunakan untuk mengidentifikasi seseorang secara unik, aspek biometrik juga perlu diperhatikan.

Karena itu, perusahaan yang mengembangkan atau menggunakan teknologi cloning wajah dan suara perlu memahami dari mana dataset diperoleh, dasar pemrosesan yang digunakan, tujuan pemrosesan, berapa lama data disimpan, dan kepada siapa data tersebut diberikan.

Memalsukan Data Pribadi Dapat Menimbulkan Risiko Pidana

UU PDP juga mempunyai ketentuan yang sangat relevan terhadap penggunaan identitas sintetis.

Pasal 66 melarang pembuatan Data Pribadi palsu atau pemalsuan Data Pribadi dengan maksud menguntungkan diri sendiri atau orang lain yang dapat mengakibatkan kerugian bagi orang lain.

Pasal 68 kemudian memberikan konsekuensi pidana terhadap perbuatan tersebut apabila unsur-unsurnya terpenuhi.

Ketentuan tersebut membuat penggunaan AI untuk menghasilkan identitas palsu tidak hanya menjadi persoalan etika teknologi.

Apabila deepfake digunakan untuk memalsukan identitas seseorang demi memperoleh keuntungan dan mengakibatkan kerugian, aspek UU PDP juga dapat menjadi relevan bersamaan dengan ketentuan pidana lainnya.

Bagaimana dengan Hak atas Wajah atau Potret?

Penggunaan wajah seseorang juga perlu dilihat dari perspektif Hak Cipta.

UU Nomor 28 Tahun 2014 mengatur penggunaan secara komersial atas potret. Pasal 12 mengharuskan persetujuan tertulis dari orang yang dipotret atau ahli warisnya untuk penggunaan komersial tertentu.

Ketentuan ini menjadi relevan, misalnya, apabila sebuah perusahaan membuat iklan dengan wajah sintetis seorang figur publik sehingga terlihat seperti orang tersebut memberikan endorsement terhadap produk yang sebenarnya tidak pernah disetujuinya.

Deepfake bahkan dapat memperluas persoalan tersebut karena materi akhir tidak selalu menggunakan foto asli secara utuh. AI dapat mengambil karakteristik visual seseorang dan menghasilkan gambar atau video baru.

Karena itu, penggunaan likeness atau penampilan seseorang untuk kampanye komersial sebaiknya tidak hanya dinilai berdasarkan apakah sebuah foto disalin secara langsung. Persetujuan penggunaan identitas visual, ruang lingkup penggunaan, media, periode, serta hak untuk melakukan modifikasi AI perlu diatur secara jelas dalam kontrak.

Apakah Suara Seseorang Dilindungi Hak Cipta?

Persoalan voice cloning lebih kompleks.

Karakter atau warna suara seseorang tidak sebaiknya langsung disamakan dengan suatu ciptaan yang otomatis memperoleh Hak Cipta.

Namun, materi yang digunakan untuk membuat clone dapat berupa rekaman suara, lagu, film, pertunjukan, atau fonogram yang sudah dilindungi.

UU Hak Cipta juga mengenal Hak Terkait bagi Pelaku Pertunjukan dan Produser Fonogram. Pelaku Pertunjukan memiliki hak ekonomi antara lain untuk memberi izin atau melarang penyiaran atau komunikasi, fiksasi, penggandaan, distribusi, dan penyediaan fiksasi pertunjukannya.

Karena itu, penggunaan rekaman seorang penyanyi, aktor, voice actor, atau performer untuk membangun model suara dapat menimbulkan pertanyaan yang berbeda dari sekadar "siapa pemilik suara".

Perlu diperiksa rekaman apa yang digunakan, siapa pemegang hak atas rekaman tersebut, bagaimana rekaman diperoleh, hak apa yang telah dilisensikan, dan untuk tujuan apa suara sintetis akan digunakan.

Risiko terhadap Nama Baik dan Reputasi

Deepfake juga dapat digunakan untuk membuat seseorang terlihat mengatakan atau melakukan sesuatu yang dapat merusak reputasinya.

Misalnya, video sintetis dapat digunakan untuk seolah-olah menunjukkan eksekutif perusahaan membuat pernyataan yang tidak pernah disampaikan, mengakui tindakan tertentu, atau mendukung produk atau aktivitas tertentu.

Dalam kondisi semacam ini, selain ketentuan pidana yang mungkin berlaku berdasarkan isi dan sifat perbuatannya, korban juga dapat mempertimbangkan jalur perdata.

Pasal 1365 KUHPerdata pada prinsipnya menjadi dasar tuntutan perbuatan melawan hukum apabila terdapat perbuatan melawan hukum, kesalahan, kerugian, serta hubungan sebab-akibat. Mekanisme perdata juga dapat digunakan untuk menuntut pemulihan terhadap kerugian dan reputasi dalam kondisi yang memenuhi unsur hukumnya.

Bagi perusahaan, kerugian akibat deepfake bahkan tidak selalu langsung berbentuk kehilangan uang. Kerugian dapat muncul dalam bentuk rusaknya kepercayaan klien, gangguan hubungan investor, kebocoran informasi, atau kebutuhan melakukan klarifikasi publik.

Deepfake juga Menjadi Persoalan Keaslian Bukti

Kemampuan AI menghasilkan rekaman yang sangat realistis juga mulai memengaruhi bagaimana bukti elektronik harus dinilai.

Pada Agustus 2026, Komdigi secara khusus menyoroti kemampuan generative AI menghasilkan "realitas sintetik" berupa foto, video, dan suara yang menyerupai kejadian sebenarnya. Pemerintah menilai perkembangan tersebut membuat autentikasi bukti elektronik semakin penting dalam proses peradilan.

Hal ini penting bagi perusahaan.

Rekaman video, voice note, screenshot, atau rekaman rapat tidak sebaiknya langsung diterima sebagai benar hanya karena secara visual atau audio terlihat meyakinkan.

Metadata, sumber file, chain of custody, rekaman asli, audit log, perangkat yang digunakan, serta bukti pendukung lain akan semakin penting dalam menilai autentisitas.

Penggunaan AI dalam Iklan dan E-Commerce Mulai Diatur Lebih Spesifik

Regulasi AI di Indonesia juga mulai berkembang secara sektoral.

Permendag Nomor 19 Tahun 2026 mengatur penggunaan AI dalam Perdagangan Melalui Sistem Elektronik. Pelaku usaha bertanggung jawab atas penggunaan AI dan diwajibkan antara lain memberikan informasi atau label sehingga konsumen mengetahui apabila barang atau jasa yang dihasilkan, ditampilkan, direkomendasikan, atau dipromosikan dibuat menggunakan AI.

Ketentuan ini sangat relevan apabila synthetic face atau synthetic voice digunakan untuk iklan, endorsement, rekomendasi produk, atau konten perdagangan digital.

Namun, kewajiban tersebut tidak berarti seluruh deepfake dalam seluruh konteks di Indonesia saat ini tunduk pada kewajiban label yang sama.

Aturan tersebut bersifat sektoral. Karena itu, perusahaan tetap perlu mengidentifikasi regulasi yang berlaku terhadap kegiatan dan industrinya.

Regulasi AI Nasional Masih Berkembang

Indonesia belum memiliki satu undang-undang khusus yang secara komprehensif mengatur deepfake atau voice cloning.

Pemerintah saat ini sedang mempersiapkan Peta Jalan AI Nasional 2026–2029 dan regulasi mengenai Etika AI. Per 17 September 2026, Komdigi masih menyebut keduanya sebagai bagian dari kerangka tata kelola yang sedang disiapkan. Pemerintah juga sebelumnya menyampaikan rencana bahwa Perpres AI dapat menjadi tahap awal menuju penyusunan Undang-Undang AI yang lebih komprehensif.

Sementara itu, Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial telah memberikan prinsip seperti keamanan, transparansi, akuntabilitas, pelindungan data pribadi, dan kekayaan intelektual sebagai pedoman penggunaan AI.

Perusahaan karena itu sebaiknya tidak menunggu munculnya satu "UU Deepfake" sebelum membangun mitigasi risiko.

Apa yang Perlu Dilakukan Perusahaan?

Deepfake tidak hanya menjadi persoalan bagi perusahaan teknologi. Perusahaan yang tidak mengembangkan AI sekalipun dapat menjadi korban.

Salah satu risiko terbesar adalah social engineering terhadap bagian keuangan. Instruksi melalui telepon atau video dari seorang direktur tidak lagi cukup menjadi bukti bahwa instruksi tersebut benar-benar berasal dari direktur tersebut.

Untuk transaksi material, perusahaan dapat menerapkan verifikasi melalui kanal kedua, approval lebih dari satu orang, callback ke nomor yang sudah terdaftar, atau autentikasi melalui sistem internal.

Perusahaan juga sebaiknya memiliki kebijakan mengenai penggunaan wajah dan suara pegawai, manajemen, pelanggan, maupun brand ambassador dalam sistem AI.

Kontrak dengan talent atau performer dapat secara eksplisit mengatur apakah rekaman mereka boleh digunakan untuk training AI, membuat digital replica, menghasilkan suara sintetis, melakukan dubbing otomatis, atau membuat materi baru setelah kontrak berakhir.

Bagi perusahaan yang menggunakan AI untuk konten eksternal, proses review sebelum publikasi juga penting. Materi perlu diperiksa bukan hanya dari aspek akurasi, tetapi juga persetujuan, data pribadi, hak kekayaan intelektual, dan kemungkinan menyesatkan publik.

Penutup

Deepfake dan voice cloning menunjukkan bahwa persoalan AI tidak selalu membutuhkan perbuatan teknis yang kompleks. Teknologi yang dahulu membutuhkan studio dan keahlian khusus kini dapat digunakan untuk membuat identitas sintetis dengan cepat.

Dalam hukum Indonesia, belum adanya undang-undang khusus deepfake bukan berarti teknologi tersebut berada di luar jangkauan hukum.

Manipulasi informasi elektronik, penggunaan data pribadi, pemalsuan identitas, penipuan, penggunaan potret secara komersial, hak atas rekaman dan pertunjukan, serta kerugian reputasi masing-masing dapat membawa konsekuensi berdasarkan rezim hukum yang berbeda.

Karena itu, pertanyaan yang paling penting bukan sekadar apakah suatu gambar atau suara dibuat dengan AI. Yang perlu dianalisis adalah siapa yang ditiru, data apa yang digunakan, apakah terdapat persetujuan, bagaimana konten tersebut disajikan, untuk tujuan apa konten digunakan, dan kerugian apa yang dapat timbul.