Menjelang Regulasi AI Indonesia: Apa yang Perlu Disiapkan Perusahaan dalam Menggunakan Artificial Intelligence?

Penggunaan artificial intelligence atau kecerdasan artifisial semakin menjadi bagian dari kegiatan bisnis sehari-hari. Perusahaan menggunakan AI untuk membuat konten, menganalisis data, melayani pelanggan, melakukan pemeringkatan, membantu proses rekrutmen, menyusun dokumen, mengembangkan perangkat lunak, hingga menghasilkan rekomendasi yang memengaruhi keputusan bisnis.

Peningkatan penggunaan tersebut membawa persoalan hukum yang tidak selalu sederhana. Data apa yang boleh dimasukkan ke dalam sistem AI? Siapa yang bertanggung jawab apabila hasil AI keliru? Apakah perusahaan boleh menggunakan data pelanggan untuk mengembangkan model? Bagaimana jika AI menghasilkan konten yang menyerupai karya milik pihak lain? Sejauh mana keputusan penting dapat diserahkan kepada sistem otomatis?

Pertanyaan tersebut menjadi semakin relevan karena Indonesia sedang mempersiapkan kerangka tata kelola AI yang lebih komprehensif.

Indonesia Sedang Menyiapkan Kerangka Regulasi AI

Pemerintah saat ini telah menyiapkan dua instrumen utama, yaitu Rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial dan Rancangan Peraturan Presiden tentang Peta Jalan Kecerdasan Artifisial Nasional Tahun 2026–2029.

Pembahasan lintas kementerian atas kedua rancangan tersebut telah diselesaikan pada Mei 2026 sebelum diajukan untuk proses penetapan. Pada Juli 2026, Kementerian Komunikasi dan Digital juga menyampaikan bahwa kedua dokumen tersebut telah selesai disusun dan masih menunggu penetapan Presiden. Hingga 17 September 2026, Komdigi masih menyebut Peta Jalan AI Nasional 2026–2029 dan regulasi Etika AI sebagai instrumen yang sedang disiapkan pemerintah.

Dengan demikian, perusahaan perlu membedakan antara regulasi yang sudah berlaku dan rancangan kebijakan yang masih dalam proses penetapan. Isi final kedua Perpres belum seharusnya diperlakukan sebagai kewajiban hukum yang sudah berlaku.

Namun, arah kebijakannya sudah terlihat. Pemerintah secara konsisten menekankan pemanfaatan AI yang etis, aman, inklusif, bertanggung jawab, transparan, dan tetap mendukung inovasi. Pemerintah juga telah menyatakan bahwa pendekatan melalui Perpres dapat menjadi tahap awal sebelum kemungkinan pembentukan Undang-Undang AI yang lebih komprehensif.

Kewajiban Hukum Tidak Dimulai dari Perpres AI

Belum berlakunya Perpres AI bukan berarti penggunaan AI saat ini berada dalam ruang tanpa aturan.

Ketika AI memproses data pribadi, perusahaan tetap harus mematuhi Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Apabila AI digunakan sebagai bagian dari sistem elektronik, ketentuan dalam UU Informasi dan Transaksi Elektronik serta PP Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik juga dapat menjadi relevan. Hak cipta, rahasia dagang, hubungan kontraktual, perlindungan konsumen, dan regulasi sektoral tetap berlaku sesuai kegiatan yang dilakukan.

Indonesia juga telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Pedoman tersebut mengidentifikasi sejumlah nilai dalam penggunaan AI, antara lain inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, pelindungan data pribadi, pembangunan berkelanjutan, serta kekayaan intelektual.

Karena itu, perusahaan tidak harus menunggu regulasi AI berikutnya untuk mulai membangun tata kelola internal.

1. Memetakan Penggunaan AI di Seluruh Perusahaan

Langkah pertama adalah mengetahui di mana AI sebenarnya digunakan.

Dalam banyak perusahaan, penggunaan AI tidak hanya berasal dari divisi teknologi. Tim marketing dapat menggunakan generative AI untuk membuat konten. HR dapat menggunakan perangkat lunak yang memiliki fitur pemeringkatan kandidat. Tim legal dapat menggunakan AI untuk meninjau kontrak. Customer service dapat menggunakan chatbot, sementara tim keuangan dapat menggunakan sistem yang menghasilkan prediksi atau mendeteksi transaksi tertentu.

Perusahaan sebaiknya membuat inventaris yang paling sedikit mencatat jenis AI yang digunakan, tujuan penggunaannya, pengguna internal, penyedia teknologi, jenis data yang diproses, output yang dihasilkan, dan apakah hasil AI digunakan untuk mengambil keputusan terhadap pelanggan, pekerja, vendor, atau pihak lain.

Tanpa inventaris tersebut, perusahaan akan kesulitan mengetahui di mana risiko sebenarnya berada.

2. Mengklasifikasikan Risiko berdasarkan Penggunaannya

Tidak seluruh penggunaan AI memiliki tingkat risiko yang sama.

Menggunakan AI untuk merangkum catatan rapat memiliki profil risiko yang berbeda dibandingkan menggunakan AI untuk menentukan kelayakan kredit, menyeleksi kandidat pekerjaan, menentukan harga, memproses klaim, atau menghasilkan rekomendasi yang secara langsung memengaruhi seseorang.

Karena itu, perusahaan dapat mulai mengelompokkan penggunaan AI berdasarkan tingkat dampaknya. Penggunaan yang menyangkut data sensitif, keputusan terhadap individu, transaksi bernilai material, keamanan, atau layanan kepada publik sebaiknya memperoleh tingkat pengawasan yang lebih tinggi.

Pendekatan berbasis risiko juga membantu perusahaan menentukan kapan diperlukan pengujian tambahan, persetujuan manajemen, pemeriksaan hukum, atau pengawasan manusia sebelum suatu sistem digunakan.

3. Memastikan Human Oversight pada Keputusan Penting

Salah satu risiko penggunaan AI muncul ketika output sistem diterima tanpa pemeriksaan manusia.

Risiko tersebut semakin besar apabila AI digunakan untuk keputusan yang berpengaruh terhadap hak atau kepentingan seseorang.

UU Pelindungan Data Pribadi secara khusus memberikan hak kepada subjek data untuk mengajukan keberatan atas pengambilan keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk profiling, apabila keputusan tersebut menimbulkan akibat hukum atau dampak signifikan. UU PDP juga memasukkan pengambilan keputusan otomatis dengan dampak hukum atau signifikan sebagai salah satu bentuk pemrosesan berisiko tinggi yang relevan dalam penilaian dampak pelindungan data pribadi.

Perusahaan sebaiknya menentukan sejak awal keputusan apa yang dapat dibantu AI dan keputusan apa yang tetap membutuhkan validasi manusia.

Human oversight tidak berarti setiap output AI harus diperiksa secara manual. Tingkat pemeriksaan dapat disesuaikan dengan risiko. Namun, semakin besar konsekuensi keputusan, semakin penting tersedia pihak yang dapat menguji, mempertanyakan, mengoreksi, atau mengesampingkan hasil AI.

4. Memeriksa Penggunaan Data Pribadi

Penggunaan AI sering kali melibatkan data dalam jumlah besar. Masalah muncul ketika pegawai memasukkan nama pelanggan, kontrak, informasi pegawai, data keuangan, korespondensi internal, atau data lainnya ke layanan AI eksternal tanpa mengetahui bagaimana informasi tersebut diproses.

UU PDP mengatur kewajiban pengendali dan prosesor data pribadi, termasuk mengenai tujuan pemrosesan, keamanan, hak subjek data, serta tanggung jawab dalam pemrosesan data pribadi. UU tersebut juga mewajibkan pengendali melindungi dan memastikan keamanan data pribadi yang diprosesnya.

Karena itu, kebijakan AI internal sebaiknya membedakan informasi yang boleh dan tidak boleh dimasukkan ke layanan AI.

Perusahaan juga perlu mengetahui apakah data disimpan oleh penyedia layanan, digunakan untuk meningkatkan model, ditransfer ke yurisdiksi lain, atau dapat diakses oleh subprocessor.

5. Memperhatikan Kekayaan Intelektual

AI juga membawa risiko kekayaan intelektual dari dua arah.

Pertama, input yang diberikan kepada sistem dapat mengandung karya, perangkat lunak, gambar, database, rahasia dagang, atau materi lain yang dimiliki perusahaan maupun pihak ketiga.

Kedua, output AI dapat memiliki kemiripan dengan karya yang telah dilindungi atau digunakan secara komersial dalam keadaan di mana status kepemilikannya belum sepenuhnya jelas.

Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 secara khusus memasukkan kekayaan intelektual sebagai salah satu prinsip yang harus diperhatikan dalam penggunaan AI. UU Nomor 28 Tahun 2014 tentang Hak Cipta juga tetap menjadi kerangka hukum yang berlaku terhadap penggunaan karya yang dilindungi.

Perusahaan karena itu sebaiknya tidak menganggap bahwa setiap output yang dihasilkan AI otomatis aman untuk dipublikasikan atau dikomersialisasikan.

Prosedur review akan semakin penting untuk penggunaan AI dalam desain, materi pemasaran, software, musik, foto, video, laporan, dan konten lain yang memiliki nilai komersial.

6. Memeriksa Kontrak dengan Penyedia AI

Ketergantungan pada penyedia teknologi pihak ketiga dapat menciptakan risiko kontraktual yang sering terlewat.

Sebelum menggunakan suatu platform AI secara luas, perusahaan perlu mengetahui antara lain:

• siapa yang memiliki input dan output;

• apakah data pelanggan digunakan untuk melatih model;

• berapa lama data disimpan;

• di mana data diproses;

• apakah provider menggunakan subprocessor;

• siapa yang bertanggung jawab atas insiden keamanan;

• apakah tersedia indemnity untuk klaim kekayaan intelektual;

• apakah perusahaan memperoleh audit log atau data penggunaan;

• bagaimana layanan menangani perubahan model atau syarat penggunaan; dan

• apa yang terjadi dengan data perusahaan setelah kontrak berakhir.

Untuk sistem AI yang digunakan dalam proses bisnis material, review terms of service saja sering kali tidak cukup. Perjanjian pemrosesan data, standar keamanan, service level, hak audit, dan ketentuan tanggung jawab dapat menjadi sama pentingnya dengan lisensi penggunaan teknologi.

7. Menentukan Kapan Penggunaan AI Harus Diungkapkan

Transparansi mulai menjadi salah satu pola penting dalam regulasi AI Indonesia.

SE Menteri Kominfo Nomor 9 Tahun 2023 telah memasukkan transparansi, kredibilitas, dan akuntabilitas sebagai prinsip etika AI.

Pada sektor perdagangan melalui sistem elektronik, perkembangan tersebut bahkan sudah masuk dalam regulasi yang mengikat. Permendag Nomor 19 Tahun 2026 mengatur bahwa pelaku usaha yang menggunakan AI dalam PMSE bertanggung jawab atas penggunaannya. Salah satu kewajibannya adalah memberikan informasi dan/atau label agar konsumen mengetahui apabila barang atau jasa yang dihasilkan, ditampilkan, direkomendasikan, atau dipromosikan dibuat menggunakan AI. PPMSE juga diwajibkan menyediakan tata kelola internal yang proporsional terhadap risiko serta mekanisme pengaduan atau koreksi atas informasi dan rekomendasi yang dihasilkan AI.

Ketentuan tersebut penting karena menunjukkan bahwa regulasi AI di Indonesia tidak hanya berkembang melalui satu regulasi nasional, tetapi juga mulai masuk secara sektoral.

Perusahaan sebaiknya mulai menentukan kapan konsumen, pekerja, atau pihak lain perlu diberi tahu bahwa mereka berinteraksi dengan sistem AI atau menerima konten yang dihasilkan AI.

8. Menyimpan Dokumentasi dan Audit Trail

Ketika masalah muncul, salah satu pertanyaan pertama adalah bagaimana sebuah keputusan dihasilkan.

Karena itu, dokumentasi penggunaan AI menjadi penting. Perusahaan dapat mencatat sistem yang digunakan, versi model jika relevan, parameter atau instruksi utama, sumber data, persetujuan internal, hasil pengujian, temuan risiko, serta perubahan yang dilakukan setelah implementasi.

Untuk penggunaan AI dengan risiko lebih tinggi, dokumentasi tersebut dapat membantu menunjukkan bahwa perusahaan telah melakukan pengawasan, pengujian, dan mitigasi secara wajar.

Audit trail juga penting apabila pelanggan atau pegawai meminta koreksi, terjadi dugaan diskriminasi, terdapat sengketa, atau output AI menimbulkan kerugian.

9. Menyiapkan Mekanisme Penanganan Kesalahan AI

AI dapat menghasilkan informasi yang keliru, tidak lengkap, bias, atau tidak sesuai konteks.

Karena itu, perusahaan sebaiknya memperlakukan insiden AI seperti risiko teknologi lainnya. Harus tersedia jalur untuk melaporkan kesalahan, menghentikan penggunaan sistem apabila diperlukan, melakukan investigasi, memperbaiki data atau model, dan memberitahukan pihak terkait apabila terdapat dampak material.

Mekanisme tersebut semakin penting untuk penggunaan AI dalam layanan pelanggan, rekomendasi produk, keuangan, sumber daya manusia, kesehatan, atau proses lain yang dapat berdampak langsung terhadap seseorang.

10. Membuat Kebijakan Internal AI

Salah satu langkah yang dapat dilakukan perusahaan sekarang adalah menyusun internal AI policy.

Kebijakan tersebut tidak perlu selalu berbentuk dokumen yang sangat panjang. Yang terpenting adalah memberikan aturan yang jelas kepada pegawai mengenai penggunaan AI.

Kebijakan dapat mencakup penggunaan layanan AI yang disetujui perusahaan, jenis data yang tidak boleh dimasukkan, penggunaan AI untuk keputusan penting, review output, perlindungan rahasia dagang, kepemilikan karya, penggunaan AI untuk coding, transparansi kepada pelanggan, serta prosedur ketika terjadi kesalahan.

SE Menteri Kominfo Nomor 9 Tahun 2023 sendiri memang diarahkan antara lain sebagai pedoman dalam pembuatan dan perumusan kebijakan internal perusahaan mengenai data dan etika AI.

Tidak Perlu Menunggu Regulasi Final

Perubahan regulasi AI di Indonesia masih berlangsung. Teks final RPerpres Etika AI dan Peta Jalan AI Nasional 2026–2029 perlu dilihat setelah resmi ditetapkan untuk mengetahui kewajiban akhirnya.

Namun, perusahaan tidak perlu menunggu sampai regulasi tersebut berlaku untuk mulai menyiapkan tata kelola.

Sebagian besar fondasi yang diperlukan sebenarnya juga merupakan praktik manajemen risiko yang relevan terhadap regulasi yang sudah berlaku saat ini: mengetahui di mana AI digunakan, memahami data yang diproses, menjaga keamanan, memastikan adanya pengawasan manusia, melindungi kekayaan intelektual, mengatur hubungan dengan vendor, dan menyediakan mekanisme pertanggungjawaban.

Perusahaan yang menyiapkan struktur tersebut sejak sekarang akan lebih mudah menyesuaikan diri ketika kerangka AI nasional akhirnya diberlakukan.

Penutup

Perkembangan AI membuat perusahaan memperoleh kemampuan yang sebelumnya membutuhkan sumber daya manusia dan teknologi jauh lebih besar. Namun, semakin luas AI digunakan dalam proses bisnis, semakin besar pula kebutuhan untuk memastikan bahwa penggunaannya dapat dipertanggungjawabkan.

Menjelang hadirnya regulasi AI Indonesia, fokus perusahaan sebaiknya tidak hanya pada pertanyaan apakah suatu teknologi dapat digunakan, tetapi juga bagaimana teknologi tersebut digunakan, data apa yang diproses, siapa yang mengawasi hasilnya, siapa yang bertanggung jawab ketika terjadi kesalahan, dan apakah hak pihak lain tetap terlindungi.

Tata kelola AI yang baik pada akhirnya tidak hanya berfungsi untuk memenuhi regulasi. Tata kelola tersebut juga membantu perusahaan mempertahankan kepercayaan pelanggan, melindungi aset informasi, mengurangi risiko sengketa, dan memastikan teknologi benar-benar memberikan nilai bagi bisnis.