Tata Kelola Berbasis Risiko dalam Rancangan Perpres Etika AI

Sejalan dengan penyusunan Peta Jalan Kecerdasan Artifisial Nasional 2026–2029, Pemerintah Indonesia tengah menyiapkan Rancangan Peraturan Presiden (Perpres) tentang Etika Kecerdasan Artifisial (AI). Rancangan ini memperkuat tata kelola AI melalui pendekatan compliance-by-design, dengan mengintegrasikan prinsip etika dan manajemen risiko ke dalam pemanfaatan teknologi AI. Nilai-nilai yang diusung juga konsisten dengan Surat Edaran Menteri Komunikasi dan Informatika No. 9 Tahun 2023 ("SE Menkominfo 9/2023").

Pihak yang Terlibat

Rancangan Perpres memperluas cakupan pihak yang wajib menerapkan nilai etika AI dan tanggung jawabnya:

• Pengguna: Wajib menggunakan AI secara etis dan tidak menyalahgunakan informasi.
• Pelaku Sektor (Pengembang/Penyelenggara): Menyelenggarakan sistem AI sesuai dengan prinsip etika, menerapkan manajemen, serta memastikan transparansi dan akuntabilitas.
• Kementerian/Lembaga (K/L) dan Pemangku Kepentingan Lainnya: Menyusun kebijakan tata kelola dan mengembangkan kerangka manajemen risiko.

Klasifikasi Risiko AI

Rancangan Perpres ini memperkenalkan pendekatan berbasis risiko dengan membagi penggunaan AI ke dalam tiga kategori utama:

• Risiko Tidak Dapat Diterima: Dianggap mengancam keselamatan dan Hak Asasi Manusia (HAM).
• Risiko Tinggi: Menggunakan data pribadi sensitif (seperti kesehatan atau biometrik) atau memiliki dampak signifikan terhadap layanan publik esensial.
• Risiko Rendah: Memberikan sedikit atau tidak ada ancaman terhadap keselamatan atau HAM.

Aspek Mitigasi Risiko

Setiap pemanfaatan AI harus mematuhi delapan aspek pengamanan, yaitu:

1. Kebermanfaatan dan Pelindungan: Mendukung potensi ekonomi lokal dan melakukan penilaian dampak sosial dan lingkungan
2. Menjauhi Kerugian dan Penyalahgunaan: Mekanisme teknis untuk mencegah penyalahgunaan  AI serta menghentikan operasi jika membahayakan keamanan atau kepentingan publik
3. Transparansi dan Akuntabilitas: Mempublikasikan informasi mengenai sumber data, potensi bias, dan mekanisme pelaporan
4. Keadilan dan Kecukupan: Melakukan pengujian dampak algoritma dan membatasi pengumpulan data pribadi.
5. Promosi Inklusi dan Keragaman: Melibatkan kelompok rentan dan penyandang disabilitas.
6. Keamanan melalui Keandalan Sistem: Melakukan stress testing dan memiliki prosedur darurat untuk menghentikan sistem jika terjadi kegagalan.
7. Penghargaan terhadap Karya Cipta dan Budaya: Menghormati karya intelektual dan budaya dalam pengembangan sistem AI.
8. Tata Kelola dan Kontrol Manusia: Memastikan keputusan akhir yang berdampak signifikan tetap berada di bawah pengawasan manusia (human-in-the-loop)

Kewajiban Penilaian Mandiri (Self-Assessment)

Pelaku sektor wajib melakukan dan melaporkan penilaian mandiri secara berkala kepada K/L terkait. Penilaian ini mencakup evaluasi terhadap privasi, deteksi bias, akuntabilitas, keterjelasan (explainability) keputusan AI, dan risiko sosial.

Antisipasi Menjelang Pemberlakuan Perpres Etika AI

Perkembangan regulasi AI menunjukkan meningkatnya fokus pada tata kelola dan manajemen risiko. Crowe Indonesia Teknologi membantu organisasi memperkuat pengawasan untuk mendukung pemanfaatan AI yang bertanggung jawab melalui audit internal AI, pengujian dan validasi model AI, penerapan perangkat tata kelola, evaluasi risiko sistem, hingga asesmen pihak ketiga.