Semakin Mengerikan! Ini Cara Mencegah Anak Jadi Korban Penyalah Gunaan AI

Salah satu bentuk penyalahgunaan AI yang paling mengkhawatirkan adalah deepfake, konten intim palsu yang dibuat dengan menempelkan wajah seseorang ke tubuh orang lain. Masalahnya, Indonesia belum punya undang-undang khusus yang secara eksplisit mengatur dan menghukum pembuat deepfake. Akibatnya, korban sering kali tidak mendapatkan perlindungan yang memadai, sementara pelakunya sulit dijerat.

Fenomena deepfake ini memberi sinyal kuat bagi para pembuat kebijakan di Indonesia. Negara memiliki tanggung jawab untuk melindungi warga dan pejabat publik dari risiko yang muncul akibat perkembangan teknologi digital. 

“Kita belum punya secara eksplisit peraturan tentang AI dan ini menjadi tantangan besar jangan sampai multitafsir. Bagaimana aparat penegak hukum mau menangani dengan baik apabila tidak ada klausul AI atau akal imitasi dalam undang-undang. Selama ini, penanganannya menggunakan UU 44/2008 tentang Pornografi, UU TPKS, UU ITE, dan Pelindungan Data Pribadi,” tutur Syamsul Tarigan, mewakili Gender Equality and Social Inclusion UNDP Indonesia.

Artificial Intelligence (AI) memang membawa efisiensi di zaman sekarang. Namun di balik manfaatnya, ada sisi gelap yang justru paling membahayakan kelompok rentan seperti perempuan, anak perempuan, dan anak.

Salah satu contoh nyata terjadi di Universitas Udayana, di mana seorang mahasiswa diduga membuat deepfake dari foto-foto mahasiswi kampus. Dengan bantuan AI, pelaku memanipulasi foto mahasiswi menjadi konten seksual yang korbannya disebut lebih dari 35 orang. Dalam hitungan detik, martabat seseorang dapat direkayasa, sementara dampaknya mengendap lama dalam psikologis dan reputasi korban.

Di balik layar, pelaku berlindung pada anonimitas digital, sedangkan payung hukum belum sempurna melindungi. Kesenjangan ini membuat korban terombang-ambil tanpa ada perlindungan. Kendati pun, ini bukan salah perempuan, anak perempuan, maupun anak yang menggunakan media sosial. Ini sepenuhnya salah pelaku. Penyalahgunaan teknologi tidak pernah bisa dibenarkan, dan kelompok rentan berhak mendapatkan perlindungan penuh dari negara, platform digital, dan masyarakat.

Melihat risiko yang semakin serius, pemerintah menyiapkan landasan hukum mengenai AI yang akan diundangkan pada 2026. Kebijakan ini diharapkan jadi payung hukum agar korban deepfake dan kejahatan berbasis teknologi lainnya mendapat keadilan serta pelindungan dan pendampingan. 

“Komdigi sedang menyiapkan national roadmap penggunaan yang etis, berkelanjutan, dan bertanggung jawab dalam draft peraturan tentang akal imitasi yang targetnya selesai pada 2026.” Ungkap Mediodecci Lustarini, Sekretaris Ditjen Pengawasan Ruang Digital Komdigi RI yang akrab dipanggil Ibu Ides.

Lebih lanjut, Ibu Ides memaparkan prinsip etis pemerintah yang akan diadaptasi dalam draft peraturan AI tersebut:

1. Keamanan dan Keselamatan;

2. Akuntabilitas;

3. Transparansi;

4. Integritas;

5. Keadilan;

6. Pelindungan data biometrik;

7. Penilaian dampak pelindungan data.

Selain itu, pemerintah juga menekan keras kepatuhan platform atau penyelenggara sistem elektronik (PSE) untuk menyisir risiko sebaik-baiknya terhadap pengguna. Hal ini dikaji dari aspek kontak, isi konten, anak sebagai konsumen, ancaman terhadap data pribadi anak, risiko adiksi, hingga risiko gangguan psikologis dan biologis anak.

Internet memang sejatinya tidak diperuntukkan untuk anak-anak. Namum, Indonesia memiliki aturan melalui PP TPKS dan PP Tunas, yang menempatkan tanggung jawab perlindungan digital pada tiga pihak: Penyelenggara Sistem Elektronik (PSE) seperti platform digital, aplikasi, dan media sosial; orangtua dan pendidik sebagai pendamping; serta negara sebagai pelindung.

Di dalam kategori PSE ini termasuk perusahaan teknologi (seperti Google, Meta, TikTok), e-commerce ( seperti Tokopedia, Shopee), perbankan dan fintech, transportasi online (seperti Gojek, Grab), marketplace jasa, travel, logistik yang boleh diakses anak.

Anak sendiri memiliki hak untuk mengakses informasi, termasuk ruang digital. Karena itu, yang perlu dilakukan bukan mematikan akses, tetapi memastikan internet menjadi tempat yang lebih aman.

“Maka kita tidak bisa melakukan over censorship karena anak-anak tetap berhak mengakses internet. Senjata yang bisa kita lakukan adalah kewajiban moderasi konten, fitur-fitur perlindungan, dan mempertegas efektivitas know your customer. Ruang digital kita sangat beragam. Kalau semuanya diblokir, justru menimbulkan kontroversi. Indonesia punya kompleksitas besar, sehingga pengaturannya tidak bisa hanya menyasar satu jenis layanan digital. Seluruh PSE wajib memberikan perlindungan terhadap risiko digital karena layanan mereka digunakan oleh semua orang,” jelas Ibu Ides.

Unit Pelaksana Teknis Daerah Perlindungan Perempuan dan Anak (UPTD PPA) merupakan usaha pemerintah dalam memberikan layanan perlindungan perempuan dan anak korban kekerasan berbasis gender. Setiap provinsi maupun kabupaten/kota didorong untuk memiliki unit ini.

Jika terjadi ancaman, pemerasan, atau penyebaran konten palsu pada anak atau perempuan, segera hubungi:

• Layanan 129 (call center nasional perlindungan perempuan & anak)

• UPT PPA di daerah masing-masing

Layanan UPTD PPA berfungsi:

1. Pengaduan Masyarakat

2. Penjangkauan Korban

3. Pengelolaan Kasus

4. Penampungan Sementara

5. Pendampingan Korban

UPTD PPA berkedudukan di bawah dan bertanggung jawab kepada  Kepala Dinas yang menyelenggarakan urusan pemerintahan di bidang pemberdayaan perempuan dan perlindungan anak di tingkat daerah provinsi dan derah kabupaten/kota.

Dalam ekosistem digital yang makin kompleks, orangtua memegang peran terbesar dalam membentuk cara anak berinteraksi dengan teknologi.

Mulai dari memberi contoh perilaku digital yang sehat, menetapkan batasan waktu layar, hingga mendampingi anak memahami risiko dan etika di ruang digital semua berkontribusi langsung pada kebiasaan dan keamanan anak saat online.

Dengan pendampingan yang hangat dan konsisten, anak dapat berkembang sebagai pengguna digital yang cerdas, kreatif, dan terlindungi. Karena hal tersebut semakin mengerikan, pahami cara mencegah anak jadi korban penyalah gunaan AI!