Ramai Grok AI di X Jadi Alat Pelecehan Digital, Bisa Melucuti Baju Hanya Pakai Prompt

Grok adalah kecerdasan buatan atau AI yang dikembangkan khusus oleh perusahaan pemilik X. Fitur ini dirancang untuk berinteraksi dan membuat atau mengolah gambar berdasarkan perintah (prompt) teks dari pengguna.

Nah, yang membedakan dan membuatnya lebih berpotensi berbahaya adalah kebijakan kontennya yang lebih longgar dibanding AI lain.

Kalau platform AI populer seperti Google Gemini atau OpenAI biasanya memiliki batasan ketat dan akan menolak perintah untuk memanipulasi foto seseorang secara seksual atau membuat konten dewasa, serta lebih tertutup tanpa bisa dilihat orang lain.

Grok, di sisi lain, dinilai lebih permisif terhadap permintaan-permintaan kontroversial semacam ini karena cukup dengan perintah sederhana seperti "ubah pakaiannya jadi bikini" pada sebuah foto selfie, Grok dapat menghasilkan gambar manipulasi yang bersifat seksual.

Kemudahan ini menjadikannya alat yang berisiko tinggi bagi pelecehan digital dan pelanggaran privasi, terutama terhadap anak dan remaja. Karena hasil permintaan dari prompt sederhana tadi, bisa langsung keluar dan dilihat oleh seluruh pengguna X.

Ngeri banget kan, Ma?

Yang memperparah situasi, korbannya ini nggak cuma orang dewasa publik figur, tapi juga remaja bahkan anak-anak, Ma.

Terlebih lagi, platform X memang cukup populer di kalangan remaja untuk mencari informasi terkini dan mengekspresikan diri.

Jika anak menggunakannya tanpa pemahaman akan risiko digital yang dalam, remaja sering tanpa pikir panjang mengunggah foto selfie, foto bersama teman, atau foto cek outfit ke akun mereka.

Foto-foto inilah yang bisa disalahgunakan oleh orang lain untuk dimanipulasi dengan Grok AI, hanya dengan permintaan sederhana saja.

Ini menjadi alarm keras bagi setiap orangtua. Kewaspadaan dan edukasi tentang keamanan digital bukan lagi opsi, melainkan keharusan, Ma.

Penting untuk mengingatkan anak agar lebih berhati-hati dan selektif dalam membagikan foto pribadi di ranah online, tujuannya tentu agar data pribadinya lebih terjaga.

Meski nggak ada jaminan 100% aman, beberapa langkah proaktif bisa Mama dan Papa lakukan sebagai cara mengurangi risiko anak menjadi korban pelecehan digital.

Berikut beberapa langkah yang bisa diajarkan pada anak:

1. Ajari anak untuk mengatur akun media sosialnya menjadi private atau terkunci. Dengan begitu, anak bisa membatasi follower hanya pada orang yang benar-benar dikenal. Semakin sedikit yang bisa mengakses unggahannya, semakin kecil peluang penyalahgunaan.

2. Gunakan watermark yang sedikit "menggangu". Jadi, jika harus mengunggah foto, anak bisa menambahkan watermark besar yang menutupi area tubuh atau wajah. Watermark teks atau pola yang semi-transparan dapat menyulitkan proses manipulasi oleh AI, termasuk Grok.

3. Nonaktifkan izin pelatihan AI dengan cara masuk ke Settings > Privacy & Safety > Grok & third-party collaborators. Nonaktifkan semua izin yang berkaitan dengan penggunaan data untuk melatih AI. Cara ini mencegah data dan interaksi akun digunakan untuk pengembangan model yang mungkin disalahgunakan.

Keamanan digital anak adalah tanggung jawab bersama. Selain menerapkan langkah di atas, Mama dan Papa bisa membangun komunikasi terbuka dengan remaja tentang bahaya di dunia online.

Beri edukasi pada anak bahwa tak hanya menjadi pengguna media sosial yang cerdas, tapi juga harus memiliki etika, dengan nggak ikut serta menyebarkan konten manipulatif.

Lindungi mereka, dan ajari mereka untuk melindungi dirinya serta menghormati privasi orang lain.