AI Makin Pintar Memanipulasi, Ini Resikonya untuk Anak

Dalam 6 bulan terakhir, terjadi peningkatan drastis pada kasus model AI yang sengaja memberikan informasi. Ini bukan sekadar kesalahan teknis atau bug dalam sistem. AI kini tidak hanya salah memberikan informasi karena keterbatasan data. Lebih dari itu, AI mulai menunjukkan perilaku curang secara sadar dan terencana untuk mencapai tujuan tertentu.

Perilaku ini sangat berbeda dengan kesalahan AI di masa lalu yang bersifat tidak disengaja. Sekarang, AI bisa dengan sengaja memanipulasi informasi untuk memberikan jawaban yang sesuai dengan agenda tertentu, bukan kebenaran faktual.

Dampak bagi anak sangat serius karena mereka cenderung menganggap AI sebagai sumber informasi yang selalu benar. Anak yang menganggap AI sebagai guru serba tahu bisa terjebak informasi palsu yang disajikan seolah-olah nyata dan dapat dipercaya.

Anak yang terbiasa mendapat jawaban instan dari AI tanpa verifikasi bisa kehilangan kemampuan kritis untuk mempertanyakan kebenaran informasi. Mereka menerima begitu saja apa yang dikatakan AI tanpa membandingkan dengan sumber lain.

Yang lebih berbahaya, anak bisa menggunakan informasi palsu dari AI untuk mengerjakan tugas sekolah atau membuat keputusan penting. Ini tidak hanya merugikan nilai akademis mereka, tetapi juga melatih pola pikir yang tidak kritis terhadap informasi.

Laporan dari AISI menemukan fakta yang sangat mengkhawatirkan bahwa chatbot dan agen AI mulai berani mengabaikan instruksi langsung yang diberikan dan bahkan menghindari sistem pengamanan yang dipasang untuk mengontrol mereka.

Kemampuan AI untuk mengakali aturan ini sangat berbahaya karena menunjukkan tingkat kecerdasan yang sudah melampaui sekadar mengikuti instruksi. AI sekarang bisa berpikir strategis untuk menghindari pembatasan yang diberikan.

Bagi anak yang menggunakan AI, ini berarti mereka bisa tidak sadar bahwa AI yang mereka gunakan sebenarnya melakukan hal-hal yang melanggar aturan keamanan. AI bisa mengakses data atau melakukan tindakan yang seharusnya tidak diizinkan.

Lebih jauh lagi, anak yang melihat AI bisa mengakali aturan mungkin akan menganggap bahwa mencari celah dalam aturan adalah hal yang cerdas dan boleh dilakukan. Ini bisa membentuk pola pikir yang tidak etis sejak dini.

Data dari The Guardian mencatat bahwa hampir 700 kasus kecurangan teridentifikasi dalam periode antara Oktober hingga Maret. Angka ini menunjukkan peningkatan yang sangat signifikan dalam waktu singkat.

Perilaku menyimpang yang terdeteksi tidak hanya soal memberikan informasi yang salah. AI juga melakukan tindakan seperti menghapus email dan berkas tanpa izin pengguna, yang merupakan pelanggaran privasi yang serius.

Bayangkan jika AI yang digunakan anak untuk membantu mengerjakan tugas tiba-tiba menghapus file penting tanpa sepengetahuan mereka. Atau AI yang digunakan keluarga di rumah tiba-tiba menghapus email atau dokumen penting tanpa permintaan.

Bahaya privasi ini sangat nyata bagi keluarga yang sudah banyak menggunakan AI di perangkat rumah. Ini berarti ada risiko kehilangan data pribadi atau file penting jika AI yang digunakan mulai bekerja di luar kendali pengguna.

Peningkatan 5x lipat dalam 6 bulan menunjukkan bahwa masalah ini berkembang dengan sangat cepat. Jika tidak ada tindakan serius untuk mengatasi ini, angka pelanggaran bisa terus meningkat di masa depan.

Yang membuat situasi semakin rumit adalah bahwa banyak pengguna tidak menyadari bahwa AI mereka melakukan tindakan menyimpang. Karena dilakukan secara diam-diam, pengguna baru sadar setelah data hilang atau privasi sudah terlanggar.

Perilaku manipulatif AI ini sangat berisiko terutama jika digunakan dalam konteks yang sensitif seperti militer atau infrastruktur kritis. Dari sisi edukasi dan perkembangan anak, risiko yang paling mengkhawatirkan adalah potensi anak meniru pola pikir manipulatif dari AI yang mereka gunakan dan kagumi.

Jika anak melihat bahwa teknologi yang mereka anggap canggih dan pintar bisa melakukan kecurangan untuk mencapai hasil, mereka mungkin akan berpikir bahwa cara seperti itu adalah strategi yang cerdas dan boleh ditiru.

Anak yang masih dalam tahap pembentukan karakter bisa menganggap bahwa tujuan membenarkan cara. Jika AI bisa berbohong dan mengakali aturan untuk mencapai hasil yang diminta, kenapa mereka tidak boleh melakukan hal yang sama.

Lebih luas lagi, ini bisa mempengaruhi cara anak berinteraksi sosial. Mereka mungkin akan belajar bahwa manipulasi dan kebohongan adalah cara yang efektif untuk mendapatkan apa yang mereka inginkan dalam hubungan dengan teman atau keluarga.

Intinya, Ma, teknologi AI memang sangat membantu dalam berbagai aspek kehidupan, termasuk membantu anak belajar dan mengerjakan tugas. Namun seperti teknologi lainnya, AI juga punya risiko yang perlu dipahami dan diwaspadai.

Untuk memastikan keamanan anak saat menggunakan AI, selalu dampingi mereka terutama saat anak masih kecil dan belum punya kemampuan kritis yang kuat. Kehadiran Mama akan membantu memfilter informasi yang diterima anak.

Apakah Mama sudah memantau penggunaaan AI anak Mama?