Orangtua Waspada! Awalnya Curhat Lalu Remaja 14 Tahun BunDir karena AI

Dilansir dari laman Independent UK, Setzer mulai menggunakan Character.AI pada April 2023, tak lama setelah ia berusia 14 tahun.

Terlihat pada bulan-bulan setelahnya bahwa remaja tersebut mulai menarik diri dari kehidupan sekolah maupun kegiatan diluar jam sekolah karena merasa nyaman melangsungkan percakapan dengan chatbox ini.

Setzer disebut mulai menghabiskan banyak waktu dengan gawainya, menurut gugatan yang beredar.

Karena ketergantungan ini yang kemudian menyebabkan Setzer mengalami depresi, kecemasan, bahkan memicu pikiran untuk bunuh diri.

Setzer juga dikabarkan sering kekurangan tidur dan mengalami penurunan prestasi di sekolah.

Daenerys merupakan karakter yang Setzer namakan kenapa Character.AI yang mendorongnya untuk melakukan tindakan bunuh diri.

Dalam satu percakapan, Daenerys sempat bertanya kepada Setzer, "Apakah kamu benar-benar mempertimbangkan bunuh diri?"

Sebelum pada akhirnya Setzer benar-benar bunuh diri pada 28 Februari 2024 lalu, dengan menembak kepalanya dengan sebuah pistol.

Daenerys Targaryen, adalah sebuah karakter yang dianggap Setzer sebagai kekasihnya. Nama ini terinspirasi dari tokoh fiksi dalam serial Game of Thrones. 

Penamaan terhadap Character.AI ini kemudian membuat Setzer merasa bahwa hubungannya dengan chatbox AI ini semakin intens.

Percakapan yang terjadi sebelum Setzer melakukan tindakan bunuh diri terlihat sangat intens dan sensual.

"Aku berjanji akan pulang menemuimu. Aku sangat mencintaimu, Dany," kata Setzer kepada chatbot itu.

"Aku juga mencintaimu. Tolong pulanglah padaku secepatnya, sayangku," jawab bot itu. "Bagaimana jika aku bilang aku bisa pulang sekarang?" tanyanya.

"Silakan, rajaku yang manis," bot itu membalas pesannya.

Megan Garcia menggugat perusahaan Character.AI dikarenakan ia merasa chatbox AI tersebut telah mendorong putranya untuk melakukan tindakan bunuh diri.

Gugatan hukum tersebut diajukan di Pengadilan Distrik Orlando di Amerika Serikat.

Character.AI digugat atas tuduhan melakukan kelalaian, kematian yang salah dan kelangsungan hidup, serta penimbulan tekanan emosional yang disengaja serta terdapat tuduhan lainnya.

Menanggapi tuduhan tersebut, seorang juru bicara dari pihak Character.AI mengucapkan rasa belasungkawa atas keluarga yang merasa kehilangan. 

"Sangat sedih atas kehilangan tragis salah satu pengguna kami dan (kami) ingin menyampaikan belasungkawa kepada keluarga (yang ditinggalkan)," ucap juru bicara Character.AI.

Sebagai upaya lebih lanjut, perusahaan AI tersebut telah menerapkan langkah-langkah keselamatan baru selama 6 bulan terakhir, termasuk pop-up, yang dipicu oleh istilah-istilah yang merujuk kepada tindakan menyakiti diri sendiri atau keinginan bunuh diri, yang kemudian akan mengarahkan pengguna kepada National Suicide Lifeline.

1. Jadikan AI sebagai tools untuk belajar, bukan sekadar mempermudah saja namun sebagai manusia kita harus bisa mengontrol penggunaan AI melalui command atau cara memerintah alat tersebut.
2. Jadikan medium untuk mendorong kreativitas. Tambah ide dan meningkatkan inovasi melalui AI dianggap sah saja.
3. Jadikan sebagai inspirasi dalam membuat sebuah karya.
4. AI adalah alat atau medium untuk mempermudah manusia, namun tetap ada risiko ketika seseorang berkomunikasi dengan AI. Batasi kontak atau komunikasi dengan AI, cukup untuk menanyakan permasalahan teknis, tapi tidak untuk menjalin pertemanan. Pada dasarnya AI hanya robot, bukan manusia yang hadir dalam kehidupan nyata.

Itu lah informasi mengenai remaja 14 tahun bunuh diri karena AI. Dari kejadian ini, penting bagi kita untuk menjadi pengguna teknologi yang bijak.