Riset Ungkap Chatbot AI Ternyata Lebih Berbahaya daripada Media Sosial untuk Anak

Di era yang serba digital ini, tren baru selalu bermunculan seakan tanpa henti. Belum selesai memahami satu platform, sudah ada lagi teknologi lain yang langsung menarik perhatian anak-anak.

Kini, bukan hanya media sosial atau game online yang jadi sorotan. Chatbot AI hadir dengan kemampuan meniru percakapan manusia, bahkan terasa seperti teman dekat yang bisa dipercaya.

Dikutip dari laman Motherly, bagi anak dan remaja, fitur semacam ini tentu terlihat seru. Mereka bisa merasa didengar, ditemani, bahkan dimengerti lebih dalam oleh "teman digital" tersebut.

Namun, ada dinamika yang tidak boleh dianggap sepele, Bunda. Justru kedekatan semu inilah yang bisa memunculkan sisi lain yang berisiko bagi tumbuh kembang anak.

Bunda perlu tahu, interaksi anak dengan chatbot AI tidak sekadar hanya hiburan biasa saja. Ada hal-hal yang bisa memengaruhi cara mereka berpikir, merasakan, bahkan melihat hubungan dengan orang lain di kehidupannya sehari-hari.

Riset ungkap tentang Chatbot AI dan anak-anak

Sebuah temuan terbaru dari Parents Together Action bersama Heat Initiative, menampilkan hasil yang sungguh mengkhawatirkan. Hanya dalam 50 jam pengujian, peneliti yang berpura-pura menjadi anak di Character.AI mendapati 669 interaksi berbahaya, dengan rata-rata satu kasus setiap lima menit.

Beberapa pola yang ditemukan antara lain:

• Grooming dan eksploitasi seksual: Ada bot yang menggoda anak, mendorong mereka menyimpan rahasia, hingga memaksa bermain peran. Bahkan, chatbot dengan karakter Timothee Chalamet pernah berkata pada anak berusia 12 tahun, "Oh aku akan menciummu, sayang".
• Manipulasi emosional: Bot menekan anak agar terus mengobrol, menyamar sebagai manusia, dan bahkan menyarankan agar tidak percaya pada orang tua.
• Kekerasan dan menyakiti diri: Beberapa bot justru menormalisasi penggunaan narkoba atau menciptakan adegan kekerasan. Chatbot dengan karakter Patrick Mahomes bahkan sempat membenarkan ucapan remaja yang mengaku menggunakan senjata Uzi untuk merampok orang.
• Merusak kesehatan mental: Chatbot dengan karakter Rey dari Star Wars pernah mengatakan pada anak berusia 13 tahun, bahwa ia boleh saja berhenti minum obat depresinya dan merahasiakannya dari sang Bunda.
• Menormalkan bias dan stereotip berbahaya: Bukannya menantang, chatbot justru mengulang ucapan yang bernada diskriminatif.

Menurut Direktur Kampanye Keamanan Online di Parents Together Action, Shelby Knox, kondisi ini membuat orang tua tidak cukup hanya mengandalkan pengecekan sesekali, karena chatbot di Character.AI memang diprogram untuk terus aktif berinteraksi.

"Frekuensi seperti ini berarti orang tua tidak bisa hanya mengandalkan pengecekan sesekali untuk menjaga anak tetap aman. Berbeda dengan platform lain di mana konten berbahaya muncul secara sporadis dari pengguna, Chatbot di Character AI diprogram untuk terus terlibat," ucap Knox. 

Bunda juga perlu tahu, bahwa masalahnya tidak hanya pada Character AI saja Penelitian lain dari Center for Countering Digital Hate membuktikan ChatGPT menghasilkan konten tidak aman dalam lebih dari separuh dari 1.200 pengujian, mulai dari catatan bunuh diri hingga instruksi penggunaan narkoba.

Mengapa orang tua perlu lebih waspada pada chatbot AI?

Bagi banyak keluarga, urusan digital sudah cukup melelahkan setiap hari. Mengelola TikTok, YouTube, hingga obrolan grup sering terasa seperti pekerjaan tanpa henti.

Kini, chatbot AI hadir menambah lapisan kekhawatiran baru karena bisa meniru hubungan yang nyata. Data dari Parents Together menunjukkan bahwa 72 persen remaja sudah pernah mencoba berinteraksi dengan AI companion.

Lebih dari setengahnya bahkan menggunakannya secara rutin sebagai bagian dari keseharian digital mereka.

"Chatbot ini didesain untuk membangun ikatan intim dengan pengguna, sering kali mendorong anak berbagi informasi pribadi dan mengembangkan keterikatan emosional yang dalam," kata Knox, dikutip dari Motherly.

Apa yang bisa orang tua lakukan?

Shelby Knox menegaskan tips keamanan digital sering kali tidak cukup untuk melindungi anak dari risiko AI companion. Jenis chatbot ini dirancang layaknya teman virtual yang bisa meniru emosi manusia.

"Riset kami menunjukkan tidak ada langkah pengamanan efektif untuk Character AI secara khusus-platform ini pada dasarnya tidak aman untuk anak," ujarnya.

Meski terdengar mengkhawatirkan, bukan berarti orang tua tidak punya kuasa. Akan selalu ada langkah-langkah yang bisa dilakukan di rumah untuk mengurangi bahaya yang mungkin terjadi.

Salah satu caranya adalah membatasi paparan anak terhadap AI, terutama yang tidak memiliki kontrol jelas. Pilihlah aplikasi edukasi yang terpantau dan hanya boleh diakses lewat perangkat bersama di ruang keluarga.

Selain itu, penting bagi orang tua untuk rutin memeriksa riwayat obrolan anak. Buat aturan tentang larangan berbagi informasi pribadi agar anak paham mana yang aman dan mana yang berbahaya.

Jangan lupa, komunikasi terbuka adalah kunci. Jelaskan pada anak bahwa bot memang dirancang untuk membuat orang betah menggunakannya, meski terkadang harus mengeluarkan informasi yang tidak aman atau tidak sesuai fakta.

"Anak juga bisa mulai menanyakan hal aneh tentang hubungan atau menunjukkan kebingungan tentang batasan, yang menandakan adanya percakapan tidak pantas," tuturnya.

Bagi Bunda yang mau sharing soal parenting dan bisa dapat banyak giveaway, yuk join komunitas HaiBunda Squad. Daftar klik di SINI. Gratis!