China Perketat Aturan Baru soal AI untuk Lindungi Anak-anak

Bunda, pasti sudah tidak asing lagi dengan kecerdasan buatan atau Artificial Intelligence (AI) yang semakin akrab di kehidupan sehari-hari. Sama halnya di China, AI sudah mulai digunakan oleh berbagai usia, terutama anak-anak.

Perkembangan AI memang membawa banyak manfaat untuk memudahkan kehidupan sehari-hari. Namun, sisi negatifnya juga tak bisa disepelekan, terutama terkait dampak AI pada anak-anak,  yang menjadi banyak orang tua di China khawatir.

Maraknya penggunaan AI pada anak-anak membuat pemerintah China mengusulkan aturan baru yang lebih ketat agar pengguna tetap aman dari konten berbahaya dan risiko kesehatan mental.  

Yuk, simak bagaimana aturan baru China ini dirancang untuk melindungi anak-anak dari risiko AI.

China perketat aturan baru soal AI

Salah satu poin utama dalam aturan ini adalah tentang perlindungan anak-anak. Menurut draf peraturan yang diterbitkan oleh Administrasi Ruang Siber Tiongkok (CAC), perusahaan AI harus mewajibkan anak di bawah umur untuk mendapatkan persetujuan orang tua, serta verifikasi usia yang ketat.

Tidak hanya itu, aplikasi AI dilarang menghasilkan konten yang bersifat cabul, kekerasan, atau mempromosikan perjudian. Bahkan, percakapan di aplikasi AI berbasis teks tentang bunuh diri atau melukai diri sendiri harus dialihkan ke manusia.

Langkah ini diambil untuk menjaga keamanan emosional anak-anak sekaligus mencegah ketergantungan berlebihan pada teknologi AI. Selain itu, penerapannya bisa membantu menentukan situasi mana yang dianggap berisiko dan perlu ditangani oleh manusia.

Selain mengontrol konten, CAC meminta developer menyediakan pengaturan yang bisa disesuaikan dengan kebutuhan pengguna, serta menetapkan batasan waktu penggunaan bagi anak-anak. Misalnya, anak hanya boleh berinteraksi dengan AI dalam waktu tertentu.

Menilik dari laman BBC, para ahli menekankan bahwa tujuan utama aturan ini bukan hanya soal keamanan konten, tetapi juga soal keselamatan emosional. Pemerintah ingin memastikan AI tidak memicu kecanduan atau ketergantungan psikologis, terutama pada pengguna yang masih rentan.

Peraturan ini tidak hanya berlaku untuk AI berbasis teks, melainkan untuk setiap perangkat AI yang dirancang untuk mensimulasikan kepribadian manusia. Dengan kata lain, semua AI yang bisa berinteraksi dengan anak-anak harus mengikuti standar keamanan ini.

Inovasi dan dukungan pemerintah China

Dilansir dari laman Mashable, salah satu inovasi menarik dalam aturan ini adalah penerapan langkah darurat untuk percakapan yang berisiko. Misalnya, aplikasi mendeteksi adanya topik sensitif tentang bunuh diri, maka percakapan akan diteruskan ke moderator manusia, seperti layanan kesehatan.

Orang tua pun diberi tahu, sehingga mereka bisa memberikan dukungan langsung. Langkah ini menempatkan keselamatan anak di atas segalanya, sekaligus mengakui bahwa AI tidak bisa sepenuhnya menggantikan interaksi manusia dalam hal pendampingan emosional. 

Meski fokus utamanya adalah pembatasan pada anak-anak, pemerintah China tak lupa untuk mendukung pengembangan AI yang bermanfaat. Contohnya mendorong teknologi AI untuk digunakan untuk mempromosikan budaya lokal atau membantu lansia.

CAC bahkan meminta masyarakat memberikan masukan terhadap draf peraturan ini sebelum finalisasi. Hal ini menunjukkan niat pemerintah untuk menyeimbangkan inovasi dan perlindungan pengguna.

Dampak bagi perusahaan AI di China

Aturan baru ini muncul saat aplikasi AI berbasis teks di China dan dunia sedang sangat populer, seperti DeepSeek, Z.ai, dan Minimax, yang sudah punya puluhan juta pengguna. Bahkan perusahaan besar lain berniat menawarkan sahamnya kepada para investor.

Dengan aturan baru, perusahaan AI harus lebih hati-hati saat membuat produknya. Mereka perlu memastikan kembali tentang perlindungan anak, sehingga aplikasi aman untuk digunakan. Dapat dikatakan bahwa keselamatan pengguna menjadi prioritas utama di era AI yang terus berkembang.

Demikian informasi yang bisa disampaikan. Semoga bermanfaat bagi Bunda dan orang tua lainnya yang ingin memahami perkembangan AI serta tentang pentingnya perlindungan pada anak-anak.

Bagi Bunda yang mau sharing soal parenting dan bisa dapat banyak giveaway, yuk join komunitas HaiBunda Squad. Daftar klik di SINI. Gratis!