China Usulkan Aturan Ketat AI untuk Lindungi Anak-Anak

JAKARTA – China telah mengusulkan aturan baru yang ketat untuk kecerdasan buatan (AI) guna memberikan perlindungan bagi anak-anak dan mencegah chatbot memberikan nasihat yang dapat menyebabkan tindakan melukai diri sendiri atau kekerasan. Berdasarkan peraturan yang direncanakan, pengembang juga perlu memastikan model AI mereka tidak menghasilkan konten yang mempromosikan perjudian.

Pengumuman ini muncul setelah lonjakan jumlah chatbot yang diluncurkan di China dan di seluruh dunia.

Setelah difinalisasi, aturan tersebut akan berlaku untuk produk dan layanan AI di China, menandai langkah besar dalam mengatur teknologi yang berkembang pesat ini, yang telah mendapat sorotan tajam terkait masalah keamanan tahun ini.

Dilansir BBC, draf peraturan tersebut, yang diterbitkan pada akhir pekan oleh Administrasi Ruang Siber China (CAC), mencakup langkah-langkah untuk melindungi anak-anak. Peraturan tersebut termasuk mewajibkan perusahaan AI untuk menawarkan pengaturan yang dipersonalisasi, menetapkan batasan waktu penggunaan, serta mendapatkan persetujuan dari wali sebelum menyediakan layanan pendampingan emosional.

Operator chatbot harus menyerahkan kendali percakapan terkait bunuh diri atau melukai diri sendiri kepada manusia dan segera memberi tahu wali pengguna atau kontak darurat, kata administrasi tersebut.