China Usulkan Aturan Ketat AI untuk Lindungi Anak-Anak
JAKARTA – China telah mengusulkan aturan baru yang ketat untuk kecerdasan buatan (AI) guna memberikan perlindungan bagi anak-anak dan mencegah chatbot memberikan nasihat yang dapat menyebabkan tindakan melukai diri sendiri atau kekerasan. Berdasarkan peraturan yang direncanakan, pengembang juga perlu memastikan model AI mereka tidak menghasilkan konten yang mempromosikan perjudian.
Pengumuman ini muncul setelah lonjakan jumlah chatbot yang diluncurkan di China dan di seluruh dunia.
Setelah difinalisasi, aturan tersebut akan berlaku untuk produk dan layanan AI di China, menandai langkah besar dalam mengatur teknologi yang berkembang pesat ini, yang telah mendapat sorotan tajam terkait masalah keamanan tahun ini.
Dilansir BBC, draf peraturan tersebut, yang diterbitkan pada akhir pekan oleh Administrasi Ruang Siber China (CAC), mencakup langkah-langkah untuk melindungi anak-anak. Peraturan tersebut termasuk mewajibkan perusahaan AI untuk menawarkan pengaturan yang dipersonalisasi, menetapkan batasan waktu penggunaan, serta mendapatkan persetujuan dari wali sebelum menyediakan layanan pendampingan emosional.
Operator chatbot harus menyerahkan kendali percakapan terkait bunuh diri atau melukai diri sendiri kepada manusia dan segera memberi tahu wali pengguna atau kontak darurat, kata administrasi tersebut.
Penyedia AI harus memastikan bahwa layanan mereka tidak menghasilkan atau membagikan “konten yang membahayakan keamanan nasional, merusak kehormatan dan kepentingan nasional, atau merusak persatuan nasional,” kata pernyataan itu.
CAC mengatakan pihaknya mendorong adopsi AI, misalnya untuk mempromosikan budaya lokal dan menciptakan alat pendampingan bagi lansia, asalkan teknologi tersebut aman dan andal. CAC juga meminta masukan dari publik.
Perusahaan AI China, DeepSeek, menjadi berita utama di seluruh dunia tahun ini setelah menduduki puncak tangga unduhan aplikasi.
Bulan ini, dua perusahaan rintisan China, Z.ai dan Minimax, yang secara bersama-sama memiliki puluhan juta pengguna, mengumumkan rencana untuk melakukan penawaran saham perdana (IPO).
Teknologi ini dengan cepat mendapatkan banyak pelanggan, sebagian menggunakannya untuk pendampingan atau terapi.
Dampak AI terhadap perilaku manusia semakin menjadi sorotan dalam beberapa bulan terakhir.
Sam Altman, kepala OpenAI, pembuat ChatGPT, mengatakan tahun ini bahwa cara chatbot merespons percakapan terkait perilaku melukai diri sendiri adalah salah satu masalah tersulit perusahaan.
Pada Agustus, sebuah keluarga di California menggugat OpenAI atas kematian putra mereka yang berusia 16 tahun, dengan tuduhan bahwa ChatGPT mendorongnya untuk bunuh diri. Gugatan tersebut menandai tindakan hukum pertama yang menuduh OpenAI melakukan kesalahan dalam penanganan kematian.
(Rahman Asmardika)
