Malaysia, India, dan Prancis Ancam Hukum Grok Terkait Gambar Cabul AI di X
JAKARTA – Malaysia mengancam akan mengambil tindakan terhadap Grok setelah chatbot kecerdasan buatan (AI) milik Elon Musk itu membuat gambar-gambar seksualisasi perempuan dan anak-anak di media sosial X. Ancaman ini disampaikan Malaysia, mengikuti dua negara lain, Prancis dan India, yang telah membuat pernyataan serupa.
Grok, chatbot AI bawaan X, telah secara digital menelanjangi perempuan dan anak-anak hingga hanya mengenakan bikini sebagai respons terhadap permintaan pengguna.
Aksi penelanjangan digital ini tampaknya dimulai dalam beberapa hari terakhir, sejak akhir Desember, berdasarkan unggahan penghapusan pakaian yang telah selesai diposting oleh Grok dan keluhan dari pengguna.
Otoritas Malaysia mengatakan pada akhir pekan bahwa mereka telah meluncurkan penyelidikan setelah adanya keluhan bahwa Grok digunakan untuk memanipulasi gambar perempuan dan anak di bawah umur menjadi konten yang tidak senonoh atau berbahaya.
Komisi Komunikasi dan Multimedia memperingatkan bahwa membuat atau menyebarkan konten berbahaya tersebut merupakan pelanggaran hukum di Malaysia. Komisi tersebut mengatakan bahwa lembaga pengawas media akan menyelidiki pengguna X yang diduga melanggar hukum dan memanggil perwakilan dari perusahaan itu.
“Meskipun X saat ini bukan penyedia layanan berlisensi, ia memiliki kewajiban untuk mencegah penyebaran konten berbahaya di platformnya,” kata komisi tersebut, sebagaimana dilansir The Independent.
Selain menelanjangi mereka hingga hanya mengenakan bikini, chatbot tersebut juga menghasilkan gambar perempuan Malaysia yang telah diedit tanpa jilbab, menurut New Straits Times.
Miliarder Amerika Serikat (AS), yang juga pemilik Grok, Elon Musk, tampaknya menyindir kontroversi tersebut pada Jumat (2/1/2026) pagi dengan memposting emoji tertawa-menangis sebagai respons terhadap suntingan AI terhadap orang-orang terkenal, termasuk dirinya sendiri, yang mengenakan bikini.
Ketika seorang pengguna X mengatakan bahwa unggahan media sosial mereka menyerupai bar yang penuh dengan wanita berbikini, Musk membalas dengan emoji tertawa-menangis lainnya.
Namun, seiring meningkatnya reaksi negatif, Musk mengatakan pada Minggu (4/1/2026) bahwa platform tersebut mengambil tindakan terhadap konten ilegal, termasuk unggahan yang berkaitan dengan anak-anak, dengan menghapusnya dan menangguhkan akun secara permanen.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan mengalami konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” kata Musk dalam sebuah unggahan di X.
Pihak berwenang di India pada Jumat menulis surat kepada X, memerintahkan peninjauan komprehensif terhadap chatbot AI tersebut untuk memastikan bahwa chatbot itu tidak menghasilkan konten yang mengandung “ketelanjangan, seksualisasi, konten eksplisit seksual, atau konten ilegal lainnya.”
Delhi mengarahkan platform tersebut untuk menyerahkan laporan tentang tindakan korektif yang telah diambil kepada kementerian elektronik dan teknologi informasi dalam waktu 72 jam, memperingatkan bahwa kegagalan untuk mematuhi dapat mengundang tindakan berdasarkan hukum pidana dan hukum TI.
Pemerintah juga mengatakan dapat mempertimbangkan regulasi yang lebih ketat terhadap platform media sosial terkait konten yang dihasilkan AI yang tidak pantas.
Prancis juga menuduh Grok menghasilkan konten seksual yang “jelas ilegal” di X tanpa persetujuan orang, menambahkan bahwa gambar yang dibuat oleh Grok berpotensi melanggar Undang-Undang Layanan Digital Uni Eropa.
Sementara itu, kantor kejaksaan di Paris memperluas penyelidikan terhadap X dengan memasukkan tuduhan baru bahwa Grok digunakan untuk menghasilkan dan menyebarkan konten pelecehan anak.
Penyelidikan terhadap X pertama kali diluncurkan pada Juli setelah laporan mengatakan bahwa algoritma platform tersebut dimanipulasi untuk memungkinkan campur tangan asing.
(Rahman Asmardika)
