Malaysia Akan Ambil Tindakan Hukum terhadap X dan xAI Terkait Chatbot Grok

“Konten yang diduga melibatkan perempuan dan anak-anak merupakan masalah yang sangat mengkhawatirkan. Perilaku tersebut bertentangan dengan hukum Malaysia dan merusak komitmen keamanan yang dinyatakan oleh perusahaan-perusahaan tersebut,” kata MCMC, sebagaimana dilansir Associated Press. Komisi telah menunjuk seorang pengacara dan mengatakan proses hukum akan segera dimulai.

Terdapat peningkatan pengawasan terhadap alat AI generatif yang dapat menghasilkan gambar, suara, dan teks realistis, serta kekhawatiran bahwa pengamanan yang ada gagal mencegah penyalahgunaannya.

Diluncurkan pada 2023, Grok gratis digunakan di X. Fitur generator gambar, Grok Imagine, ditambahkan tahun lalu dan mencakup apa yang disebut mode "pedas" yang dapat menghasilkan konten dewasa. Grok telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran perempuan berbikini atau pose seksual eksplisit, serta gambar yang melibatkan anak-anak.