Grok AI Banjiri X dengan Gambar Cabul Perempuan dan Anak-Anak, Picu Peringatan Internasional

Inovasi X, yang memungkinkan pengguna untuk menelanjangi wanita dengan mengunggah foto dan mengetik kata-kata, "hei @grok pakaikan dia bikini", telah menurunkan hambatan untuk melakukannya.

Dilansir Reuters, para ahli yang telah mengikuti perkembangan kebijakan X seputar konten eksplisit yang dihasilkan AI mengatakan bahwa perusahaan tersebut telah mengabaikan peringatan dari masyarakat sipil dan kelompok perlindungan anak. Bahkan mereka telah mengirimkan surat tahun lalu yang memperingatkan bahwa xAI hanya selangkah lagi dari melepaskan "banjir deepfake yang jelas-jelas tidak berdasarkan persetujuan."

"Pada Agustus, kami memperingatkan bahwa pembuatan gambar xAI pada dasarnya adalah alat nudifikasi yang menunggu untuk dipersenjatai," kata Tyler Johnston, direktur eksekutif The Midas Project, sebuah kelompok pengawas AI yang termasuk di antara penandatangan surat tersebut. "Pada dasarnya itulah yang terjadi."

(Rahman Asmardika)