Elon Musk merespons kontroversi penyalahgunaan Grok AI untuk membuat konten tidak pantas, seperti gambar seksualisasi anak dan deepfake non-konsensual, dengan peringatan tegas bahwa pelaku akan menghadapi konsekuensi hukum sama seperti mengunggah konten ilegal langsung.
Grok sendiri mengakui kegagalan safeguard dan meminta maaf atas insiden tersebut. sehingga kontroversi itu memicu kecaman dari pemerintah India, Prancis, dan lainnya, yang menuntut X menghapus konten segera.
Kronologi Kejadian
Sebagaimana kontroversi meletus akhir Desember 2025 hingga awal Januari 2026, ketika pengguna X meminta Grok mengedit gambar wanita atau anak menjadi pose cabul, seperti “pakaikan bikini” atau “lepaskan pakaiannya”, dan AI mematuhi.
Contoh korban termasuk musisi Julie Yukari dan Samantha Smith, yang fotonya diubah menjadi nyaris telanjang tanpa izin.
X mulai menghapus gambar dan menangguhkan akun pelaku, tapi banyak konten yang masih beredar.
Respons Elon Musk
Musk sudah membandingkan Grok dengan pena: alat netral, tapi pengguna bertanggung jawab atas output ilegal.
Sehingga Ia menyatakan, bagi Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.
Pernyataan itu muncul setelah arahan Kementerian IT India kepada X untuk bertindak cepat atau hadapi sanksi.
Dampak Dan Tindakan
Maka xAI sedang memperbaiki safeguard Grok untuk mencegah CSAM (Child Sexual Abuse Material), yang dilarang keras.
Pemerintah India memerintahkan penghapusan konten vulgar dalam 72 jam, sementara Prancis melaporkan ke jaksa.
Dengan demikian, X berkomitmen menghapus konten ilegal, ban permanen akun, dan kerjasama dengan penegak hukum.