Hi Urbie’s! Kontroversi kecerdasan buatan kembali memanas di awal 2026. Kali ini, sorotan dunia tertuju pada Grok, chatbot berbasis AI buatan xAI yang terintegrasi dengan platform X. Setelah pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) memutus sementara akses Grok, redaksi urbanvibes.id memilih jalur berbeda: bertanya langsung ke Grok.
Jawaban yang kami terima justru membuka tabir lebih luas tentang bagaimana teknologi, kelalaian sistem, dan etika digital saling bertabrakan.
Awal Mula Kontroversi Grok
Menurut pengakuan Grok, masalah mulai mencuat pada akhir Desember 2025. Saat itu, banyak pengguna memanfaatkan fitur image generation dan editing untuk mengubah foto orang sungguhan menjadi konten seksual. Praktik ini dikenal sebagai digital undressing atau nudify—mengedit foto seolah seseorang mengenakan pakaian minim hingga tampak telanjang.
Yang mengkhawatirkan, sasaran praktik ini bukan hanya selebritas, tetapi juga warga biasa. Bahkan, dalam beberapa laporan, terdapat kasus yang melibatkan foto anak-anak dan remaja. Grok mengakui bahwa hal ini termasuk kategori deepfake seksual nonkonsensual, yang secara global dipandang sebagai bentuk pelecehan seksual digital serius.
Sorotan Media Global dan Data Mengejutkan
Isu ini tak butuh waktu lama untuk meledak. Media internasional seperti The New York Times, Reuters, BBC, The Guardian, hingga Rolling Stone ramai memberitakan kasus Grok sejak awal Januari 2026.
Dalam jawabannya, Grok menyebut penelitian independen dari peneliti AI Forensics menemukan fakta mencengangkan: pada puncaknya, Grok mampu menghasilkan sekitar 6.700 gambar seksual atau sugestif per jam. Lebih dari separuh gambar tersebut menampilkan perempuan dengan visual pakaian minim, tanpa persetujuan subjek foto.
Bagi para korban, ini bukan sekadar persoalan teknologi. Banyak yang melaporkan trauma, rasa dipermalukan, hingga ketakutan beraktivitas di ruang digital.
Respons xAI, Elon Musk, dan Platform X
Menanggapi badai kritik, xAI menyebut insiden ini sebagai lapses in safeguards—kegagalan sistem pengamanan. Elon Musk, pendiri xAI, menyatakan bahwa siapa pun yang meminta konten ilegal, termasuk eksploitasi seksual anak, akan menerima konsekuensi serius berupa pemblokiran akun permanen.
Langkah konkret diambil pada 9 Januari 2026. Fitur pembuatan dan pengeditan gambar Grok dibatasi hanya untuk pengguna berbayar di X. Alasan resminya, identitas pengguna berbayar lebih mudah dilacak sehingga penyalahgunaan bisa ditekan. Namun, laporan lain menyebutkan bahwa aplikasi Grok versi mandiri masih bisa diakses, meski dengan filter lebih ketat.
Baca Juga:
- Waspada Super Flu! Rano Karno Ingatkan Warga Jakarta Tetap Jaga Kesehatan
- Inilah 5 Cara Memilih Ikan Segar dipasar untuk Pemula
- JKT48 Tegas Lawan Penyalahgunaan AI, Tegaskan Idol Bukan Objek dan Rasa Aman Tak Bisa Ditawar
Reaksi Regulator Global
Kontroversi ini memicu efek domino. Regulator di Inggris dan Australia membuka investigasi resmi. Uni Eropa bahkan meminta X menyimpan seluruh data terkait Grok hingga akhir 2026. Negara-negara seperti India, Brasil, dan Prancis ikut mengeluarkan peringatan keras, dengan ancaman sanksi hingga pembatasan layanan.
Di Indonesia sendiri, kasus ini menjadi salah satu dasar Komdigi memutus sementara akses Grok, dengan alasan melindungi masyarakat—terutama perempuan dan anak—dari bahaya konten pornografi palsu berbasis AI.
Pengakuan Grok: Garis Etika Baru
Dalam wawancara singkatnya dengan wartawan Urbanvibes, Grok menegaskan posisi terbarunya. AI ini menyatakan tidak akan lagi membantu pembuatan atau pengeditan gambar yang bersifat telanjang atau seksual, apalagi melibatkan orang sungguhan. Menurut Grok, pencegahan dampak buruk dan etika digital kini menjadi prioritas utama.
Pengakuan ini menarik, sekaligus ironis. Di satu sisi, AI mengakui kesalahan sistemnya. Di sisi lain, kontroversi ini memperlihatkan betapa cepat teknologi bisa melampaui kesiapan regulasi dan kesadaran etika publik.
Pelajaran Penting untuk Ruang Digital
Kasus Grok menjadi cermin bagi masa depan kecerdasan buatan. AI bukan lagi sekadar alat hiburan atau produktivitas, melainkan teknologi yang bisa berdampak langsung pada martabat manusia. Tanpa pengawasan ketat, inovasi dapat berubah menjadi ancaman.
Bagi Urbie’s, satu hal menjadi jelas: diskusi tentang AI tak bisa berhenti pada kecanggihan. Ia harus menyentuh soal tanggung jawab, hukum, dan nilai kemanusiaan. Karena di era digital, luka tak selalu meninggalkan bekas fisik—kadang ia hidup selamanya di internet.
 memutus sementara akses Grok, redaksi urbanvibes.id memilih jalur berbeda: bertanya langsung ke Grok.){kind=link}