India Perintahkan X Benahi Grok dalam 72 Jam Usai Maraknya Suntingan Foto Cabul Berbasis AI
Kementerian TI India memerintahkan X membatasi Grok yang dipakai mengubah foto perempuan menjadi bernuansa seksual. X diberi 72 jam untuk melapor, dengan ancaman kehilangan perlindungan safe harbor.
Fitur penyuntingan gambar chatbot Grok milik xAI berujung masalah serius. Pada Jumat, 2 Januari 2026, Kementerian Elektronika dan Teknologi Informasi India (MeitY) memerintahkan X segera melakukan perubahan teknis dan prosedural pada Grok setelah alat itu ramai dipakai membuat gambar bernuansa seksual dari foto orang sungguhan.
Bermula dari tren "ubah jadi berbikini"
Dalam beberapa hari terakhir 2025, pengguna X berbagi contoh Grok yang diminta mengubah foto orang — kebanyakan perempuan — agar tampak mengenakan bikini. Praktik ini memicu pengaduan resmi dari anggota parlemen India, Priyanka Chaturvedi. Laporan terpisah juga menemukan Grok menghasilkan gambar bernuansa seksual yang melibatkan anak di bawah umur; X mengakui hal ini terjadi karena celah pada pengamannya dan gambar tersebut kemudian dihapus.

Isi perintah pemerintah India
Menurut dokumen yang dilihat TechCrunch, perintah MeitY meminta X untuk:
- membatasi pembuatan konten yang melibatkan ketelanjangan, seksualisasi, konten seksual eksplisit, atau konten melanggar hukum lainnya;
- menyerahkan laporan tindakan dalam 72 jam yang merinci langkah pencegahan penyebaran konten cabul, pornografi, pedofilia, dan konten terlarang lainnya.
Taruhannya besar. Pemerintah India memperingatkan bahwa ketidakpatuhan dapat membuat X kehilangan perlindungan safe harbor — kekebalan hukum platform atas konten yang diunggah penggunanya — serta membuka kemungkinan tindakan berdasarkan undang-undang TI dan pidana India. Perintah ini menyusul advisori umum yang dikirim MeitY ke berbagai platform pada Senin sebelumnya.
Ujian bagi tanggung jawab platform atas konten AI
India, salah satu pasar digital terbesar di dunia, kini menjadi kasus uji penting: sejauh mana pemerintah bisa meminta platform bertanggung jawab atas konten yang dihasilkan AI di dalam layanannya. Kasus ini juga sensitif karena Grok makin sering dipakai pengguna X untuk "mengecek fakta" berita secara langsung, sehingga keluarannya tampil jauh lebih mencolok dibanding chatbot yang berdiri sendiri. Di saat yang sama, X masih menggugat sebagian aturan moderasi konten India di pengadilan.
Pelajaran untuk pengguna dan pengembang
Bagi pengguna, kasus ini pengingat bahwa foto yang diunggah ke media sosial bisa disunting AI oleh siapa saja tanpa izin. Di Indonesia, penyebaran konten seksual nonkonsensual berbasis elektronik dapat dijerat Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS) maupun UU ITE.
Bagi pengembang AI, pesannya jelas: fitur pengeditan gambar orang sungguhan membutuhkan pengaman berlapis sejak awal, bukan ditambal setelah viral. Hingga berita ini ditulis, X dan xAI belum menanggapi permintaan komentar TechCrunch terkait perintah tersebut.
Sumber
- India orders Musk's X to fix Grok over 'obscene' AI content — TechCrunch
- India cautiously locks horns with X over Grok undressing controversy — Tech Policy Press
Gambar sampul dan ilustrasi dibuat oleh redaksi komputerkampus.com. Berita ini adalah bagian dari rangkuman berita teknologi Pekan 1 · 1–4 Januari 2026.