Lewati ke isi
Minggu, 22 November 2026 Tutorial & berita teknologi Tentang Kontak
Komputerkampus.com
Berita Kecerdasan Buatan

India Perintahkan X Benahi Grok dalam 72 Jam Usai Maraknya Suntingan Foto Cabul Berbasis AI

Kementerian TI India memerintahkan X membatasi Grok yang dipakai mengubah foto perempuan menjadi bernuansa seksual. X diberi 72 jam untuk melapor, dengan ancaman kehilangan perlindungan safe harbor.

Sampul berita: India perintahkan X membenahi Grok

Fitur penyuntingan gambar chatbot Grok milik xAI berujung masalah serius. Pada Jumat, 2 Januari 2026, Kementerian Elektronika dan Teknologi Informasi India (MeitY) memerintahkan X segera melakukan perubahan teknis dan prosedural pada Grok setelah alat itu ramai dipakai membuat gambar bernuansa seksual dari foto orang sungguhan.

Bermula dari tren "ubah jadi berbikini"

Dalam beberapa hari terakhir 2025, pengguna X berbagi contoh Grok yang diminta mengubah foto orang — kebanyakan perempuan — agar tampak mengenakan bikini. Praktik ini memicu pengaduan resmi dari anggota parlemen India, Priyanka Chaturvedi. Laporan terpisah juga menemukan Grok menghasilkan gambar bernuansa seksual yang melibatkan anak di bawah umur; X mengakui hal ini terjadi karena celah pada pengamannya dan gambar tersebut kemudian dihapus.

Linimasa kasus suntingan foto Grok di India dari akhir Desember 2025 hingga 2 Januari 2026

Isi perintah pemerintah India

Menurut dokumen yang dilihat TechCrunch, perintah MeitY meminta X untuk:

  • membatasi pembuatan konten yang melibatkan ketelanjangan, seksualisasi, konten seksual eksplisit, atau konten melanggar hukum lainnya;
  • menyerahkan laporan tindakan dalam 72 jam yang merinci langkah pencegahan penyebaran konten cabul, pornografi, pedofilia, dan konten terlarang lainnya.

Taruhannya besar. Pemerintah India memperingatkan bahwa ketidakpatuhan dapat membuat X kehilangan perlindungan safe harbor — kekebalan hukum platform atas konten yang diunggah penggunanya — serta membuka kemungkinan tindakan berdasarkan undang-undang TI dan pidana India. Perintah ini menyusul advisori umum yang dikirim MeitY ke berbagai platform pada Senin sebelumnya.

Ujian bagi tanggung jawab platform atas konten AI

India, salah satu pasar digital terbesar di dunia, kini menjadi kasus uji penting: sejauh mana pemerintah bisa meminta platform bertanggung jawab atas konten yang dihasilkan AI di dalam layanannya. Kasus ini juga sensitif karena Grok makin sering dipakai pengguna X untuk "mengecek fakta" berita secara langsung, sehingga keluarannya tampil jauh lebih mencolok dibanding chatbot yang berdiri sendiri. Di saat yang sama, X masih menggugat sebagian aturan moderasi konten India di pengadilan.

Pelajaran untuk pengguna dan pengembang

Bagi pengguna, kasus ini pengingat bahwa foto yang diunggah ke media sosial bisa disunting AI oleh siapa saja tanpa izin. Di Indonesia, penyebaran konten seksual nonkonsensual berbasis elektronik dapat dijerat Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS) maupun UU ITE.

Bagi pengembang AI, pesannya jelas: fitur pengeditan gambar orang sungguhan membutuhkan pengaman berlapis sejak awal, bukan ditambal setelah viral. Hingga berita ini ditulis, X dan xAI belum menanggapi permintaan komentar TechCrunch terkait perintah tersebut.

Sumber

Gambar sampul dan ilustrasi dibuat oleh redaksi komputerkampus.com. Berita ini adalah bagian dari rangkuman berita teknologi Pekan 1 · 1–4 Januari 2026.

Tentang penulis

komputerkampus.com
komputerkampus.com

Redaksi Berita Teknologi

Akun redaksi komputerkampus.com. Setiap pekan merangkum sepuluh berita teknologi yang paling ramai dibicarakan: celah keamanan (CVE) di PHP, Nginx, Node.js dan perangkat lunak populer, rilis model dan fitur AI terbaru, p...

Tulisan lainnya

Terkait