Indonesia Blokir Sementara Grok AI di X karena Risiko Deepfake Seksual

Jakarta, 10 Januari 2026. Pemerintah Indonesia resmi melakukan pemutusan akses sementara terhadap Grok AI, layanan kecerdasan artifisial milik perusahaan xAI yang terhubung langsung dengan platform X. Kebijakan ini diumumkan Komdigi sebagai langkah pencegahan, menyusul kekhawatiran bahwa fitur tersebut dapat memfasilitasi pembuatan konten deepfake seksual tanpa persetujuan, termasuk yang berpotensi menyasar kelompok rentan seperti perempuan dan anak.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran berat yang bukan sekadar persoalan kesusilaan, melainkan menyangkut martabat, hak asasi, dan rasa aman warga negara di ruang digital. Dalam pernyataan resmi yang dikutip sejumlah media, pemerintah juga mengkategorikan penyalahgunaan AI untuk membuat pornografi palsu sebagai bentuk kekerasan berbasis digital karena dampaknya bisa merambat ke trauma psikologis, kerusakan reputasi, dan ancaman keamanan personal.

Langkah pemblokiran ini disebut bersifat sementara, sambil pemerintah mengevaluasi seberapa kuat perlindungan dan pengamanan yang disiapkan platform untuk mencegah produksi maupun distribusi konten terlarang. Komdigi menekankan bahwa setiap platform digital yang beroperasi di Indonesia wajib membuktikan adanya pagar pengaman yang memadai, bukan hanya mengandalkan mekanisme pelaporan pengguna, terutama ketika risiko penyalahgunaan menyasar korban yang tidak pernah memberikan persetujuan atas penggunaan identitas visual mereka.

Sejalan dengan itu, pemerintah juga melayangkan panggilan resmi kepada Platform X untuk hadir memberikan klarifikasi. Komdigi meminta penjelasan mengenai dampak negatif konfigurasi Grok saat ini dan meminta rencana mitigasi yang konkret, termasuk langkah teknis untuk mencegah penyalahgunaan berulang. Di tahap ini, pemulihan akses disebut bergantung pada komitmen dan tindakan korektif dari pihak platform, bukan sekadar pernyataan normatif.

Dari sisi dasar hukum, Komdigi merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 terkait Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, yang pada intinya mewajibkan operator platform memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang oleh hukum di Indonesia. Dengan kerangka ini, pemerintah menegaskan pemutusan akses dapat dilakukan sebagai tindakan cepat ketika ada risiko yang dinilai mendesak bagi publik.

Kasus Grok juga menjadi perhatian di luar Indonesia. Pada 12 Januari 2026, Malaysia dilaporkan ikut membatasi atau memblokir akses Grok, menjadikannya negara berikutnya setelah Indonesia yang mengambil langkah tegas terkait isu penyalahgunaan AI untuk konten seksual tanpa persetujuan. Sejumlah negara lain juga disebut meningkatkan pengawasan, dari peringatan regulator sampai investigasi, karena kekhawatiran bahwa perlindungan yang ada belum cukup menahan penyebaran materi manipulatif yang merugikan korban.

Di Indonesia, otoritas menilai situasi ini tidak bisa dipandang sebagai tren sesaat. Selain aspek regulasi terhadap platform, penegakan hukum juga disorot karena penyebaran konten manipulatif dapat masuk kategori tindak pidana, terutama bila dibuat atau disebarkan tanpa persetujuan pemilik data/identitas visual. Pemerintah mendorong korban untuk melapor dan meminta platform mengambil tanggung jawab yang lebih besar, mengingat dampak sosialnya bisa terjadi sangat cepat di ekosistem media sosial.

Sebagai salah satu pasar besar untuk X, Indonesia menilai kepatuhan platform terhadap standar keselamatan digital tidak bisa ditawar. Jakarta Globe, mengutip data Statista, menyebut pengguna X di Indonesia berada di kisaran puluhan juta, sehingga risiko penyalahgunaan dan skala dampaknya juga berpotensi luas. Karena itu, kebijakan pemblokiran sementara diposisikan sebagai langkah protektif sampai ada mekanisme pengamanan yang dianggap memadai.