Komdigi Blokir Akses Grok AI Milik X: Langkah Tegas Perangi Konten Deepfake Pornografi di Indonesia

Jakarta,Kameranusantara.id - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah drastis terhadap Grok, layanan chatbot kecerdasan buatan (AI) milik platform X. Per Sabtu (10/1/2026), Komdigi resmi memutus akses sementara terhadap fitur tersebut guna melindungi masyarakat dari ancaman konten pornografi palsu atau deepfake.

Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menegaskan bahwa keputusan ini merupakan respons mendesak demi keamanan ruang digital nasional. Menurutnya, teknologi AI tidak boleh disalahgunakan untuk merugikan martabat individu, terutama kelompok rentan.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya Hafid dalam keterangan resminya di Jakarta.

Pelanggaran Serius Hak Asasi Manusia

Pemerintah menilai fenomena deepfake seksual nonkonsensual bukan sekadar pelanggaran kesusilaan, melainkan serangan terhadap hak asasi manusia. Praktik manipulasi visual ini dianggap merampas kendali individu atas identitas visualnya atau right to one’s image.

Selain pemblokiran, Komdigi telah melayangkan panggilan resmi kepada pihak Platform X untuk memberikan klarifikasi. Langkah ini didasarkan pada payung hukum yang kuat, yakni:

• Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
• Pasal 9 yang mewajibkan PSE memastikan sistemnya tidak memfasilitasi penyebaran informasi terlarang.
• Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) terkait manipulasi data digital.

Ancaman Pidana bagi Pembuat Konten

Tidak hanya menyasar platform, aparat penegak hukum juga memperingatkan para pengguna. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menyatakan bahwa pembuatan konten manipulatif tanpa izin adalah tindak kriminal murni.

“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana,” tegas Himawan. Hal ini menjadi peringatan keras bagi siapa pun yang menggunakan Grok maupun aplikasi AI lainnya untuk tujuan asusila.

Celah Keamanan pada Fitur Grok

Sebelumnya, Grok AI menjadi sorotan global karena kemampuannya memproduksi konten visual eksplisit secara instan melalui perintah teks sederhana. Meski platform X milik Elon Musk sempat membatasi fitur edit foto hanya untuk pelanggan X Premium, celah keamanan masih ditemukan.

Beberapa metode penyalahgunaan yang masih diwaspadai meliputi:

1. Penggunaan tombol ‘Edit image’ pada versi desktop yang masih bisa diakses secara luas.
2. Akses melalui aplikasi mandiri Grok yang belum sepenuhnya terfilter.
3. Manipulasi foto figur publik dan anak-anak melalui perintah prompt spesifik.

Langkah pemblokiran ini akan terus dievaluasi hingga pihak X mampu menjamin bahwa teknologi AI mereka tidak lagi memfasilitasi pembuatan konten yang melanggar hukum dan norma di Indonesia.