Nasional, BogorUpdate.com, Kementerian Komunikasi dan Digital (Komdigi) RI resmi memblokir fitur Grok di platform media sosial X. Pemblokiran ini dilakukan menyusul maraknya peredaran konten asusila palsu atau deepfake yang dinilai membahayakan, terutama bagi perempuan dan anak-anak.
Sebelum memblokir akses fitur Grok, Komdigi menemukan sejumlah indikasi kuat bahwa teknologi AI atau kecerdasan buatan Grok kerap dimanfaatkan untuk membuat konten manipulatif bernuansa seksual tanpa persetujuan.
Fitur milik Elon Musk itu disebut menjadi salah satu alat yang mempermudah produksi konten deepfake yang merugikan korban.
Menteri Komdigi Meutya Hafid mengatakan bahwa kebijakan ini diambil sebagai bentuk pencegahan dini guna melindungi masyarakat dari praktik penyalahgunaan teknologi di ruang digital.
“Pemerintah memandang deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya dalam keterangan resmi.
Keputusan tersebut langsung menjadi sorotan internasional. Indonesia tercatat sebagai negara pertama yang secara resmi memblokir penggunaan Grok di media sosial X, langkah yang dinilai tegas di tengah pesatnya perkembangan teknologi kecerdasan buatan global.
Grok merupakan asisten berbasis kecerdasan buatan yang dirancang untuk membantu pengguna platform X menjawab pertanyaan, memecahkan persoalan, hingga menghasilkan ide.
Teknologi ini dikembangkan dengan inspirasi dari budaya populer, seperti The Hitchhiker’s Guide to the Galaxy dan karakter JARVIS dalam film Iron Man.
Grok dirancang untuk memberikan jawaban yang informatif, cerdas, dan sesekali diselipi humor.
Namun, dalam praktiknya, fitur ini belakangan dilaporkan kerap disalahgunakan oleh sejumlah pengguna untuk menciptakan konten palsu bermuatan asusila, dengan sasaran utama perempuan dan anak-anak.
Fenomena tersebut mendorong pemerintah mengambil langkah cepat untuk membatasi dampak negatif teknologi, sekaligus membuka diskusi global tentang etika, regulasi, dan tanggung jawab penggunaan AI di media sosial.(ayu/*)
