JAVANEWS.ID – Kementerian Komunikasi dan Digital (Kemkomdigi) mengeluarkan peringatan keras terkait dugaan penyalahgunaan Grok AI di platform X.
Teknologi kecerdasan buatan itu diduga dimanfaatkan untuk membuat dan menyebarkan konten asusila berbasis manipulasi foto pribadi, termasuk deepfake yang merampas hak atas citra diri seseorang.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem pengaman yang memadai untuk mencegah produksi konten pornografi berbasis foto nyata.
“Ini bukan sekadar soal kesusilaan. Manipulasi foto pribadi adalah perampasan kendali atas identitas visual warga. Dampaknya bisa menghancurkan psikologis, reputasi, bahkan kehidupan sosial korban,” ujar Alexander, Rabu 7 Januari 2026.
Kemkomdigi kini berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme pelindungan yang efektif.
Langkah itu mencakup penguatan moderasi konten, pencegahan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi.
Alexander menegaskan, setiap PSE wajib patuh pada hukum Indonesia. Jika terbukti lalai atau tidak kooperatif, pemerintah bisa menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
Sejak KUHP baru berlaku pada 2 Januari 2026, konten pornografi diatur dalam Pasal 172 dan Pasal 407 dengan ancaman pidana penjara 6 bulan hingga 10 tahun. Korban manipulasi foto atau deepfake dapat melapor ke aparat penegak hukum maupun Kemkomdigi.
“Ruang digital bukan ruang bebas hukum. Privasi dan martabat warga adalah garis merah yang tidak boleh dilanggar,” tegas Alexander.
