17 hours ago
14
Jakarta, CNBC Indonesia - Langkah pemerintah Indonesia memutus akses sementara chatbot kecerdasan artifisial Grok milik Elon Musk menjadi sorotan media asing. RI bahkan disebut sebagai negara pertama yang secara tegas memblokir Grok karena kekhawatiran penyebaran konten pornografi berbasis kecerdasan buatan (AI).
Media Reuters menyoroti isu ini dengan judul "Indonesia temporarily blocks access to Grok over sexualised images". Dalam laporannya, Reuters menyebut pemblokiran dilakukan pada Sabtu (10/1/2025) setelah muncul risiko konten pornografi hasil AI, termasuk gambar seksual yang dimanipulasi.
"Indonesia sementara memblokir chatbot Grok milik Elon Musk karena risiko konten pornografi yang dihasilkan AI," tulis Reuters, seraya menyoroti meningkatnya kecaman global terhadap konten seksual di platform tersebut.
Kementerian Komunikasi dan Digital (Komdigi) menegaskan pemutusan akses dilakukan demi melindungi masyarakat, khususnya perempuan dan anak, dari praktik deepfake seksual nonkonsensual.
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," ujar Menteri Komunikasi dan Digital Meutya Hafid dalam keterangan resmi.
Reuters juga mencatat, xAI, perusahaan di balik Grok, mengakui adanya celah pengamanan yang memungkinkan keluarnya konten seksual, termasuk visual anak berpakaian minim. xAI kemudian membatasi fitur pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar.
Elon Musk sendiri menyatakan melalui platform X, siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi hukum yang sama seperti mengunggah konten ilegal lainnya.
Sorotan serupa datang dari media Inggris, The Guardian, lewat artikel berjudul "Indonesia blocks Musk's Grok chatbot due to risk of pornographic content". Media tersebut menekankan bahwa keputusan Indonesia diambil di tengah meningkatnya tekanan global terhadap Grok, menyusul kecaman dari regulator Eropa hingga Asia.
The Guardian juga menyoroti penggunaan Grok untuk memanipulasi gambar perempuan agar tampak telanjang atau berada dalam posisi seksual. Fitur tersebut kini telah dimatikan untuk pengguna gratis.
Isu ini bahkan memicu reaksi pemimpin negara lain. Perdana Menteri Australia Anthony Albanese menyebut penggunaan AI untuk mengeksploitasi individu tanpa persetujuan sebagai tindakan yang "menjijikkan".
"Penggunaan AI generatif untuk mengeksploitasi atau menseksualisasi orang tanpa persetujuan adalah sesuatu yang sangat menjijikkan," ujar Albanese, dikutip The Guardian.
Di dalam negeri, Komdigi menegaskan langkah pemutusan akses Grok dilakukan berdasarkan Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Aturan ini mewajibkan setiap PSE memastikan sistemnya tidak memuat atau menyebarkan konten terlarang.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, juga menyatakan Grok belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," ujar Alexander.
Kemkomdigi juga telah memanggil perwakilan platform X untuk meminta klarifikasi atas dampak negatif penggunaan Grok. Pemerintah menegaskan, akses baru akan dipulihkan setelah platform tersebut memenuhi kewajiban perlindungan pengguna sesuai hukum yang berlaku di Indonesia.
(dce)
[Gambas:Video CNBC]
