4 hours ago
1
Jakarta, CNBC Indonesia - Grok, chatbot berbasis kecerdasan artifisial (AI) milik Elon Musk, sedang menjadi sorotan global setelah fitur pembuat gambarnya digunakan untuk menghasilkan konten seksual nonkonsensual.
Tekanan regulasi datang dari berbagai negara termasuk Uni Eropa, sementara pemerintah Indonesia mengambil langkah tegas dengan memblokir sementara akses ke aplikasi tersebut.
Sebelumnya, pengguna di platform X dapat meminta Grok untuk mengedit foto orang lain, termasuk menghapus pakaian dan menempatkannya dalam pose seksual. Gambar-gambar tersebut kemudian muncul otomatis sebagai balasan Grok di linimasa X, sering kali tanpa persetujuan subjek dalam foto.
Setelah mendapat kritik tajam, xAI selaku pengembang Grok mengumumkan bahwa fitur pembuatan dan pengeditan gambar kini hanya tersedia bagi pelanggan berbayar. Pembatasan ini dinilai sebagai langkah darurat untuk mengendalikan penyalahgunaan.
Mengutip Reuters, Musk mengatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah materi tersebut secara langsung.
Meski demikian, regulator global menilai perubahan tersebut belum menyelesaikan isu substansial. Komisi Eropa menilai penyebaran konten seksual nonkonsensual, termasuk yang melibatkan perempuan dan anak, sebagai tindakan ilegal dan menjijikkan.
"Berbayar atau tidak berbayar, kami tidak ingin melihat gambar seperti itu," tegas juru bicara Komisi.
Sementara itu, pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) turut bergerak cepat. Menteri Komunikasi dan Digital Meutya Hafid mengonfirmasi bahwa pemerintah telah melakukan pemutusan akses sementara terhadap aplikasi Grok di Indonesia.
Menkomdigi mengatakan langkah tersebut diambil demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," katanya dalam keterangan resmi pada Sabtu (10/1/2025).
Selain pemutusan akses, Kemkomdigi juga telah memanggil platform X untuk memberikan klarifikasi mengenai dampak negatif penggunaan Grok.
Adapun tindakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
(fab/fab)
[Gambas:Video CNBC]
