Grok, AI milik Elon Musk, terjerat kontroversi setelah fitur pengeditan gambar digunakan untuk membuat deepfake seksual. | Unsplash/Salvador Rios

Grok, chatbot kecerdasan buatan milik xAI yang dikembangkan oleh Elon Musk, kini menjadi sorotan internasional setelah fitur pengeditan gambarnya dieksploitasi untuk membuat deepfake bernuansa seksual terhadap perempuan dan anak di bawah umur tanpa persetujuan. Kejadian ini mendorong tindakan tegas dari pemerintah di berbagai negara, yang memicu perdebatan tentang pengawasan dan keamanan dalam pengembangan teknologi AI.

Pada 2 Januari, Kementerian Elektronika dan Teknologi Informasi India memberikan ultimatum kepada X, platform yang mengelola Grok, untuk menghapus konten eksplisit yang dihasilkan oleh AI tersebut. Pemerintah India juga meminta X untuk menyerahkan rencana tindakan terperinci dalam waktu 72 jam. 

Pada 4 Januari, Komisi Komunikasi dan Multimedia Malaysia mengumumkan akan melakukan penyelidikan terhadap X terkait konten yang dianggap "tidak senonoh dan membahayakan". Di Prancis, kantor kejaksaan Paris memperluas penyelidikan terhadap X untuk mengusut kemungkinan penyebaran pornografi anak.

Kontroversi ini bermula setelah X meluncurkan fitur baru pada akhir Desember 2025 yang memungkinkan pengguna mengedit gambar menggunakan perintah teks. Fitur ini dengan cepat dimanfaatkan untuk membuat gambar-gambar yang merendahkan martabat manusia, seperti mengubah pakaian wanita menjadi bikini atau bahkan menciptakan gambar seksual terhadap anak-anak. Reuters melaporkan lebih dari 100 permintaan manipulasi gambar dalam waktu kurang dari sepuluh menit, dengan sebagian besar gambar bertema seksual.

Pada 3 Januari, Elon Musk mengomentari situasi tersebut melalui X, menegaskan bahwa setiap pengguna yang memanfaatkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang setara dengan pelaku penyebaran konten ilegal. Pernyataan Musk ini menyusul desakan internasional untuk lebih mengawasi dan mengendalikan penggunaan teknologi AI ini.

Beberapa negara Eropa, seperti Prancis, menilai bahwa Grok telah melanggar Undang-Undang Layanan Digital Uni Eropa karena memfasilitasi penyebaran konten ilegal secara publik. 

"Konten yang mengandung unsur seksual dan seksis sangat jelas ilegal," ujar pejabat Prancis dalam laporan kepada regulator media Arcom.

Sebagai tanggapan, pihak xAI mengakui adanya "kasus-kasus terisolasi" yang menyebabkan gambar AI menunjukkan anak-anak dengan pakaian minim. Mereka menekankan bahwa mereka sedang memperbaiki sistem perlindungan untuk menghindari kejadian serupa. 

Namun, peringatan telah datang jauh sebelumnya. Tyler Johnston, Direktur Eksekutif The Midas Project, menyatakan bahwa pihaknya telah memperingatkan xAI pada Agustus 2025 tentang potensi risiko fitur pengeditan gambar tersebut, yang menurutnya dapat dengan mudah digunakan untuk menciptakan konten ilegal. 

“Pada bulan Agustus, kami telah memperingatkan bahwa generator gambar xAI pada dasarnya adalah alat nudifikasi yang menunggu untuk dipersenjatai,” kata Johnston.

Menanggapi situasi ini, xAI berjanji untuk menghapus konten ilegal secara cepat, menangguhkan permanen akun-akun yang melanggar, dan bekerja sama dengan penegak hukum untuk menangani pelanggaran tersebut. Meski demikian, efek jangka panjang dari insiden ini memperjelas tantangan yang semakin besar dalam pengawasan dan regulasi teknologi AI yang berkembang pesat.

Pemerintah India mengingatkan bahwa kegagalan dalam memenuhi permintaan untuk menghapus konten bisa membuat X kehilangan perlindungan hukum di bawah Pasal 79 Undang-Undang Teknologi Informasi India, yang mengatur platform digital terkait tanggung jawab atas konten yang dipublikasikan oleh penggunanya. Ini bisa membuka jalan bagi tuntutan hukum lebih lanjut.

Ketegangan ini semakin menunjukkan betapa pentingnya pengawasan dan regulasi yang lebih ketat terhadap teknologi yang semakin mendalam dalam kehidupan sehari-hari.