JAKARTA, Perspektif.co.id - Platform X (dulu Twitter) kembali disorot setelah chatbot kecerdasan buatan (AI) bawaannya, Grok, dituding memfasilitasi manipulasi foto perempuan menjadi gambar bernuansa seksual tanpa persetujuan pemilik foto. Polemik ini mencuat usai kisah Julie Yukari, musisi asal Rio de Janeiro, yang mengunggah foto pribadinya menjelang pergantian tahun—berbusana gaun merah dan bersantai di tempat tidur bersama kucing hitamnya—namun kemudian mendapati pengguna lain meminta Grok mengubah fotonya menjadi tampak hanya mengenakan pakaian yang jauh lebih minim.
Yukari mengaku semula mengira permintaan semacam itu tidak akan dipenuhi sistem AI. “I was naive,” kata perempuan 31 tahun tersebut kepada Reuters. Tak lama kemudian, versi gambar hasil AI yang membuatnya terlihat nyaris telanjang beredar luas di X, memicu gelombang kemarahan sekaligus kekhawatiran soal keamanan produk AI yang terintegrasi langsung ke platform media sosial.
Temuan Reuters menunjukkan pengalaman Yukari bukan kasus tunggal. Dalam analisis singkat, Reuters menilai tren “penelanjangan digital” melalui Grok terjadi secara masif di X. Reuters juga menyatakan menemukan beberapa kasus di mana Grok menghasilkan gambar seksual terhadap anak-anak—isu yang jauh lebih serius karena berpotensi terkait konten ilegal.
Dalam peninjauan selama 10 menit pada Jumat (2/1) siang waktu Amerika Serikat, Reuters menghitung 102 upaya pengguna X meminta Grok menyunting foto orang lain agar tampak memakai pakaian renang/minim. Mayoritas targetnya adalah perempuan muda, namun ada pula figur publik dan target lain. Reuters menyebut Grok sepenuhnya memenuhi permintaan semacam itu dalam setidaknya 21 kasus, serta sebagian memenuhi dalam tujuh kasus lain, misalnya mengganti pakaian menjadi lebih minim namun tidak melanjutkan permintaan lanjutan yang lebih ekstrem.
Reuters juga mencatat banyak permintaan semacam itu menghilang dari X dalam waktu sekitar 90 menit setelah diposting.
Kasus ini merambat ke ranah diplomatik dan penegakan hukum. Di Prancis, sejumlah menteri melaporkan X kepada jaksa dan regulator, menyebut konten “seksual dan seksis” yang beredar sebagai “manifestly illegal”. Pemerintah Prancis juga mengadukan materi tersebut ke regulator media Arcom untuk menilai kepatuhan terhadap Digital Services Act (DSA) Uni Eropa.
Di India, Kementerian TI setempat melayangkan surat kepada unit lokal X. Dalam laporan Reuters, kementerian menilai X gagal mencegah penyalahgunaan Grok yang menghasilkan serta menyebarkan konten cabul dan eksplisit.
Sorotan juga tertuju pada respons perusahaan AI milik Elon Musk, xAI. Reuters melaporkan bahwa saat dimintai komentar terkait temuan konten seksual termasuk yang melibatkan anak-anak, xAI merespons singkat: “Legacy Media Lies.” (Reuters) Sementara itu, dalam konteks terpisah yang dikutip Reuters, Grok menyebut adanya kelonggaran (lapses) pada sistem pengaman yang menyebabkan munculnya “gambar anak-anak dengan pakaian minimal” dan menyatakan perbaikan sedang dilakukan untuk mencegah kejadian serupa.
Fenomena ini dinilai para pengamat sebenarnya sudah bisa diprediksi. Reuters menulis, alat AI yang dapat memanipulasi foto menjadi tampak “ditelanjangi” sudah lama ada di internet, tetapi biasanya berada di ruang yang lebih tertutup dan memerlukan upaya lebih besar. Integrasi fitur pengeditan gambar berbasis perintah teks di platform arus utama dinilai menurunkan hambatan, sehingga lebih mudah disalahgunakan.
Tyler Johnston, Direktur Eksekutif The Midas Project, mengatakan kelompoknya sudah memperingatkan potensi penyalahgunaan tersebut. “In August, we warned that xAI's image generation was essentially a nudification tool waiting to be weaponized,” ujarnya. (Reuters) Sementara Dani Pinter dari National Center on Sexual Exploitation menilai persoalan ini seharusnya bisa dicegah. “This was an entirely predictable and avoidable atrocity,” kata Pinter.
Bagi Yukari, dampaknya bukan hanya soal reputasi digital, melainkan juga tekanan psikologis. Ia mengatakan protes yang ia sampaikan di X justru memicu serangan balik—semakin banyak akun mencoba meminta Grok menghasilkan versi gambar yang lebih eksplisit. Yukari menggambarkan awal tahun barunya sebagai situasi ingin bersembunyi dari semua orang dan merasa malu atas “tubuh” yang bahkan bukan miliknya karena dibuat oleh AI.
