Bahaya Gambar Telanjang Palsu Buatan AI: Netizen Perlu Waspada

nulondalo.com – Kemajuan kecerdasan buatan (Artificial Intelligence/AI) telah membuka banyak peluang positif dalam dunia digital. Namun, di sisi lain, teknologi ini juga menghadirkan ancaman serius terhadap privasi dan martabat manusia. Salah satu bentuk penyalahgunaan yang kini menjadi sorotan global adalah pembuatan gambar telanjang palsu atau berpakaian minim menggunakan AI, tanpa persetujuan subjeknya.

Isu ini kembali mengemuka setelah laporan BBC mengungkap bahwa Kate Middleton, Putri Wales, menjadi salah satu tokoh publik yang dilaporkan sebagai sasaran objek gambar telanjang palsu atau berpakaian minim yang dibuat menggunakan Grok, chatbot kecerdasan buatan milik platform X.

Fakta Terungkap: Permintaan Manipulasi Gambar Tanpa Izin

Dalam laporannya pada Selasa, 6 Januari 2026, BBC menyebut telah melihat sejumlah contoh di platform X, di mana pengguna meminta Grok untuk mengubah gambar asli perempuan agar tampak mengenakan bikini atau ditempatkan dalam situasi seksual—tanpa persetujuan mereka. Praktik ini tidak hanya menyasar figur publik, tetapi juga jurnalis dan individu lainnya.

Kate Middleton dilaporkan menjadi salah satu sasaran permintaan tersebut. Selain itu, jurnalis Samantha Smith mengungkapkan kepada BBC bahwa melihat gambar-gambar manipulatif itu membuatnya merasa “direndahkan martabatnya dan direduksi menjadi stereotip seksual”.

“Meskipun bukan saya yang telanjang, gambar itu tampak seperti saya, terasa seperti saya, dan melanggarnya terasa sama seperti jika seseorang benar-benar mengunggah foto telanjang saya,” ujarnya.

Yang lebih mengkhawatirkan, tangkapan layar yang beredar juga menunjukkan adanya permintaan kepada Grok untuk membuat gambar Nell Fisher, bintang serial Stranger Things berusia 14 tahun, dalam balutan bikini. Fakta ini menimbulkan kekhawatiran serius terkait perlindungan anak di era AI.

Reaksi Pemerintah Inggris dan Regulator

Menanggapi laporan tersebut, Menteri Teknologi Inggris Liz Kendall mendesak tindakan segera dan mendorong Ofcom, otoritas pengatur industri komunikasi Inggris, untuk mengambil langkah penegakan hukum yang diperlukan.

“Kita tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan dan menghina ini, yang secara tidak proporsional ditujukan kepada perempuan dan anak perempuan,” tegas Kendall, seperti dikutip The Guardian. Ia menegaskan Inggris tidak akan menoleransi penyebaran materi yang menjijikkan dan kasar di ruang daring.

Hingga kini, Istana Buckingham belum memberikan komentar resmi terkait keterlibatan nama Kate Middleton dalam kasus tersebut.

Sejak diluncurkan pada November 2023, Grok memang kerap menuai kontroversi, termasuk laporan bahwa AI tersebut menjawab pertanyaan dengan informasi keliru atau teori konspirasi. Menanggapi isu gambar tidak pantas, akun keamanan X pada 4 Januari 2026 menyatakan bahwa mereka mengambil tindakan terhadap konten ilegal, termasuk Materi Pelecehan Seksual Anak (CSAM), dengan menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan penegak hukum.

Elon Musk selaku pemilik X juga menegaskan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung.

Bagi Kate Middleton, kasus ini bukan pengalaman pertama. Pada 2012, foto dirinya yang sedang berjemur tanpa busana di Prancis Selatan diambil dari jarak jauh dan dipublikasikan tanpa izin. Istana kala itu menyebut tindakan tersebut “tidak dapat dibenarkan” dan mengajukan gugatan hukum. Pengadilan kemudian memutuskan ganti rugi sebesar 100.000 euro.

Sejak kejadian itu, Kate dikenal aktif menyuarakan pentingnya keamanan dan moderasi internet, terutama bagi anak-anak. Pada Oktober 2025, ia bahkan ikut menulis esai bersama profesor Harvard Robert Waldinger tentang dampak teknologi terhadap hubungan manusia dan kesehatan mental.

Netizen di Persimpangan Etika Digital

Kasus ini menegaskan bahwa bahaya AI tidak hanya terletak pada teknologi itu sendiri, melainkan pada cara manusia menggunakannya. Netizen memiliki peran krusial: memilih untuk menghentikan atau justru melanggengkan kejahatan digital.

Membagikan, menyimpan, atau sekadar menormalisasi gambar manipulatif—meski atas nama rasa ingin tahu—berarti ikut melukai korban. Di era AI, etika digital bukan lagi pilihan, melainkan keharusan.

Kemajuan teknologi seharusnya berjalan beriringan dengan perlindungan martabat manusia. Ketika gambar bisa direkayasa sedemikian rupa, kewaspadaan, literasi digital, dan penegakan hukum menjadi benteng terakhir.

Kasus Kate Middleton menjadi pengingat bahwa siapa pun bisa menjadi korban, dan bahwa tanggung jawab menjaga ruang digital yang aman adalah tugas bersama—platform, pemerintah, dan masyarakat.