Konten pornografi buatan kecerdasan buatan (AI) tengah ramai diperbincangkan di media sosial X. Sejumlah warganet menyoroti penggunaan fitur perintah (prompt) pada Grok AI yang dimanfaatkan untuk mengubah foto seseorang atau ilustrasi menjadi konten bernuansa pornografi.
Keramaian tersebut memicu kritik dari berbagai pihak. Praktik pemanfaatan AI untuk mengubah foto atau ilustrasi menjadi konten pornografi dinilai bermasalah karena melanggar privasi serta membuka ruang terjadinya kekerasan berbasis gender.
Menanggapi fenomena tersebut, Ketua Pusat Studi Gender Universitas Jember, Dr. Linda Dwi Eriyanti menegaskan bahwa pornografi yang dibuat dengan teknologi AI termasuk bentuk kekerasan berbasis gender, terutama jika dilakukan tanpa persetujuan pihak yang menjadi objek.
SCROLL TO CONTINUE WITH CONTENT
"Ketika tubuh dan identitas seseorang dipakai tanpa izin, digunakan konten porno, disebar ke mana-mana, dan korbannya sama sekali tidak punya kendali, maka ini melanggar hak atas tubuh dan martabat mereka," jelas Linda kepada detikJatim pada Senin, (26/1/2026).
Linda juga menjelaskan bahwa perempuan dan anak perempuan yang seringkali menjadi korban dari pornografi berbasis AI. Penyebabnya karena budaya patriarki yang masih kuat, perempuan masih sering dianggap bebas untuk dikomentari, dinilai, bahkan di eksploitasi
Selain itu, masih banyak masyarakat yang belum menyadari bahwa teknologi AI dapat digunakan untuk hal-hal yang merugikan dan menyakiti orang lain.
"Foto-foto perempuan di media sosial yang sebenarnya wajar dan biasa saja, dengan mudah disalahgunakan," tambahnya.
Dampak yang dialami para korban beragam dan tidak berhenti pada rasa malu semata. Korban kerap mengalami trauma psikologis, seperti rasa takut dan cemas yang berkepanjangan, kehilangan rasa aman, hingga memilih menarik diri dari lingkungan sosial maupun aktivitas di media sosial.
Di sisi lain, stigma masyarakat masih kuat, sehingga korban justru kerap disalahkan meski mereka sama sekali tidak melakukan kesalahan.
Menurutnya, aturan hukum di Indonesia belum sepenuhnya cukup untuk melindungi korban kekerasan berbasis teknologi AI.
"Memang sudah ada UU TPKS dan UU ITE, tapi dalam praktiknya korban masih sering kesulitan. Penanganan kasusnya belum selalu berpihak ke korban, dan hukum kita masih tertinggal dibanding perkembangan teknologi AI yang sangat cepat," ujarnya.
Negara dan platform digital dinilai perlu lebih serius merespons penyalahgunaan teknologi AI. Regulasi yang tegas, pemahaman aparat soal kekerasan berbasis gender, serta sistem pelaporan dan moderasi konten yang ketat di platform digital dinilai penting untuk melindungi korban.
"Teknologi seharusnya membuat kehidupan lebih aman, beradab, dan berperikemanusiaan, bukan justru menjadi alat baru yang menyakiti perempuan," pungkasnya.
(auh/hil)
