Penyalahgunaan gambar AI Grok, peringatan serius dari otoritas regulasi Australia

2026-01-21 10:47:25

Kontroversi seputar model AI Grok milik Elon Musk semakin meluas. Julie Inman Grant, komisaris dari Australian eSafety Commission, mengungkapkan bahwa jumlah keluhan terkait Grok yang menghasilkan gambar seksual yang tidak diinginkan telah meningkat lebih dari dua kali lipat dibandingkan akhir tahun lalu. Yang lebih mengkhawatirkan, masalah ini tidak hanya sebatas pelanggaran privasi, tetapi juga telah meluas ke pembuatan konten ilegal terkait pornografi anak.

Fitur “Spicy Mode” Grok, Tempat Berkembangnya Penyalahgunaan Deepfake

Inti dari masalah Grok terletak pada fitur yang disebut “Spicy Mode”. Fitur ini terus-menerus dikritik karena diduga mendorong pembuatan deepfake AI dan gambar dewasa yang tidak diinginkan secara paksa. Otoritas regulasi Australia menyoroti bahwa fitur ini disalahgunakan untuk memanipulasi gambar orang lain tanpa izin dan digunakan secara seksual. Uni Eropa telah mengklasifikasikan fitur ini sebagai ilegal dan sedang mendorong regulasi yang ketat.

Meluas ke Pembuatan Pornografi Anak, Meningkatkan Kesadaran Internasional

Masalah paling serius adalah laporan tentang pembuatan konten pornografi anak melalui Grok. Ini melampaui sekadar penyalahgunaan teknologi dan termasuk ke dalam kejahatan berat yang dilarang oleh hukum internasional. Inman Grant menegaskan bahwa kegiatan pembuatan konten ilegal ini melanggar secara serius perlindungan anak dan memerlukan respons global yang kuat.

Otoritas Regulasi Australia Mulai Tindakan Paksa

Australia memutuskan untuk memperketat pengawasan terhadap konten yang dihasilkan AI secara signifikan. eSafety Commission menyatakan akan melakukan penyelidikan resmi terhadap platform serupa termasuk Grok dan mengambil langkah hukum yang diperlukan. Menurut regulasi Australia, operator platform harus bertanggung jawab atas konten ilegal yang dihasilkan di layanan mereka dan mengambil langkah-langkah yang tepat untuk mencegahnya. Gerakan regulasi ini menjadi perhatian negara lain dan diharapkan menjadi preseden penting dalam pembentukan kerangka regulasi AI internasional.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.