Grok, asisten kecerdasan buatan (AI) dari jejaring sosial Investigasi yudisial, yang dibuka di Prancis, telah diperluas ke fakta-fakta baru ini.
“Kami telah mengidentifikasi kelemahan dalam perlindungan kami dan segera memperbaikinya – pornografi anak adalah ilegal dan dilarang,” tulis akun X Grok pada hari Jumat, sebagai tanggapan atas pertanyaan pengguna setelah beberapa hari melaporkan di platform tersebut.
“Grok, masukkan dia ke dalam bikini”
Jumat malam ini, alat Grok melanjutkan, pada saat artikel ini ditulis, menanggapi secara positif permintaan yang mengundangnya untuk “memakai (wanita muda ini) dalam bikini”.
Laporan tersebut berkaitan dengan tindakan serupa yang dilakukan oleh pengguna internet, yang berjumlah ribuan orang mengirimkan foto atau video orang sungguhan ke Grok – termasuk anak-anak dan remaja – dan memintanya untuk menelanjangi mereka, sebagian (“dalam bikini”) atau seluruhnya.
Perusahaan kecerdasan buatan xAI milik Elon Musk, yang mengembangkan Grok, belum bereaksi secara terbuka terhadap kontroversi baru seputar asisten AI-nya, yang dalam beberapa bulan terakhir telah dipilih karena pernyataan kontroversial mengenai perang di Gaza, konflik India-Pakistan, atau pernyataan anti-Semit.
Pada hari Jumat, pertanyaan yang dikirim AFP ke xAI mendapat tanggapan otomatis yang menyatakan bahwa “media tradisional berbohong”, tanpa komentar lebih lanjut.
Konten ilegal
Namun robotnya, Grok, menanggapi pengguna Internet bahwa sebuah perusahaan di Amerika Serikat “akan dikenakan tuntutan perdata atau pidana jika perusahaan tersebut dengan sengaja memfasilitasi atau gagal mencegah pembuatan” konten pornografi anak.
Penciptaan dan distribusi pornografi anak dapat dihukum di Amerika Serikat berdasarkan pasal 2256 hukum pidana federal Amerika dan berdasarkan Enforce Act, undang-undang Amerika tahun 2025 tentang kejahatan digital terhadap anak di bawah umur.
Selain anak di bawah umur, kelemahan Grok juga terjadi pada wanita dewasa yang melihat fotonya dipublikasikan di jejaring sosial dan diretouch oleh Grok untuk membuka pakaiannya, atas permintaan pengguna internet.
Kementerian Elektronika dan Teknologi Informasi India pada hari Jumat mengirimkan pemberitahuan resmi kepada
Investigasi diperluas di Paris
Di Prancis, kantor kejaksaan Paris pada hari Jumat memperluas penyelidikan yang dibuka sejak musim panas di jejaring sosial X, untuk memeriksa tuduhan baru terhadap Grok karena membuat dan menyebarkan konten pornografi anak. Sesaat sebelumnya, tiga menteri dan dua deputi telah mengumumkan bahwa mereka akan mengambil tindakan hukum terhadap generasi ini dan siaran video palsu yang bersifat seksual.
Investigasi awal terhadap X dibuka pada bulan Juli menyusul laporan terhadap jejaring sosial dan manajernya, yang dituduh membiaskan algoritma platform untuk tujuan campur tangan asing.
“Pelanggaran menjebak seseorang yang bersifat seksual tanpa persetujuannya dapat dihukum dua tahun penjara dan 60.000 euro,” kenang kantor kejaksaan Paris.
Pada hari Jumat, deputi Macronist Eric Bothorel dan sosialis Arthur Delaporte mengambil tindakan hukum, yang mengarah pada perluasan penyelidikan. Menteri Roland Lescure, Anne Le Hénanff dan Aurore Bergé juga mengumumkan pada hari Jumat bahwa mereka telah melaporkan “konten yang jelas-jelas terlarang” kepada jaksa, meminta “penghapusan segera.”
Arcom juga menyita
“Dalam beberapa hari terakhir, kecerdasan buatan Grok telah memungkinkan pembuatan dan penyebaran konten yang bersifat seksis dan seksual, khususnya dalam bentuk video palsu (deepfakes), yang menargetkan orang-orang tanpa persetujuan mereka,” jelas mereka. Sebuah laporan juga dibuat ke platform Pharos oleh pemerintah, kata mereka.
Arcom, otoritas regulasi untuk komunikasi audiovisual dan digital, juga dihubungi, “sehubungan dengan kemungkinan pelanggaran oleh X terhadap kewajibannya yang timbul dari Digital Services Act”, peraturan Eropa tentang layanan digital.
