5 days ago
18
Jakarta (pilar.id) – Fitur terbaru Grok Imagine dari perusahaan AI milik Elon Musk, xAI, tengah menuai kritik tajam setelah dilaporkan mampu menghasilkan video berunsur dewasa menggunakan wajah selebritas terkenal, termasuk Taylor Swift.
Berbeda dengan generator video AI lain seperti Google Veo dan OpenAI Sora yang menerapkan pembatasan ketat untuk mencegah pembuatan konten NSFW (Not Safe for Work) dan deepfake selebritas, Grok Imagine justru menawarkan preset bernama Spicy yang secara eksplisit memungkinkan keduanya terjadi secara bersamaan.
Kasus Video AI Taylor Swift
Pengujian fitur ini menunjukkan, tanpa permintaan eksplisit untuk membuat konten telanjang, Grok Imagine tetap memproduksi video AI Taylor Swift yang menanggalkan pakaian di tengah kerumunan AI.
Prosesnya sederhana: pengguna memilih gambar yang dihasilkan AI, memilih opsi Make Video, lalu mengaktifkan preset Spicy.
Walau hasilnya tidak sepenuhnya identik dengan Swift karena efek uncanny valley, kemiripannya tetap cukup jelas. Bahkan, beberapa gambar awal yang dihasilkan sebelum proses video sudah menampilkan Swift dalam busana terbuka.
Selain itu, meski generator gambar Grok menolak permintaan langsung untuk membuat foto telanjang, fitur Spicy dapat secara otomatis menampilkan adegan sugestif atau bahkan menanggalkan pakaian karakter AI yang menyerupai figur publik.
Risiko dan Celah Keamanan
Lebih mengkhawatirkan lagi, fitur ini dilaporkan juga dapat membuat gambar fotorealistik anak-anak atas permintaan pengguna, meskipun animasi tidak dibuat secara seksual. Opsi Spicy tetap tersedia dalam menu, namun dalam pengujian tidak menghasilkan konten yang tidak pantas.
Kritikus menilai celah keamanan ini sangat serius, apalagi dengan riwayat kontroversial Grok terkait deepfake Taylor Swift. Kebijakan penggunaan xAI memang melarang penggambaran orang dalam konteks pornografi, tetapi dalam praktiknya Grok Imagine tidak memberikan pencegahan efektif.
Proses verifikasi usia pun dinilai lemah, hanya meminta pengguna menginput tahun lahir tanpa bukti tambahan. Hal ini berarti siapa pun dengan iPhone dan langganan SuperGrok senilai US$30 dapat mengakses fitur ini.
Sejak diluncurkan Senin lalu, xAI melaporkan lebih dari 34 juta gambar telah dihasilkan menggunakan Grok Imagine, dengan tingkat pertumbuhan yang disebut Elon Musk sebagai ‘meledak seperti api’. (usm/hdl)
Summary Points
- Grok Imagine milik xAI memiliki preset Spicy yang memungkinkan pembuatan video AI dewasa.
- Uji coba menunjukkan kemampuannya membuat video AI Taylor Swift dengan konten sugestif tanpa permintaan eksplisit.
- Fitur verifikasi usia dinilai mudah dilewati dan tidak efektif.
- Kebijakan xAI melarang pornografi berbasis likeness, tetapi pencegahannya lemah.
- Lebih dari 34 juta gambar telah dihasilkan sejak peluncuran awal pekan ini.
