Sebuah alat video AI baru dari xAI – perusahaan yang didirikan oleh Elon Musk – sedang menghadapi gelombang kritik karena memungkinkan pengguna untuk membuat deepfake telanjang selebritas seperti Taylor Swift hanya dengan sedikit tindakan. Fitur yang disebut Grok Imagine, diluncurkan pada hari Selasa, memiliki opsi "Spicy" yang memungkinkan pembuatan video menggoda atau telanjang, meskipun ini melanggar kebijakan pelarangan konten pornografi dari xAI.
Pada hari pertama, alat ini telah menghasilkan 20 juta gambar, yang membuat Musk menyebutnya sebagai "Hyperviral". Setelah deepfake Swift menyebar, xAI terpaksa membatasi fitur "Spicy" dengan gambar penyanyi wanita ini.
Berbeda dengan platform seperti Google Veo 3 atau OpenAI Sora yang memiliki langkah-langkah penyensoran yang ketat, xAI dikritik karena kurangnya penghalang terhadap konten sensitif dan pelanggaran terhadap citra nyata. Yang menarik, insiden ini terjadi hanya setahun setelah Swift dituduh deepfake mendukung Trump dalam pemilihan 2024 – meskipun setelah itu dia mendukung saingannya Kamala Harris.
Saat ini Elon Musk belum memberikan pernyataan, sementara legislatif AS terus menekan setelah melalui Undang-Undang "Take It Down" pada bulan Mei yang bertujuan untuk melindungi korban gambar pribadi yang tidak disetujui.
Ini adalah insiden terbaru yang terkait dengan produk AI xAI yang belum diperiksa secara ketat – setelah chatbot Grok yang membuat pernyataan rasis pada bulan Juli.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
xAI menuai kontroversi karena alat AI yang membuat deepfake telanjang Taylor Swift
Sebuah alat video AI baru dari xAI – perusahaan yang didirikan oleh Elon Musk – sedang menghadapi gelombang kritik karena memungkinkan pengguna untuk membuat deepfake telanjang selebritas seperti Taylor Swift hanya dengan sedikit tindakan. Fitur yang disebut Grok Imagine, diluncurkan pada hari Selasa, memiliki opsi "Spicy" yang memungkinkan pembuatan video menggoda atau telanjang, meskipun ini melanggar kebijakan pelarangan konten pornografi dari xAI.
Pada hari pertama, alat ini telah menghasilkan 20 juta gambar, yang membuat Musk menyebutnya sebagai "Hyperviral". Setelah deepfake Swift menyebar, xAI terpaksa membatasi fitur "Spicy" dengan gambar penyanyi wanita ini.
Berbeda dengan platform seperti Google Veo 3 atau OpenAI Sora yang memiliki langkah-langkah penyensoran yang ketat, xAI dikritik karena kurangnya penghalang terhadap konten sensitif dan pelanggaran terhadap citra nyata. Yang menarik, insiden ini terjadi hanya setahun setelah Swift dituduh deepfake mendukung Trump dalam pemilihan 2024 – meskipun setelah itu dia mendukung saingannya Kamala Harris.
Saat ini Elon Musk belum memberikan pernyataan, sementara legislatif AS terus menekan setelah melalui Undang-Undang "Take It Down" pada bulan Mei yang bertujuan untuk melindungi korban gambar pribadi yang tidak disetujui.
Ini adalah insiden terbaru yang terkait dengan produk AI xAI yang belum diperiksa secara ketat – setelah chatbot Grok yang membuat pernyataan rasis pada bulan Juli.