xAI, Taylor Swift'in çıplak deepfake'lerini üreten AI aracı nedeniyle tartışmalara neden oluyor.

Elon Musk tarafından kurulan xAI'nın yeni bir video AI aracı, kullanıcıların Taylor Swift gibi ünlülerin çıplak deepfake'lerini minimum işlemle yaratmalarına izin verdiği için eleştiri dalgasıyla karşı karşıya kalıyor. Salı günü tanıtılan Grok Imagine adlı özellik, pornografik içerik oluşturulmasına izin veren "Spicy" seçeneğine sahip, ancak bu xAI'nın pornografik içeriği yasaklama politikasını ihlal ediyor.

İlk günde, araç 20 milyon görüntü üretti ve bu, Musk'ın bunu "Hyperviral" olarak adlandırmasına katkıda bulundu. Swift'in deepfake'i yayıldıktan sonra, xAI bu kadın şarkıcının görüntüleriyle "Spicy" özelliğini sınırlamak zorunda kaldı.

Google Veo 3 veya OpenAI Sora gibi sıkı denetim önlemlerine sahip platformlardan farklı olarak, xAI, hassas içerik ve gerçekçi görüntü ihlalleri konusunda engellerin eksikliği nedeniyle eleştirildi. Dikkat çekici bir şekilde, olay, Swift'in 2024 seçim döneminde Trump'ı destekleyen bir deepfake ile ilişkilendirilmesinden sadece bir yıl sonra gerçekleşti - ancak sonrasında rakibi Kamala Harris'i destekledi.

Şu anda Elon Musk henüz bir açıklama yapmadı, ABD yasama organı ise Mayıs ayında rızaya dayanmayan özel görüntülerin mağdurlarını korumak amacıyla "Take It Down" yasasını kabul ettikten sonra baskı yapmaya devam ediyor.

Bu, xAI'nın yeterince denetimden geçmemiş AI ürünleriyle ilgili en son olaydır - Temmuz ayında ırkçı ifadeler kullanan Grok sohbet botu olayından sonra.