Taylor Swift’in yapay zeka tarafından üretilen pornografik imgeleri, yapay zeka ile üretilen düzmece pornografinin yaygınlaşması ve yayılmasını engellemenin zorluğunu bir sefer hepimize gösterdi.
X’te yayınlanan bu tip Swift imajlarını paylaşan doğrulanmış bir kullanıcının hesabı, askıya alınmadan evvel 45 milyondan fazla görüntüleme, 24.000 tekrar paylaşım ve yüz binlerce beğeni aldı. Üstelik gönderi kaldırılmadan evvel yaklaşık 17 saat boyunca platformda yayında kaldı.
Kullanıcılar viral gönderiyi konuşmaya başlayınca imajlar yayılmaya başladı ve başka hesaplarda tekrardan paylaşıldı. Üstelik birçoğu hala yayında ve o vakitten beri yenileri ortaya çıktı. Kimi bölgelerde “Taylor Swift AI” terimi trend topic oldu ve görsellerin daha geniş kitlelere ulaşmasını sağladı.
X’in yapay ve manipüle edilmiş medya ve istek dışı çıplaklıkla ilgili siyasetleri bu çeşit içeriklerin platformda yer almasını açıkça yasaklıyor.
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024
Swift’in hayran kitlesi, paylaşımların birçoklarının bu kadar uzun mühlet yayında kalmasına müsaade verdiği için X’e adeta savaş açmış durumda. Hayranlar, imgeleri dolanıma sokmak için kullanılan hashtag’leri, Swift’in gerçek kliplerini tanıtan bildirilerle doldurarak uydurma imajları gizlemeye çalıştı.
Bu olay, deepfake pornoyu ve gerçek insanların yapay zeka tarafından üretilen imgelerini engellemenin ne kadar güç olduğunu ortaya koyuyor. Kimi yapay zeka manzara oluşturucuları ünlülerin çıplak, pornografik ve fotogerçekçi imajlarının üretilmesini önleyen kısıtlamalara sahip, fakat kimileri açıkça bu türlü bir hizmet sunuyor. Düzmece manzaraların yayılmasını tedbire sorumluluğu çoklukla toplumsal platformlara düşüyor, bu da en düzgün şartlarda yapılması sıkıntı olabilecek bir şey ve X üzere moderasyon kabiliyetlerini yitirmiş bir şirket için daha da güç.
X, şu anda AB tarafından “yasadışı içerik ve dezenformasyon yaymak” için kullanıldığı savlarıyla soruşturuluyor ve İsrail – Hamas savaşıyla ilgili yanlış bilgilerin platformda yayıldığının tespit edilmesinin akabinde kriz protokollerinin sorgulandığı bildiriliyor.