BadılCan
Active member
Dezenformasyon üzerine çalışan bir araştırma firması olan Graphika, görüntülerin izini sürerek nefret söylemi, komplo teorileri ve yapay zeka kullanılarak oluşturulan giderek artan ırkçı ve saldırgan içeriklerin paylaşıldığı bilinen bir mesaj panosu olan 4chan'daki bir topluluğa kadar uzandı.
Araştırmacılar, 4chan'da şarkıcının görüntülerini yaratan kişilerin bunu bir tür oyun içinde yaptığını söyledi; ünlü kadın karakterlerin müstehcen (ve bazen şiddet içeren) görüntülerini oluşturup oluşturamayacaklarını görmek için bir test.
Sentetik Swift görüntüleri diğer platformlara da yayıldı ve milyonlarca kez görüntülendi. Hayranlar Bayan Swift'in savunmasına katıldı ve milletvekilleri yapay zeka tarafından oluşturulan görüntülere karşı daha güçlü koruma sağlanması çağrısında bulundu.
Graphika, 4chan'de insanları OpenAI'nin DALL-E, Microsoft Designer ve Bing Image Creator gibi görüntü oluşturma araçları tarafından uygulanan güvenlik önlemlerini atlamaya teşvik eden bir mesaj dizisi buldu. Kullanıcılara “filtreleri atlamanın yeni yollarını bulmak için ipuçları ve püf noktaları sağlamaları” talimatı verildi ve “İyi şanslar, yaratıcı olun” söylendi.
Uzmanlar, saldırgan içeriğin oyunlar aracılığıyla paylaşılmasının, insanların daha büyük bir topluluğa bağlı hissetmelerini ve katılım için aldıkları onay mührü sayesinde motive olmalarını sağlayabileceğini söylüyor. 2022 ara seçimleri öncesinde Telegram, WhatsApp ve Truth Social gibi platformlardaki gruplar, seçmenlerin suiistimaline ilişkin sözde kanıt sunarak puan veya onur kazanmak amacıyla seçmen dolandırıcılığının peşine düştü. (Seçmen sahtekarlığının gerçek kanıtı son derece nadirdir.)
Bayan Swift'in sahte görsellerine yol açan 4 kanallı başlıkta, birçok kullanıcı iltifat aldı – biri “güzel gen-anon” diye yazdı – ve görselleri oluşturmak için kullanılan hızlı dili paylaşmaları istendi. Bir kullanıcı, bir istemde çıplak olmayan ancak mayo giymiş bir ünlünün fotoğrafının ortaya çıkmasından şikayetçi oldu.
4chan tarafından yayınlanan ve site genelinde geçerli olan kurallar, gerçek yetişkinlerin yapay zeka tarafından oluşturulan cinsel içerikli görsellerini özel olarak yasaklamaz.
Graphicka'nın kıdemli analisti Cristina López G., “Bu görüntüler, üretken yapay zeka ürünlerinin korumalarını aşma 'meydan okuması' ile motive olan bir insan topluluğundan geliyor ve yeni kısıtlamalar, 'yenilmenin' önündeki bir başka engel olarak görülüyor” diyor. bir açıklamada söyledi. “Kaynağındaki daha fazla suiistimali önlemek için bu kötü niyetli aktivitenin oyun benzeri doğasını anlamak önemlidir.”
Bayan López G, Bayan Swift'in “tek kurban olmaktan çok uzak” olduğunu söyledi. Onun benzerliğini manipüle eden 4chan topluluğunda birçok aktris, şarkıcı ve politikacı Bayan Swift'ten daha sık öne çıkarıldı.
OpenAI yaptığı açıklamada Bayan Swift'in müstehcen görüntülerinin kendi araçları kullanılarak oluşturulmadığını söyledi ve DALL-E modelini eğitirken en müstehcen içeriği filtrelediğini belirtti. Şirket ayrıca, tanınmış bir kişinin adını isteyen veya müstehcen içerik isteyen talepleri reddetmek gibi diğer güvenlik önlemlerini de kullandığını söyledi.
Microsoft, “bu görüntüleri araştırmaya devam ettiğini” söyledi ve “hizmetlerimizin bu tür görüntüler oluşturmak amacıyla kötüye kullanılmasını önlemek için mevcut güvenlik sistemlerimizi güçlendirdiğini” ekledi. Şirket, kullanıcıların rızası olmadan yetişkinlere yönelik veya mahrem içerik oluşturmak için araçlarını kullanmasını yasaklıyor ve tekrarlayan suçluları yasaklanabilecekleri konusunda uyarıyor.
Yazılımla üretilen sahte pornografi, en az 2017'den bu yana isteksiz ünlüleri, hükümet yetkililerini, Twitch yayıncılarını, öğrencileri ve diğerlerini etkileyen bir salgın haline geldi. Düzensiz düzenleme yalnızca birkaç mağdura yasal başvuru hakkı bırakıyor; daha da azının, koordineli “Taylor Swift'i Koruyun” gönderileriyle sahte görüntüleri bastırabilecek sadık bir takipçisi var.
Bayan Swift'in sahte görüntüleri viral hale geldikten sonra, Beyaz Saray basın sözcüsü Karine Jean-Pierre durumu “endişe verici” olarak nitelendirdi ve sosyal medya şirketlerinin kendi kurallarını uygulamadaki gevşekliğinin kadınları ve kız çocuklarını orantısız bir şekilde etkilediğini söyledi. Adalet Bakanlığı'nın kısa süre önce imaja dayalı cinsel istismar mağdurları için ülke çapındaki ilk yardım hattını finanse ettiğini söyledi. Bakanlık bunu, mahrem görüntülerin izinsiz dağıtımıyla ilgili “hizmetlere yönelik artan ihtiyacın” karşılanması olarak tanımladı. On binlerce aktörü temsil eden sendika SAG-AFTRA, Bayan Swift ve diğerlerinin sahte resimlerini “özel hayatlarının ve özerklik haklarının çalınması” olarak nitelendirdi.
Bayan Swift'in yapay olarak oluşturulmuş versiyonları, Le Creuset tencere dolandırıcılıklarını teşvik etmek için de kullanıldı. Yapay zeka, seçmenleri New Hampshire ön seçimlerine katılmaktan caydırmak için otomatik aramalarda Başkan Biden'ın sesini taklit etmek için kullanıldı. Teknoloji uzmanları, yapay zeka araçlarının daha erişilebilir ve kullanıcı dostu hale gelmesiyle, ses parodilerinin ve gerçekçi avatarlara sahip videoların yalnızca birkaç dakika içinde oluşturulabileceğini söylüyor.
Araştırmacılar, Bayan Swift'in 4chan'daki ilk cinsel içerikli yapay zeka görselinin, 6 Ocak'ta, yani Telegram'da göründüğü iddia edilen tarihten 11 gün önce ve X'te ortaya çıkmasından 12 gün önce ortaya çıktığını söyledi. 404 Media, 25 Ocak'ta viral Swift görsellerinin 4chan ve bir Telegram grubunun kadın istismarcı görsellerini ana akım sosyal medya platformlarına taşıdığını bildirdi. İngiliz haber kuruluşu Daily Mail bu hafta, ünlülerin cinselleştirilmiş görsellerini paylaştığı bilinen bir web sitesinin Swift görsellerini 15 Ocak'ta yayınladığını bildirdi.
Birkaç günlüğüne,
Sesin yapımcısı Tally Abecassis.
Araştırmacılar, 4chan'da şarkıcının görüntülerini yaratan kişilerin bunu bir tür oyun içinde yaptığını söyledi; ünlü kadın karakterlerin müstehcen (ve bazen şiddet içeren) görüntülerini oluşturup oluşturamayacaklarını görmek için bir test.
Sentetik Swift görüntüleri diğer platformlara da yayıldı ve milyonlarca kez görüntülendi. Hayranlar Bayan Swift'in savunmasına katıldı ve milletvekilleri yapay zeka tarafından oluşturulan görüntülere karşı daha güçlü koruma sağlanması çağrısında bulundu.
Graphika, 4chan'de insanları OpenAI'nin DALL-E, Microsoft Designer ve Bing Image Creator gibi görüntü oluşturma araçları tarafından uygulanan güvenlik önlemlerini atlamaya teşvik eden bir mesaj dizisi buldu. Kullanıcılara “filtreleri atlamanın yeni yollarını bulmak için ipuçları ve püf noktaları sağlamaları” talimatı verildi ve “İyi şanslar, yaratıcı olun” söylendi.
Uzmanlar, saldırgan içeriğin oyunlar aracılığıyla paylaşılmasının, insanların daha büyük bir topluluğa bağlı hissetmelerini ve katılım için aldıkları onay mührü sayesinde motive olmalarını sağlayabileceğini söylüyor. 2022 ara seçimleri öncesinde Telegram, WhatsApp ve Truth Social gibi platformlardaki gruplar, seçmenlerin suiistimaline ilişkin sözde kanıt sunarak puan veya onur kazanmak amacıyla seçmen dolandırıcılığının peşine düştü. (Seçmen sahtekarlığının gerçek kanıtı son derece nadirdir.)
Bayan Swift'in sahte görsellerine yol açan 4 kanallı başlıkta, birçok kullanıcı iltifat aldı – biri “güzel gen-anon” diye yazdı – ve görselleri oluşturmak için kullanılan hızlı dili paylaşmaları istendi. Bir kullanıcı, bir istemde çıplak olmayan ancak mayo giymiş bir ünlünün fotoğrafının ortaya çıkmasından şikayetçi oldu.
4chan tarafından yayınlanan ve site genelinde geçerli olan kurallar, gerçek yetişkinlerin yapay zeka tarafından oluşturulan cinsel içerikli görsellerini özel olarak yasaklamaz.
Graphicka'nın kıdemli analisti Cristina López G., “Bu görüntüler, üretken yapay zeka ürünlerinin korumalarını aşma 'meydan okuması' ile motive olan bir insan topluluğundan geliyor ve yeni kısıtlamalar, 'yenilmenin' önündeki bir başka engel olarak görülüyor” diyor. bir açıklamada söyledi. “Kaynağındaki daha fazla suiistimali önlemek için bu kötü niyetli aktivitenin oyun benzeri doğasını anlamak önemlidir.”
Bayan López G, Bayan Swift'in “tek kurban olmaktan çok uzak” olduğunu söyledi. Onun benzerliğini manipüle eden 4chan topluluğunda birçok aktris, şarkıcı ve politikacı Bayan Swift'ten daha sık öne çıkarıldı.
OpenAI yaptığı açıklamada Bayan Swift'in müstehcen görüntülerinin kendi araçları kullanılarak oluşturulmadığını söyledi ve DALL-E modelini eğitirken en müstehcen içeriği filtrelediğini belirtti. Şirket ayrıca, tanınmış bir kişinin adını isteyen veya müstehcen içerik isteyen talepleri reddetmek gibi diğer güvenlik önlemlerini de kullandığını söyledi.
Microsoft, “bu görüntüleri araştırmaya devam ettiğini” söyledi ve “hizmetlerimizin bu tür görüntüler oluşturmak amacıyla kötüye kullanılmasını önlemek için mevcut güvenlik sistemlerimizi güçlendirdiğini” ekledi. Şirket, kullanıcıların rızası olmadan yetişkinlere yönelik veya mahrem içerik oluşturmak için araçlarını kullanmasını yasaklıyor ve tekrarlayan suçluları yasaklanabilecekleri konusunda uyarıyor.
Yazılımla üretilen sahte pornografi, en az 2017'den bu yana isteksiz ünlüleri, hükümet yetkililerini, Twitch yayıncılarını, öğrencileri ve diğerlerini etkileyen bir salgın haline geldi. Düzensiz düzenleme yalnızca birkaç mağdura yasal başvuru hakkı bırakıyor; daha da azının, koordineli “Taylor Swift'i Koruyun” gönderileriyle sahte görüntüleri bastırabilecek sadık bir takipçisi var.
Bayan Swift'in sahte görüntüleri viral hale geldikten sonra, Beyaz Saray basın sözcüsü Karine Jean-Pierre durumu “endişe verici” olarak nitelendirdi ve sosyal medya şirketlerinin kendi kurallarını uygulamadaki gevşekliğinin kadınları ve kız çocuklarını orantısız bir şekilde etkilediğini söyledi. Adalet Bakanlığı'nın kısa süre önce imaja dayalı cinsel istismar mağdurları için ülke çapındaki ilk yardım hattını finanse ettiğini söyledi. Bakanlık bunu, mahrem görüntülerin izinsiz dağıtımıyla ilgili “hizmetlere yönelik artan ihtiyacın” karşılanması olarak tanımladı. On binlerce aktörü temsil eden sendika SAG-AFTRA, Bayan Swift ve diğerlerinin sahte resimlerini “özel hayatlarının ve özerklik haklarının çalınması” olarak nitelendirdi.
Bayan Swift'in yapay olarak oluşturulmuş versiyonları, Le Creuset tencere dolandırıcılıklarını teşvik etmek için de kullanıldı. Yapay zeka, seçmenleri New Hampshire ön seçimlerine katılmaktan caydırmak için otomatik aramalarda Başkan Biden'ın sesini taklit etmek için kullanıldı. Teknoloji uzmanları, yapay zeka araçlarının daha erişilebilir ve kullanıcı dostu hale gelmesiyle, ses parodilerinin ve gerçekçi avatarlara sahip videoların yalnızca birkaç dakika içinde oluşturulabileceğini söylüyor.
Araştırmacılar, Bayan Swift'in 4chan'daki ilk cinsel içerikli yapay zeka görselinin, 6 Ocak'ta, yani Telegram'da göründüğü iddia edilen tarihten 11 gün önce ve X'te ortaya çıkmasından 12 gün önce ortaya çıktığını söyledi. 404 Media, 25 Ocak'ta viral Swift görsellerinin 4chan ve bir Telegram grubunun kadın istismarcı görsellerini ana akım sosyal medya platformlarına taşıdığını bildirdi. İngiliz haber kuruluşu Daily Mail bu hafta, ünlülerin cinselleştirilmiş görsellerini paylaştığı bilinen bir web sitesinin Swift görsellerini 15 Ocak'ta yayınladığını bildirdi.
Birkaç günlüğüne,
Sesin yapımcısı Tally Abecassis.