BadılCan
Member
Electronic Frontier Foundation gibi dijital haklar grupları, milletvekillerini derin sahte polisliği teknoloji şirketlerine devretmeye veya dolandırıcılık, telif hakkı ihlali, müstehcenlik ve iftira gibi konuları ele alan mevcut bir yasal çerçeveden yararlanmaya çağırıyor.
Electronic Frontier Foundation’da bir sivil haklar avukatı olan David Greene, “Bu, uygulandığında neredeyse her zaman zararlı olmayan materyalleri yakalayan, insanları meşru, üretken konuşmadan alıkoyan hükümet müdahalesinden ziyade zarara karşı en iyi çözümdür” dedi. .
Birkaç ay önce Google, yapay zeka sistemlerini derin sahtekarlıklar oluşturmak üzere eğitmek için insanların bir veri analiz aracı olan Colaboratory platformunu kullanmalarını yasaklamaya başladı. Sonbaharda, bir görüntü oluşturma aracı olan Stable Diffusion’ın arkasındaki şirket, The Verge’in söylediğine göre kullanıcıların çıplak ve pornografik içerik oluşturmaya çalışmasını engelleyen bir güncelleme yayınladı. Meta, TikTok, YouTube ve Reddit, yanıltıcı olması amaçlanan derin sahteleri yasaklar.
Ancak kanunlar veya yasaklar, sürekli uyum sağlamak ve gelişmek üzere tasarlanmış bir teknolojiyi kontrol altına almakta zorlanabilir. Deepfake’leri tespit etmenin ne kadar zor olabileceği geçen yıl RAND Corporation’daki araştırmacılar tarafından 3.000’den fazla deneğe bir dizi video gösterip onlardan manipüle edilmiş olanları (örneğin, iklim aktivisti Greta Thunberg’in deepfake’i) tanımlamalarını istediklerinde gösterildi. iklim değişikliğinin varlığını inkar etmek).
Grup, zamanın üçte birinden fazlasında yanıldı. Carnegie Mellon Üniversitesi’nde makine öğrenimi okuyan birkaç düzine öğrenciden oluşan bir alt küme bile, zamanın yüzde 20’sinden fazlasında yanlış anladı.
Microsoft ve Adobe gibi şirketlerin girişimleri artık medyanın kimliğini doğrulamaya ve sentetik içeriği karakterize eden tutarsızlıkları tespit etmek için moderasyon teknolojilerini eğitmeye çalışıyor. Ancak, genellikle hataları düzeltmenin, filigranları kaldırmanın ve izlerini örtmek için meta verileri değiştirmenin yeni yollarını bulan deepfake yaratıcılarından daha iyi performans göstermek için sürekli mücadele ediyorlar.
RAND’da bir fizikçi olan Jared Mondschein, “Deepfake üreticileri ile deepfake dedektörleri arasında teknolojik bir silahlanma yarışı var” dedi. “Deepfake’leri daha iyi tespit etmenin yollarını bulmaya başlayana kadar, birçok yasanın geçerli olması gerçekten zor olacak.”
Electronic Frontier Foundation’da bir sivil haklar avukatı olan David Greene, “Bu, uygulandığında neredeyse her zaman zararlı olmayan materyalleri yakalayan, insanları meşru, üretken konuşmadan alıkoyan hükümet müdahalesinden ziyade zarara karşı en iyi çözümdür” dedi. .
Birkaç ay önce Google, yapay zeka sistemlerini derin sahtekarlıklar oluşturmak üzere eğitmek için insanların bir veri analiz aracı olan Colaboratory platformunu kullanmalarını yasaklamaya başladı. Sonbaharda, bir görüntü oluşturma aracı olan Stable Diffusion’ın arkasındaki şirket, The Verge’in söylediğine göre kullanıcıların çıplak ve pornografik içerik oluşturmaya çalışmasını engelleyen bir güncelleme yayınladı. Meta, TikTok, YouTube ve Reddit, yanıltıcı olması amaçlanan derin sahteleri yasaklar.
Ancak kanunlar veya yasaklar, sürekli uyum sağlamak ve gelişmek üzere tasarlanmış bir teknolojiyi kontrol altına almakta zorlanabilir. Deepfake’leri tespit etmenin ne kadar zor olabileceği geçen yıl RAND Corporation’daki araştırmacılar tarafından 3.000’den fazla deneğe bir dizi video gösterip onlardan manipüle edilmiş olanları (örneğin, iklim aktivisti Greta Thunberg’in deepfake’i) tanımlamalarını istediklerinde gösterildi. iklim değişikliğinin varlığını inkar etmek).
Grup, zamanın üçte birinden fazlasında yanıldı. Carnegie Mellon Üniversitesi’nde makine öğrenimi okuyan birkaç düzine öğrenciden oluşan bir alt küme bile, zamanın yüzde 20’sinden fazlasında yanlış anladı.
Microsoft ve Adobe gibi şirketlerin girişimleri artık medyanın kimliğini doğrulamaya ve sentetik içeriği karakterize eden tutarsızlıkları tespit etmek için moderasyon teknolojilerini eğitmeye çalışıyor. Ancak, genellikle hataları düzeltmenin, filigranları kaldırmanın ve izlerini örtmek için meta verileri değiştirmenin yeni yollarını bulan deepfake yaratıcılarından daha iyi performans göstermek için sürekli mücadele ediyorlar.
RAND’da bir fizikçi olan Jared Mondschein, “Deepfake üreticileri ile deepfake dedektörleri arasında teknolojik bir silahlanma yarışı var” dedi. “Deepfake’leri daha iyi tespit etmenin yollarını bulmaya başlayana kadar, birçok yasanın geçerli olması gerçekten zor olacak.”