BadılCan
Active member
Louisiana Şartlı Tahliye Kurulu, hüküm giymiş bir katilin serbest bırakılması olasılığını tartışmak üzere Ekim ayında toplandığında, akıl sağlığı alanında uzun yıllara dayanan deneyime sahip bir doktordan mahkum hakkında konuşmasını istedi.
Durumu fark eden tek grup şartlı tahliye kurulu değildi.
Çevrimiçi trollerden oluşan bir grup, doktorun ifadesinin çevrimiçi akışından ekran görüntülerini aldı ve AI araçlarını kullanarak onu çıplak gösterecek şekilde görüntüleri düzenledi. Daha sonra manipüle edilmiş dosyaları tacizi teşvik ettiği, nefret dolu içerik ve komplo teorileri yaydığı bilinen anonim bir mesaj panosu olan 4chan'da paylaştılar.
Columbia Üniversitesi'nde yüksek lisans öğrencisi olan Daniel Siegel'e göre bu, 4chan'daki kişilerin, şartlı tahliye kurulunun huzuruna çıkan kişiler hakkında ırkçı ve saldırgan içerik yaymak için ses editörleri ve görüntü oluşturucular gibi yeni yapay zeka destekli araçları kullandığı birçok seferden biriydi. Yapay zekanın kötü amaçlarla nasıl kullanıldığını araştıran bir yayın yayınlandı. Bay Siegel birkaç ay boyunca sitedeki faaliyetleri kaydetti.
Bay Siegel, manipüle edilmiş görüntülerin ve sesin 4chan'ın sınırlarının çok ötesine yayılmadığını söyledi. Ancak marjinal mesaj panolarını izleyen uzmanlar, bu çabanın, hain İnternet kullanıcılarının önümüzdeki aylarda ve yıllarda çevrimiçi taciz ve nefret kampanyalarını güçlendirmek için gelişmiş yapay zeka araçlarını nasıl kullanabileceğine dair bir fikir sağladığını söyledi.
Dijital Nefretle Mücadele Merkezi araştırma direktörü Callum Hood, belki de en kötü şöhrete sahip olan 4chan gibi uç sitelerin, aşırı fikirleri hayata geçirmek için yeni teknolojilerin nasıl kullanıldığına dair sıklıkla erken uyarı işaretleri verdiğini söyledi. Bu platformların, “ideolojilerini ana akım alana geri yansıtmak” için yapay zeka gibi “yeni teknolojileri çok hızlı bir şekilde benimseyen” gençlerle dolu olduğunu söyledi.
Bu taktiklerin genellikle daha popüler çevrimiçi platformlardaki bazı kullanıcılar tarafından benimsendiğini söyledi.
Uzmanların 4chan'de keşfettiği yapay zeka araçlarından kaynaklanan çeşitli sorunları ve düzenleyicilerin ve teknoloji şirketlerinin bunlar hakkında neler yaptığını burada bulabilirsiniz.
Yapay görüntüler ve yapay zeka pornografisi
Dall-E ve Midjourney gibi yapay zeka araçları, basit metin açıklamalarından yeni görüntüler oluşturur. Ancak mevcut görüntülerden kıyafetlerin çıkarılması da dahil olmak üzere sahte pornografi oluşturmak için yeni bir yapay zeka görüntü oluşturucu dalgası geliştiriliyor.
Hood, çevrimiçi nefret ve yanlış bilgilendirme kampanyaları hakkında “Tam olarak istediklerinin resmini elde etmek için yapay zekayı kullanabilirler” dedi.
Sahte insan resimlerinin oluşturulmasını yasaklayan bir federal yasanın bulunmaması, Louisiana Şartlı Tahliye Kurulu gibi grupların ne yapılabileceği konusunda düşünmesine neden oluyor. Kurul, Bay Siegel'in 4chan hakkındaki bulgularına yanıt olarak bir soruşturma başlattı.
Louisiana Af Kurulu ve Şartlı Tahliye Komitesi'nin genel müdürü Francis Abbott, “Yönetim kurulu üyelerimizi veya duruşmalarımıza katılanları olumsuz şekilde tasvir eden herhangi bir görsele kesinlikle itiraz ederiz” dedi. “Fakat kanunlara uygun hareket etmek zorundayız ve bunun kanuna aykırı olup olmadığına karar vermek başkasının elinde.”
Illinois, intikam pornosu yasasını, AI sistemleri tarafından oluşturulan rıza dışı pornografi mağdurlarının içerik oluşturucuları veya dağıtımcıları dava etmesine izin verecek şekilde genişletti. California, Virginia ve New York da yapay zeka tarafından üretilen pornografinin izinsiz olarak dağıtılmasını veya oluşturulmasını yasaklayan yasalar çıkardı.
Sesleri klonla
Geçen yılın sonlarında, bir yapay zeka şirketi olan ElevenLabs, programa yazılan herhangi bir şeyi söyleyen bir kişinin sesinin ikna edici bir dijital kopyasını oluşturabilecek bir araç yayınladı.
Araç neredeyse yayına girer girmez, 4chan'daki kullanıcılar sahte İngiliz oyuncu Emma Watson'ın Adolf Hitler'in Mein Kampf manifestosunu okuduğu klipleri dağıtmaya başladı.
4chan kullanıcıları, Louisiana şartlı tahliye kurulu duruşmalarının içeriğini kullanarak, o zamandan beri yargıçların sanıklar hakkında saldırgan ve ırkçı yorumlar yaptığı sahte klipleri paylaştı. Kliplerin kökenini araştırmak için ElevenLabs tarafından geliştirilen yapay zeka konuşma tanımayı kullanan Bay Siegel'e göre, kliplerin çoğu ElevenLabs'ın aracı kullanılarak oluşturuldu.
ElevenLabs sınırları belirlemek için acele etti; kullanıcıların ödeme yapmasını zorunlu kılma ses klonlama araçlarına erişemeden önce. Ancak uzmanlar, değişikliklerin yapay zeka tarafından üretilen seslerin yayılmasını yavaşlatmadığını söyledi. Sahte ünlülerin seslerini içeren çok sayıda video TikTok ve YouTube'da dolaşıyor ve bunların çoğu siyasi dezenformasyon yayıyor.
Aralarında TikTok ve YouTube'un da bulunduğu bazı büyük sosyal medya şirketleri o zamandan beri bazı yapay zeka içerikleri için etiket talep etmeye başladı. Başkan Biden, Ekim ayında, tüm şirketlerin bu tür içerikleri etiketlemesini gerektiren ve Ticaret Bakanlığı'na yapay zeka içeriğinin filigranlanması ve kimliğinin doğrulanması için standartlar geliştirmesi talimatını veren bir idari emir yayınladı.
Özel yapay zeka araçları
Meta yapay zeka rekabetinde kendine yer edinmeye çalıştığında şirketin stratejisi yazılım kodunu araştırmacılara yayınlamaktı. Genellikle “açık kaynak” olarak adlandırılan bu yaklaşım, akademisyenlere ve teknoloji uzmanlarına iyileştirmeler bulmaları ve kendi araçlarını geliştirmeleri için daha fazla ham maddeye erişim olanağı sağlayarak gelişimi hızlandırabilir.
Şirket Şubat ayında büyük dil modeli Llama'yı seçkin araştırmacıların kullanımına sunduğunda kod hızla 4chan'a sızdırıldı. Oradaki insanlar bunu farklı amaçlar için kullandılar: Korkulukları indirmek veya kaldırmak için kodu optimize ettiler ve Yahudi karşıtı fikirler üretebilecek yeni sohbet robotları yarattılar.
Girişim, kullanımı ücretsiz ve açık kaynaklı yapay zeka araçlarının teknoloji meraklısı kullanıcılar tarafından nasıl optimize edilebileceğine dair bir fikir verdi.
Bir Meta sözcüsü bir e-postada şunları söyledi: “Modele herkes erişemese ve bazıları onay sürecini atlamaya çalışsa da, mevcut sürüm stratejisinin sorumluluk ve açıklık arasında denge kurmamıza izin verdiğine inanıyoruz.”
O günden bu yana geçen aylarda, aşırı sağın konuşmalarını yankılayacak veya daha müstehcen içerik yaratacak dil modelleri geliştirildi. Görüntü oluşturucular, 4chan kullanıcıları tarafından çıplak görüntüler üretecek veya ırkçı memler sunacak şekilde ayarlandı ve daha büyük teknoloji şirketlerinin kontrollerini atlattı.
Durumu fark eden tek grup şartlı tahliye kurulu değildi.
Çevrimiçi trollerden oluşan bir grup, doktorun ifadesinin çevrimiçi akışından ekran görüntülerini aldı ve AI araçlarını kullanarak onu çıplak gösterecek şekilde görüntüleri düzenledi. Daha sonra manipüle edilmiş dosyaları tacizi teşvik ettiği, nefret dolu içerik ve komplo teorileri yaydığı bilinen anonim bir mesaj panosu olan 4chan'da paylaştılar.
Columbia Üniversitesi'nde yüksek lisans öğrencisi olan Daniel Siegel'e göre bu, 4chan'daki kişilerin, şartlı tahliye kurulunun huzuruna çıkan kişiler hakkında ırkçı ve saldırgan içerik yaymak için ses editörleri ve görüntü oluşturucular gibi yeni yapay zeka destekli araçları kullandığı birçok seferden biriydi. Yapay zekanın kötü amaçlarla nasıl kullanıldığını araştıran bir yayın yayınlandı. Bay Siegel birkaç ay boyunca sitedeki faaliyetleri kaydetti.
Bay Siegel, manipüle edilmiş görüntülerin ve sesin 4chan'ın sınırlarının çok ötesine yayılmadığını söyledi. Ancak marjinal mesaj panolarını izleyen uzmanlar, bu çabanın, hain İnternet kullanıcılarının önümüzdeki aylarda ve yıllarda çevrimiçi taciz ve nefret kampanyalarını güçlendirmek için gelişmiş yapay zeka araçlarını nasıl kullanabileceğine dair bir fikir sağladığını söyledi.
Dijital Nefretle Mücadele Merkezi araştırma direktörü Callum Hood, belki de en kötü şöhrete sahip olan 4chan gibi uç sitelerin, aşırı fikirleri hayata geçirmek için yeni teknolojilerin nasıl kullanıldığına dair sıklıkla erken uyarı işaretleri verdiğini söyledi. Bu platformların, “ideolojilerini ana akım alana geri yansıtmak” için yapay zeka gibi “yeni teknolojileri çok hızlı bir şekilde benimseyen” gençlerle dolu olduğunu söyledi.
Bu taktiklerin genellikle daha popüler çevrimiçi platformlardaki bazı kullanıcılar tarafından benimsendiğini söyledi.
Uzmanların 4chan'de keşfettiği yapay zeka araçlarından kaynaklanan çeşitli sorunları ve düzenleyicilerin ve teknoloji şirketlerinin bunlar hakkında neler yaptığını burada bulabilirsiniz.
Yapay görüntüler ve yapay zeka pornografisi
Dall-E ve Midjourney gibi yapay zeka araçları, basit metin açıklamalarından yeni görüntüler oluşturur. Ancak mevcut görüntülerden kıyafetlerin çıkarılması da dahil olmak üzere sahte pornografi oluşturmak için yeni bir yapay zeka görüntü oluşturucu dalgası geliştiriliyor.
Hood, çevrimiçi nefret ve yanlış bilgilendirme kampanyaları hakkında “Tam olarak istediklerinin resmini elde etmek için yapay zekayı kullanabilirler” dedi.
Sahte insan resimlerinin oluşturulmasını yasaklayan bir federal yasanın bulunmaması, Louisiana Şartlı Tahliye Kurulu gibi grupların ne yapılabileceği konusunda düşünmesine neden oluyor. Kurul, Bay Siegel'in 4chan hakkındaki bulgularına yanıt olarak bir soruşturma başlattı.
Louisiana Af Kurulu ve Şartlı Tahliye Komitesi'nin genel müdürü Francis Abbott, “Yönetim kurulu üyelerimizi veya duruşmalarımıza katılanları olumsuz şekilde tasvir eden herhangi bir görsele kesinlikle itiraz ederiz” dedi. “Fakat kanunlara uygun hareket etmek zorundayız ve bunun kanuna aykırı olup olmadığına karar vermek başkasının elinde.”
Illinois, intikam pornosu yasasını, AI sistemleri tarafından oluşturulan rıza dışı pornografi mağdurlarının içerik oluşturucuları veya dağıtımcıları dava etmesine izin verecek şekilde genişletti. California, Virginia ve New York da yapay zeka tarafından üretilen pornografinin izinsiz olarak dağıtılmasını veya oluşturulmasını yasaklayan yasalar çıkardı.
Sesleri klonla
Geçen yılın sonlarında, bir yapay zeka şirketi olan ElevenLabs, programa yazılan herhangi bir şeyi söyleyen bir kişinin sesinin ikna edici bir dijital kopyasını oluşturabilecek bir araç yayınladı.
Araç neredeyse yayına girer girmez, 4chan'daki kullanıcılar sahte İngiliz oyuncu Emma Watson'ın Adolf Hitler'in Mein Kampf manifestosunu okuduğu klipleri dağıtmaya başladı.
4chan kullanıcıları, Louisiana şartlı tahliye kurulu duruşmalarının içeriğini kullanarak, o zamandan beri yargıçların sanıklar hakkında saldırgan ve ırkçı yorumlar yaptığı sahte klipleri paylaştı. Kliplerin kökenini araştırmak için ElevenLabs tarafından geliştirilen yapay zeka konuşma tanımayı kullanan Bay Siegel'e göre, kliplerin çoğu ElevenLabs'ın aracı kullanılarak oluşturuldu.
ElevenLabs sınırları belirlemek için acele etti; kullanıcıların ödeme yapmasını zorunlu kılma ses klonlama araçlarına erişemeden önce. Ancak uzmanlar, değişikliklerin yapay zeka tarafından üretilen seslerin yayılmasını yavaşlatmadığını söyledi. Sahte ünlülerin seslerini içeren çok sayıda video TikTok ve YouTube'da dolaşıyor ve bunların çoğu siyasi dezenformasyon yayıyor.
Aralarında TikTok ve YouTube'un da bulunduğu bazı büyük sosyal medya şirketleri o zamandan beri bazı yapay zeka içerikleri için etiket talep etmeye başladı. Başkan Biden, Ekim ayında, tüm şirketlerin bu tür içerikleri etiketlemesini gerektiren ve Ticaret Bakanlığı'na yapay zeka içeriğinin filigranlanması ve kimliğinin doğrulanması için standartlar geliştirmesi talimatını veren bir idari emir yayınladı.
Özel yapay zeka araçları
Meta yapay zeka rekabetinde kendine yer edinmeye çalıştığında şirketin stratejisi yazılım kodunu araştırmacılara yayınlamaktı. Genellikle “açık kaynak” olarak adlandırılan bu yaklaşım, akademisyenlere ve teknoloji uzmanlarına iyileştirmeler bulmaları ve kendi araçlarını geliştirmeleri için daha fazla ham maddeye erişim olanağı sağlayarak gelişimi hızlandırabilir.
Şirket Şubat ayında büyük dil modeli Llama'yı seçkin araştırmacıların kullanımına sunduğunda kod hızla 4chan'a sızdırıldı. Oradaki insanlar bunu farklı amaçlar için kullandılar: Korkulukları indirmek veya kaldırmak için kodu optimize ettiler ve Yahudi karşıtı fikirler üretebilecek yeni sohbet robotları yarattılar.
Girişim, kullanımı ücretsiz ve açık kaynaklı yapay zeka araçlarının teknoloji meraklısı kullanıcılar tarafından nasıl optimize edilebileceğine dair bir fikir verdi.
Bir Meta sözcüsü bir e-postada şunları söyledi: “Modele herkes erişemese ve bazıları onay sürecini atlamaya çalışsa da, mevcut sürüm stratejisinin sorumluluk ve açıklık arasında denge kurmamıza izin verdiğine inanıyoruz.”
O günden bu yana geçen aylarda, aşırı sağın konuşmalarını yankılayacak veya daha müstehcen içerik yaratacak dil modelleri geliştirildi. Görüntü oluşturucular, 4chan kullanıcıları tarafından çıplak görüntüler üretecek veya ırkçı memler sunacak şekilde ayarlandı ve daha büyük teknoloji şirketlerinin kontrollerini atlattı.