30 Mayıs (Reuters) – (Not: 10. paragrafta argo dil)
Hillary Clinton sürpriz bir çevrimiçi onay videosunda “Aslında Ron DeSantis’i çok seviyorum” diyor. O, bu ülkenin ihtiyaç duyduğu türden bir adam ve gerçekten bunu kastediyorum.”
Joe Biden nihayet maskenin kaymasına izin vererek bir transseksüel kişiye acımasız bir rant salıverdi. Başkan, “Asla gerçek bir kadın olamayacaksın,” diye hırlıyor.
Gerçeğin kapışıldığı Amerika’nın 2024 başkanlık yarışına hoş geldiniz.
Clinton ve Biden’ın derin sahtekarlıkları – çok sayıda çevrimiçi görüntü üzerinde eğitilmiş yapay zeka algoritmaları tarafından oluşturulan gerçekçi ama uydurma videolar – ABD siyasetinin kutuplaşmış dünyasında sosyal medyada ortaya çıkan binlerce gerçek ve kurguyu bulanıklaştırıyor.
Bu tür sentetik medya birkaç yıldır ortalıkta dolaşırken, Reuters’in yaklaşık iki kişiyle yaptığı röportajlara göre, geçtiğimiz yıl Midjourney gibi inandırıcı deepfake’ler oluşturmayı ucuz ve kolay hale getiren bir dizi yeni “üretken yapay zeka” aracıyla turboşarj edildi. AI, çevrimiçi yanlış bilgilendirme ve siyasi aktivizm gibi alanlarda düzinelerce uzman.
Brookings’in kıdemli üyesi Darrell West, “Seçmenlerin gerçeği sahteden ayırması çok zor olacak. Ve Trump destekçilerinin veya Biden destekçilerinin bu teknolojiyi rakibi kötü göstermek için nasıl kullanabileceklerini hayal edebilirsiniz.” Kurumun Teknoloji Yenilik Merkezi.
“Seçimden hemen önce kimsenin alt etme şansının olmadığı şeyler olabilir.”
Teknolojinin toplum üzerindeki etkisini inceleyen kâr amacı gütmeyen bir kuruluş olan Center for Human Technology’nin kurucu ortağı Aza Raskin, teknoloji sektörü bir yapay zeka silahlanma yarışına girerken zararlı yanlış bilgileri önlemek için deepfake oluşturabilen araçların az sayıda veya kusurlu korkuluklarla piyasaya sürüldüğünü söyledi. .
Biden’la yüzleşmek için DeSantis ve diğerleriyle Cumhuriyetçi adaylık için yarışacak olan eski Başkan Donald Trump, bu ayın başlarında sosyal medya platformu Truth Social’da CNN sunucusu Anderson Cooper’ın üzerinde oynanmış bir videosunu paylaştı.
Cooper görüntüde, “Bu, Başkan Donald J. Trump’ın burada, CNN’in canlı başkanlık belediye binasında bize yeni bir pislik kazımasıydı,” diyor, ancak sözler dudak hareketiyle eşleşmese de.
CNN, videonun bir derin sahte olduğunu söyledi. Trump’ın bir temsilcisi, bu hafta hala oğlu Donald Jr’ın Twitter sayfasında yer alan kliple ilgili yorum talebine yanıt vermedi.
Facebook, Twitter ve YouTube gibi büyük sosyal medya platformları derin sahtekarlıkları yasaklamak ve kaldırmak için çaba gösterse de, bu tür içerikleri denetlemedeki etkinlikleri değişkenlik gösteriyor.
DEEPFAKE PENCE, TRUMP DEĞİL
Sentetik medyayı tespit etmek için araçlar üzerinde çalışan bir şirket olan DeepMedia’ya göre, 2022’nin aynı dönemine kıyasla bu yıl çevrimiçi olarak yayınlanan her türden üç kat daha fazla video deepfake ve sekiz kat daha fazla sesli deepfake var.
DeepMedia’nın tahminlerine göre, 2023’te dünya çapında sosyal medya sitelerinde toplamda yaklaşık 500.000 video ve ses derin sahte paylaşılacak. Bir sesin klonlanması, geçen yılın sonlarına kadar sunucu ve yapay zeka eğitimi için 10.000 dolara mal oluyordu, ancak şimdi yeni başlayanlar bunu birkaç dolara sunuyor, diyor.
Görüşülen kişilere göre, üretici yapay zeka yolunun nereye varacağından veya yapay zekanın kitlesel yanlış bilgilendirme gücüne karşı etkili bir şekilde nasıl korunacağından kimse emin değil.
Son aylarda ChatGPT’nin piyasaya sürülmesiyle ve güncellenmiş GPT-4 modeliyle oyunu değiştiren sektör lideri OpenAI, bu sorunla boğuşuyor. CEO Sam Altman bu ay Kongre’ye seçim bütünlüğünün “önemli bir endişe alanı” olduğunu söyledi ve sektörün hızlı bir şekilde düzenlenmesini istedi.
Reuters’in üretken yapay zeka hizmetleri sunan yarım düzine önde gelen şirketin kullanım koşullarına ilişkin bir analizine göre, bazı küçük girişimlerin aksine OpenAI, ürünlerinin siyasette kullanımını kısıtlamak için adımlar attı.
Ancak korkuluklarda boşluklar var.
Örneğin OpenAI, görüntü oluşturucusu DALL-E’nin tanınmış figürler oluşturmasını yasakladığını söylüyor – ve gerçekten de Reuters, Trump ve Biden’ın görüntülerini oluşturmaya çalıştığında, istek engellendi ve “içerik politikamıza uymayabilir. “
Yine de Reuters, Beyaz Saray’ın 2024 adaylığını değerlendiren eski Başkan Yardımcısı Mike Pence de dahil olmak üzere en az bir düzine başka ABD’li politikacının görüntülerini oluşturabildi.
OpenAI, ürünlerinin siyasi amaçlarla her türlü “ölçekli” kullanımını da kısıtlar. Bu, örneğin, seçmenlere toplu kişiselleştirilmiş e-postalar göndermek için yapay zekasının kullanılmasını yasaklar.
Microsoft tarafından desteklenen şirket, bir röportajda siyasi politikalarını Reuters’e açıkladı, ancak politikalarındaki uygulama boşlukları hakkında, politikacıların imaj oluşturmasını engellemek gibi daha fazla yorum taleplerine yanıt vermedi.
Birkaç küçük girişimin siyasi içerik konusunda açık kısıtlamaları yoktur.
Geçen yıl piyasaya sürülen Midjourney, resmi Discord sunucusunda 16 milyon kullanıcıyla yapay zeka tarafından oluşturulan görüntülerde lider oyuncu. Dört AI araştırmacısına göre, resim miktarı ve hızı gibi faktörlere bağlı olarak ayda ücretsiz ile 60 $ arasında değişen uygulama, ünlülerin ve politikacıların hiper-gerçekçi görüntülerini oluşturma yeteneği nedeniyle AI tasarımcılarının ve sanatçılarının favorisi. içerik oluşturucular röportaj yaptı.
Midjourney, bu makale için yapılan yorum talebine yanıt vermedi. Geçen hafta Discord’da çevrimiçi bir sohbet sırasında CEO David Holz, şirketin yanlış bilgilerle mücadele etmek için seçimlerden önce büyük olasılıkla değişiklikler yapacağını söyledi.
Holz, Midjourney’nin yapay zeka tarafından oluşturulan görüntülerin dijital filigran eşdeğeri ile izlenebilirliğini sağlamak için bir endüstri çözümü üzerinde işbirliği yapmak istediğini ve siyasi adayların görüntülerini engellemeyi düşüneceğini de sözlerine ekledi.
AI-OLUŞTURULAN CUMHURİYET REKLAMI
Sektör kötüye kullanımın nasıl önleneceği ile boğuşurken bile, bazı siyasi oyuncular kampanyaları güçlendirmek için üretken yapay zekanın gücünden yararlanmaya çalışıyor.
Şimdiye kadar, ABD’de yapay zeka tarafından oluşturulan tek yüksek profilli siyasi reklam, Nisan ayı sonunda Cumhuriyetçi Ulusal Komite tarafından yayınlanan reklamdı. RNC’nin tamamen yapay zeka tarafından oluşturulduğunu ifşa ettiği 30 saniyelik reklam, Çin’in Tayvan’ı işgal etmesi ve San Francisco’nun suç nedeniyle kapatılmasıyla Biden’ın yeniden seçilmesi durumunda felaket bir senaryo önermek için sahte görüntüler kullandı.
RNC, reklam veya daha geniş yapay zeka kullanımı hakkında yorum taleplerine yanıt vermedi. Demokratik Ulusal Komite, teknolojiyi kullanımı hakkında yorum yapmaktan kaçındı.
Reuters, tüm Cumhuriyetçi başkanlık kampanyalarını yapay zeka kullanımları konusunda anket yaptı. Nikki Haley’nin ekibi teknolojiyi kullanmadıklarını söylese de çoğu yanıt vermedi ve uzun vadeli aday Perry Johnson’ın kampanyası, daha fazla ayrıntı vermeden “kopya oluşturma ve yineleme” için yapay zeka kullandığını söyledi.
Üretken yapay zekanın kampanya e-postaları, gönderileri ve reklamları üretme potansiyeli, düşük maliyetli teknolojinin seçimlerde oyun alanını eşitleyebileceğini düşünen bazı aktivistler için karşı konulamaz.
Michigan, Hillsdale kırsalının derinliklerinde bile makine zekası ilerliyor.
Michigan’ın 5. Kongre bölgesinin Cumhuriyetçi başkanı Jon Smith, müttefiklerinin yapay zekayı sosyal medya ve reklam üretimi için kullanmayı öğrenebilmesi için birkaç eğitim toplantısı düzenliyor.
“AI, büyük kedilere karşı oynamamıza yardımcı oluyor” dedi. “En büyük artışı yerel ırklarda görüyorum. 65 yaşında, çiftçi ve ilçe komiseri biri, teknolojiyi kullanarak daha genç bir kedi tarafından kolayca seçilebilir.”
Siyasi danışmanlar da yapay zekadan yararlanmaya çalışıyor ve gerçek ile gerçek dışı arasındaki çizgiyi daha da bulandırıyor.
Kurucu Will Long bir röportajda, Cumhuriyetçi müşterilere odaklanan bir siyasi veri şirketi olan Numinar Analytics’in, bir adayın sesinde potansiyel olarak kişiselleştirilmiş mesajlar oluşturmak için ses ve görüntüler için AI içerik üretiminin yanı sıra ses üretimi ile deneyler yapmaya başladığını söyledi.
Demokratik oylama ve strateji grubu Honan Strateji Grubu bu arada bir yapay zeka anket robotu geliştirmeye çalışıyor. CEO Bradley Honan, hem erkeklerin hem de kadınların bir kadın görüşmeciyle konuşma olasılığının daha yüksek olduğunu gösteren bir araştırmaya atıfta bulunarak, 2023 belediye seçimleri için zamanında bir kadın botu açmayı umduğunu söyledi.
Alexandra Ulmer ve Anna Tong’un San Francisco’dan yaptığı haber; Christina Anagnostopoulos, Zeba Siddiqui ve Jonathan Spicer’ın ek raporları; Kurgu: Kenneth Li, Ross Colvin ve Pravin Char
Standartlarımız: Thomson Reuters Güven İlkeleri.
