ile silahlı Teknolojinin üretici potansiyeline olan inançla, giderek artan sayıda araştırmacı ve şirket, beyaz olmayan insanların yapay görüntülerini oluşturarak yapay zekadaki önyargı sorununu çözmeyi amaçlıyor. Taraftarlar, AI destekli jeneratörlerin, mevcut görüntü veritabanlarındaki çeşitlilik boşluklarını, sentetik görüntülerle destekleyerek düzeltebileceğini savunuyorlar. Bazı araştırmacılar, veri kümelerinin “etnik dağılımını dengelemek” için insanların mevcut fotoğraflarını yeni ırklarla eşlemek için makine öğrenimi mimarilerini kullanıyor. Generated Media ve Qoves Lab gibi diğerleri, görüntü bankaları için tamamen yeni portreler oluşturmak üzere benzer teknolojileri kullanıyor, Qoves Lab’ın ifadesiyle “gerçekten adil bir yüz veri kümesi” sağlamak için “her ırk ve etnik kökenden … yüzler inşa ediyor”. Gördükleri gibi, bu araçlar, komut üzerinde çeşitli görüntüleri ucuz ve verimli bir şekilde üreterek veri sapmalarını çözecektir.
Bu teknoloji uzmanlarının çözmeye çalıştıkları sorun kritik bir sorundur. AI’lar kusurlarla dolu, Asyalı yüzleri ayırt edemedikleri için telefonların kilidini yanlış kişi için açıyorlar, insanları işlemedikleri suçlarla yanlış bir şekilde suçluyorlar ve daha koyu tenli insanları gorillerle karıştırıyorlar. Bu muhteşem başarısızlıklar anormallikler değil, yapay zekaların üzerinde eğitildiği verilerin kaçınılmaz sonuçlarıdır ve bu da çoğunlukla büyük ölçüde beyaz ve erkektir – bu araçları, bu dar arketipe uymayan herkes için kesin olmayan araçlar haline getirir. Teorik olarak, çözüm basit: Sadece daha çeşitli eğitim setleri geliştirmemiz gerekiyor. Yine de uygulamada, bu tür sistemlerin ihtiyaç duyduğu girdilerin ölçeği ve verilerdeki mevcut eksikliklerin boyutu sayesinde inanılmaz derecede emek yoğun bir görev olduğu kanıtlanmıştır (örneğin, IBM tarafından yapılan bir araştırma, önde gelen sekiz yüz veri kümeleri yüzde 80’in üzerinde daha açık tenli yüzlerden oluşuyordu). Bu nedenle, manuel kaynak bulma olmadan çeşitli veri kümelerinin oluşturulabilmesi, cezbedici bir olasılıktır.
Ancak bu teklifin hem araçlarımızı hem de onlarla ilişkimizi nasıl etkileyebileceğine daha yakından baktıkça, uygun görünen bu çözümün uzun gölgeleri korkutucu bir şekil almaya başlıyor.
Bilgisayar görüşü vardır 20. yüzyılın ortalarından beri bir şekilde geliştirilmektedir. Başlangıçta araştırmacılar, istenen bir görüntü sınıfını belirlemek için kuralları (“insan yüzlerinin iki simetrik gözü vardır”) manuel olarak tanımlayarak yukarıdan aşağıya araçlar oluşturmaya çalıştılar. Bu kurallar bir hesaplama formülüne dönüştürülecek, ardından tanımlanan nesneninkine karşılık gelen piksel modellerini aramasına yardımcı olacak bir bilgisayara programlanacaktır. Bununla birlikte, bir fotoğrafı oluşturabilecek öznelerin, açıların ve aydınlatma koşullarının çok çeşitli olması ve basit kuralları bile tutarlı formüllere çevirmenin zorluğu göz önüne alındığında, bu yaklaşım büyük ölçüde başarısız oldu.
Zamanla, herkese açık görüntülerdeki artış, makine öğrenimi yoluyla daha aşağıdan yukarıya bir süreci mümkün kıldı. Bu metodoloji ile, etiketlenmiş verilerin toplu kümeleri bir sisteme beslenir. Algoritma, “denetimli öğrenme” yoluyla bu verileri alır ve araştırmacılar tarafından belirlenen istenen kategoriler arasında ayrım yapmayı kendi kendine öğretir. Bu teknik, farklı koşullar arasında değişebilen kurallara dayanmadığı için yukarıdan aşağıya yöntemden çok daha esnektir. Makine, kendisini çeşitli girdiler üzerinde eğiterek, belirli bir sınıfın görüntüleri arasındaki ilgili benzerlikleri, bu benzerliklerin ne olduğu açıkça söylenmeden belirleyebilir ve çok daha uyarlanabilir bir model oluşturur.
Yine de, aşağıdan yukarıya yöntem mükemmel değildir. Özellikle, bu sistemler büyük ölçüde sağladıkları verilerle sınırlıdır. Teknoloji yazarı Rob Horning’in belirttiği gibi, bu tür teknolojiler “kapalı bir sistem varsayar.” Kendilerine verilen parametrelerin ötesine geçmekte zorlanırlar, bu da iyi eğitilmedikleri konularla karşılaştıklarında sınırlı performansa yol açar; örneğin, verilerdeki tutarsızlıklar, Microsoft’un FaceDetect’inin daha koyu tenli kadınlar için yüzde 20’lik bir hata oranına sahip olmasına neden olurken, beyaz erkekler için hata oranı yüzde 0 civarındaydı. Bu eğitim önyargılarının performans üzerindeki dalgalanma etkileri, teknoloji etikçilerinin veri kümesi çeşitliliğinin önemini vaaz etmeye başlamasının ve şirketlerin ve araştırmacıların sorunu çözme yarışına girmesinin nedenidir. AI’daki popüler deyişin dediği gibi, “çöp içeri, çöp dışarı.”
Bu özdeyiş, kendilerini fotogerçekçi temsil sanatında eğitmek için büyük veri kümeleri gerektiren görüntü oluşturucular için de aynı şekilde geçerlidir. Günümüzde çoğu yüz jeneratörü, temel mimarileri olarak Üretken Düşman Ağları (veya GAN’lar) kullanır. GAN’lar özünde, birbiriyle oyun halinde olan bir Oluşturucu ve bir Ayırıcı olmak üzere iki ağa sahip olarak çalışır. Jeneratör, gürültü girişlerinden görüntüler üretirken, bir Ayırıcı, oluşturulan sahte görüntüleri bir eğitim seti tarafından sağlanan gerçek görüntülerden ayırmaya çalışır. Zamanla, bu “düşmanca ağ”, Oluşturucunun bir Ayrımcının sahte olarak tanımlayamadığı görüntüleri iyileştirmesine ve oluşturmasına olanak tanır. İlk girdiler bu sürece çapa görevi görür. Tarihsel olarak, yeterince gerçekçi sonuçlar üretmek için bu görüntülerin on binlercesine ihtiyaç duyulmuştur ve bu, bu araçların uygun şekilde geliştirilmesinde çeşitli bir eğitim setinin önemini göstermektedir.
