Bir kaç hafta Daha önce, bir kurucu bana yapay zeka tarafından oluşturulmuş bir Siyah kadın portresini bulmanın üç saat boyunca sonsuz tıklama gerektirdiğini söyledi. Bazı yönlerden bana üç yıl önce gördüğüm bir konuşmayı hatırlattı. yasemin yeşilJigsaw’un o zamanki araştırma ve geliştirme direktörü olan , insan önyargısının yapay zeka programlamasına nasıl sızdığı hakkında konuştu. Konuşması ve kilometrelerce uzakta ve yıllar arayla bu kurucu, aynı yapbozun iki parçası.
Yapay zeka yeni bir altın çağa girerken, çeşitlilik hakkındaki tartışmalar her zamankinden daha önemli. Ortaya çıkan her yeni teknolojiye bazı üzücü sonuçlar eşlik ediyor gibi görünüyor. Şimdiye kadar, AI ırkçı işe alma taktiklerine ve Siyahlar için daha yavaş ev onay oranlarına katkıda bulundu. Kendi kendine giden arabaların koyu teni algılamakta güçlük çekmesi, Siyahların bunlara çarpma olasılığını artırıyor; bir örnekte, robotlar Siyah erkekleri beyaz erkeklere göre %9 daha fazla suçlu olarak tanımladı ve bu, yargı sistemleri yapay zekayı benimsemeye başlarsa yeni bir ışık altına alınacaktı.
“Yapay zeka toplumu etkisi altına alırken, geliştiricilerin ve şirketlerin bu teknolojinin iyi birer temsilcisi olması ve aynı zamanda bu etik olmayan kullanım durumlarından sorumlu teknoloji uzmanlarını sorumlu tutması kritik önem taşıyor.” Isoken Igbinedion, Parfait’in kurucu ortağı
AI etiği, genellikle AI inşa etmekten ayrı bir konuşmadır, ancak bunlar bir ve aynı olmalıdır. Önyargı, özellikle yapay zeka günlük yaşama yayılmaya devam ederken tehlikelidir. Yüzyıllar boyunca, doktorlar bir zamanlar Siyahları artık ırkçı kabul edilen kriterlere göre yargıladılar ve yaygın bir inanç, bu tür insanların daha az acı yaşadıklarıydı. Bugün, algoritmalar Siyahlara karşı ayrımcılık yapıyor; 2019’da yapılan bir araştırma, ABD hastaneleri tarafından kullanılan bir algoritmanın “Karmaşık tıbbi ihtiyaçları olan hastalara yönelik bakımı iyileştirmeyi amaçlayan programlara eşit derecede hasta olan beyazlara kıyasla Siyahları yönlendirme olasılığının daha düşük olduğunu” buldu.
Şu anda, önyargı, yatırımdan işe alıma, veri ve ürün yürütmeye kadar çeşitli yapay zeka alt sektörlerinde ortaya çıkıyor ve her önyargı örneği diğerlerini destekliyor. Eghosa OmoiguiEchoVC Partners’ın kurucusu TechCrunch’a, AI’nın “inanılmaz derecede güçlü” olabilmesine rağmen, toplumun hala “kusursuz” yapay zekadan uzak olduğunu söyledi.
“Bu, eğitim verilerinin kaynaklarına, ağırlıklarına ve önyargılarına aşırı bağımlılık nedeniyle sonuçlarda AI yanlılığı olasılığının yüksek olduğu anlamına geliyor” dedi. “Çeşitli ekipler, küresel etki yaratmak için gereken mükemmel anlayış ve duyarlılığa öncelik verecek.”
ESG uyum düzenleyicisi Weave.AI’nin kurucusu Omoigui’nin kardeşi Nosa, bu noktayı yineledi. Bu modellerin birçoğunun kara kutu olduğunu ve yaratıcıların, bir tahminin veya tavsiyenin nasıl elde edildiğine dair iç işleyişlere dair özel bir içgörüye sahip olmadığını söyledi. Wall Street ile karşılaştırıldığında, yapay zeka pratik olarak denetimsizdir ve yönetişim düzeyi büyümesine ayak uyduramadığından, hile yapma riski taşır. AB, AI destekli ürünlerde önyargıyı azaltmak ve hesaba katmak için adımlar önerdi, ancak teklifin kendisi onu ABD’nin şu an bulunduğu yerin biraz önüne koyuyor.
Aslında Eghosa, birçok yatırımcının yapay zeka içindeki çeşitliliği hiç umursamadığını veya düşünmediğini ve makine liderliğindeki yetenekler söz konusu olduğunda grup düşüncesi zihniyetinin olduğunu söyledi. Yapay zekayı önyargı ve risklere karşı izleyen yazılım şirketi KOSA AI için bir yatırım turunun liderliğine yardım ettiğinde yatırımcıların kendisine verdiği tepkileri hatırladı.
Eghosa, “Fırsat hakkında konuştuğumuz pek çok yatırımcı, yapay zeka önyargısının bir şey olmadığını veya ‘uyandırılmış bir ürünün’ ürün-pazar uyumuna sahip olmayacağını çok güçlü bir şekilde hissetti, ki bu en hafif tabirle şaşırtıcı,” dedi. söz konusu.
