LAS VEGAS, 30 Kasım (Reuters) – Amazon.com Inc (AMZN.O), yapay zeka sistemlerinin farklı gruplara karşı ayrımcılık yapabileceğine dair devam eden endişelerin ışığında, bulut bilişim bölümü tarafından satılan yazılımlar için uyarı kartları çıkarmayı planlıyor. şirket Reuters’e söyledi.
Uzun beslenme etiketlerine benzer şekilde, Amazon’un sözde AI Hizmet Kartları, ticari müşterilerinin yüz tanıma ve sesli transkripsiyon gibi belirli bulut hizmetlerinin sınırlamalarını görebilmesi için halka açık olacak. Amazon, amacının, teknolojisinin yanlış kullanımını önlemek, sistemlerinin nasıl çalıştığını açıklamak ve gizliliği yönetmek olduğunu söyledi.
Şirket, bu tür uyarıları ilk yayınlayan şirket değil. Bulutta daha küçük bir oyuncu olan International Business Machines Corp (IBM.N), bunu yıllar önce yaptı. 3 numaralı bulut sağlayıcısı Alphabet Inc’in Google’ı da yapay zekasının bir kısmını eğitmek için kullandığı veri kümeleri hakkında daha fazla ayrıntı yayınladı.
Yine de Amazon’un Çarşamba günü ilk üç hizmet kartını yayınlama kararı, endüstri liderinin, yıllar önce sivil özgürlükleri eleştirenlerle kamuoyunda yaşadığı bir tartışmanın, yapay zeka etiğini akranlarından daha az önemsediği izlenimini bırakmasının ardından imajını değiştirme girişimini yansıtıyor. Hareket, şirketin Las Vegas’taki yıllık bulut konferansıyla aynı zamana denk gelecek.
Pennsylvania Üniversitesi profesörü ve 2020’den beri Amazon’da akademisyen olan Michael Kearns, kartları verme kararının şirketin yazılımının gizlilik ve adalet denetimlerinin ardından alındığını söyledi. Kearns, kartların, teknoloji düzenlemesinin ufukta göründüğü bir zamanda yapay zeka etiği endişelerini kamuya açık bir şekilde ele alacağını söyledi.
“Bu lansmanla ilgili en büyük şey, bunu sürekli ve genişletilmiş bir temelde yapma taahhüdüdür” dedi.
Amazon, Kearns’ın zaman içinde ayrıntılı olarak büyümesini beklediği hizmet kartları için başlangıç olarak hassas demografik sorunlara değinen yazılımları seçti.
CİLT TONLARI
Böyle bir hizmete “Tanıma” denir. 2019’da Amazon, teknolojinin daha koyu ten tonlarına sahip bireylerin cinsiyetini belirlemekte zorlandığını söyleyen bir araştırmaya itiraz etti. Ancak 2020’de silahsız bir Siyahi olan George Floyd’un bir tutuklama sırasında öldürülmesinin ardından şirket, polisin yüz tanıma yazılımının kullanımına ilişkin bir moratoryum yayınladı.
Amazon, Reuters tarafından görülen bir hizmet kartında Rekognition’ın yüzün bir insan tarafından tanınamayacak kadar bulanık ve grenli veya yüzün büyük bir kısmının saç, el ve diğer nesneler.” Ayrıca çizgi filmlerdeki ve diğer “insan dışı varlıklardaki” eşleşen yüzlere karşı da uyarıda bulunuyor.
Reuters tarafından ses kaydıyla ilgili görülen başka bir uyarı kartında Amazon, “Ses girişlerini tutarsız bir şekilde değiştirmek, farklı demografik gruplar için haksız sonuçlara yol açabilir” diyor. Kearns, yalnızca Kuzey Amerika’daki çok çeşitli bölgesel aksanları ve lehçeleri doğru bir şekilde kopyalamanın Amazon’un çözmeye çalıştığı bir zorluk olduğunu söyledi.
Berkeley’deki California Üniversitesi’ndeki AI Security Initiative’in direktörü Jessica Newman, teknoloji şirketlerinin bu tür açıklamaları sorumlu AI uygulamalarının bir işareti olarak giderek daha fazla yayınladığını, ancak daha kat etmeleri gereken bir yol olduğunu söyledi.
Daha fazla endüstri standardı için çağrıda bulunarak, “İnsanların yaşamları üzerinde muazzam bir etkiye sahip olabilecek sistemlerin temel ayrıntılarını sağlamak için şirketlerin iyi niyetine bağımlı olmamalıyız” dedi.
İki büyük şirkette beslenme etiketleri üzerinde çalışan bir kişinin söylediğine göre teknoloji devleri, bu tür belgeleri insanların okuyabileceği kadar kısa, ancak sık yazılım değişikliklerini yansıtacak kadar ayrıntılı ve güncel hale getirmekle boğuştu.
Raporlama Las Vegas’ta Jeffrey Dastin ve Oakland’da Paresh Dave tarafından yapılmıştır; Kurgu, Bradley Perrett
Standartlarımız: Thomson Reuters Güven İlkeleri.
