Solaiman, her değerlendirmenin bir AI modeline açılan bir pencere olduğunu ve her zaman nasıl performans göstereceğine dair mükemmel bir okuma olmadığını söylüyor. Ancak AI Dungeon oyununun oyuncularının GPT-3’ü çocukların dahil olduğu seks sahnelerini açıklayan metinler oluşturmak için kullanması da dahil olmak üzere endişe verici vakalar zaten ortaya çıktığından, AI’nın neden olabileceği zararları belirlemeyi ve durdurmayı mümkün kılmayı umuyor. Solaiman, “Bu, olmasına izin veremeyeceğimiz aşırı bir durum” diyor.
Solaiman’ın Hugging Face’teki son araştırması, büyük teknoloji şirketlerinin 2018’den 2022’ye kadar piyasaya sürdükleri üretken modellere giderek daha kapalı bir yaklaşım benimsediğini ortaya çıkardı. GPT-2’nin aşamalı sürümü. Solaiman, atılımlarını ticari sır olarak koruyan şirketlerin, yapay zekanın ön saflarını çok az kaynağa sahip marjinal araştırmacılar için daha az erişilebilir hale getirebileceğini söylüyor.
Büyük dil modellerine daha fazla para akıtıldıkça, kapalı sürümler, doğal dil işleme alanının tarihi boyunca görülen eğilimi tersine çeviriyor. Araştırmacılar, sonuçların tekrarlanabilirliğini artırmak için geleneksel olarak eğitim veri setleri, parametre ağırlıkları ve kod hakkında ayrıntıları paylaştılar.
Çalışmaları büyük dil modellerine odaklanan Stanford Üniversitesi’nde doktora öğrencisi olan Alex Tamkin, “Hangi veritabanı sistemlerinin üzerinde eğitildiği veya bunların nasıl değerlendirildiği hakkında, özellikle de ürün olarak piyasaya sürülen en güçlü sistemler için giderek daha az bilgi sahibi oluyoruz” diyor.
Teknoloji milyarlarca insana dağıtıldığında hızlı hareket etmenin ve bir şeyleri bozmanın neden tehlikeli olduğu konusunda kamu bilincini yükselttikleri için yapay zeka etiği alanındaki insanlara itibar ediyor. Son yıllarda yapılan bu çalışmalar olmasaydı, işler çok daha kötü olabilirdi.
Tamkin, 2020 sonbaharında OpenAI’nin politika direktörü Miles Brundage ile büyük dil modellerinin toplumsal etkisi hakkında bir sempozyumun eş başkanlığını yaptı. Disiplinlerarası grup, endüstri liderlerinin etik standartlar belirlemesi ve dağıtımdan önce önyargı değerlendirmeleri yapmak ve belirli kullanım örneklerinden kaçınmak gibi adımlar atması gerektiğini vurguladı.
Tamkin, dahili değerlendirmeler genellikle yetersiz kaldığından, harici yapay zeka denetim hizmetlerinin yapay zeka üzerine inşa edilen şirketlerle birlikte büyümesi gerektiğine inanıyor. Topluluk üyelerini ve diğer paydaşları içeren katılımcı değerlendirme yöntemlerinin, yapay zeka modellerinin oluşturulmasında demokratik katılımı artırmak için büyük bir potansiyele sahip olduğuna inanıyor.
Michigan Üniversitesi’ndeki bir AI etik ve politika merkezinde araştırma direktörü olan Merve Hickok, şirketlerin AI yutturmacasını bir kenara bırakmaya veya delmeye, kendilerini düzenlemeye ve etik ilkeleri benimsemeye çalışmanın yeterli olmadığını söylüyor. İnsan haklarını korumak, neyin etik olduğuna dair geçmişteki konuşmaları neyin yasal olduğuna dair konuşmalara taşımak anlamına geliyor, diyor.
DAIR’den Hickok ve Hanna, Avrupa Birliği’nin metin ve görüntü üreten modellere nasıl davrandığını görmek için bu yıl AI Yasasını tamamlamasını izliyor. Hickok, özellikle Avrupalı yasa koyucuların Google, Microsoft ve OpenAI gibi şirketler tarafından oluşturulan modellerle ilgili zarar sorumluluğunu nasıl ele aldıklarını görmekle ilgilendiğini söyledi.
Hickok, “Bazı şeylerin zorunlu kılınması gerekiyor çünkü bu şirketlerin zorunlu kılınmadığı takdirde bir şeyleri bozmaya ve haklar yerine kâr elde etmeye ve topluluklar üzerinde kâr sağlamaya devam ettiğini defalarca gördük” diyor.
Politika Brüksel’de hashedilirken, çıkarlar yüksek olmaya devam ediyor. Bard demo hatasından bir gün sonra, Alphabet’in hisse senedi fiyatındaki düşüş, piyasa değerinde yaklaşık 100 milyar dolar azalttı. Hanna, “Bu ölçekte büyük bir dil modeli hatası nedeniyle servetin bu şekilde yok edildiğini ilk kez görüyorum” diyor. Bununla birlikte, bunun şirketi lansman acelesini yavaşlatmaya ikna edeceği konusunda iyimser değil. “Tahminimce bu gerçekten uyarıcı bir hikaye olmayacak.”
16.02.2023, 12.15 pm EST’de güncellendi: Bu makalenin önceki bir sürümünde Merve Hickok’un adı yanlış yazılmıştı.
