Geçenlerde sızan bir Google’dan olduğu iddia edilen belge, açık kaynaklı yapay zekanın Google ve OpenAI’yi geride bırakacağını iddia etti. Sızıntı, AI topluluğunda bir AI sisteminin ve birçok bileşeninin araştırmacılar ve halkla nasıl paylaşılması gerektiğine dair devam eden konuşmaları ön plana çıkardı. Son zamanlardaki üretken yapay zeka sistemi sürümlerindeki yığınla bile, bu sorun çözülmemiş durumda.
Pek çok insan bunu ikili bir soru olarak düşünür: Sistemler açık kaynak veya kapalı kaynak olabilir. Açık geliştirme, gücü merkezden uzaklaştırır, böylece BigScience’ın BLOOM’unda görüldüğü gibi, birçok kişi kendi ihtiyaçlarını ve değerlerini yansıttığından emin olmak için yapay zeka sistemleri üzerinde topluca çalışabilir. Açıklık, daha fazla kişinin yapay zeka araştırma ve geliştirmesine katkıda bulunmasına olanak tanırken, daha fazla erişimle birlikte özellikle kötü niyetli kişilerden kaynaklanan zarar ve kötüye kullanım potansiyeli artar. Google’ın orijinal LaMDA sürümü gibi kapalı kaynaklı sistemler, geliştirici kuruluşun dışındaki aktörlerden korunur ancak harici araştırmacılar tarafından denetlenemez veya değerlendirilemez.
OpenAI’nin GPT-2’si de dahil olmak üzere, bu sistemler ilk kez yaygın kullanıma sunulmaya başladığından beri üretken yapay zeka sistem sürümlerini yönetiyor ve araştırıyorum ve şimdi Hugging Face’te etik açıklık hususlarına odaklanıyorum. Bu işi yaparken, basit bir ya/ya da sorusu yerine, açık kaynak ve kapalı kaynağı üretken yapay zeka sistemlerini serbest bırakmak için bir seçenekler gradyanının iki ucu olarak düşünmeye başladım.
İllüstrasyon: Irene Solaiman
Eğimin bir uç noktasında, halk tarafından bilinemeyecek kadar kapalı sistemler yer alır. Bariz sebeplerden dolayı bunların herhangi bir somut örneğini vermek zordur. Ancak eğimde sadece bir adım ötede, kamuya duyurulan kapalı sistemler, video üretimi gibi yeni modaliteler için giderek daha yaygın hale geliyor. Video üretimi nispeten yeni bir gelişme olduğundan, sunduğu riskler ve bunların en iyi nasıl azaltılacağı hakkında daha az araştırma ve bilgi var. Meta, Eylül 2022’de Make-a-Video modelini duyurduğunda, modeli paylaşmama nedenleri olarak herkesin gerçekçi, yanıltıcı içerik yapabilme kolaylığı gibi endişeleri gösterdi. Bunun yerine Meta, kademeli olarak araştırmacılara erişim izni vereceğini belirtti.
Eğimin ortasında, sıradan kullanıcıların en aşina olduğu sistemler yer alır. Örneğin, hem ChatGPT hem de Midjourney, geliştirici kuruluş OpenAI ve Midjourney’in, kamuoyunun talepte bulunabilmesi ve çıktılar üretebilmesi için modeli bir platform aracılığıyla paylaştığı, herkesin erişebileceği barındırılan sistemlerdir. Geniş erişimleri ve kodsuz arayüzleri ile bu sistemlerin hem yararlı hem de riskli olduğu kanıtlanmıştır. Ev sahibi kuruluşun dışındaki kişiler modelle etkileşime girebildiğinden, kapalı bir sistemden daha fazla geri bildirime izin verebilirken, bu kişiler sınırlı bilgiye sahiptir ve örneğin eğitim verilerini veya modelin kendisini değerlendirerek sistemi sağlam bir şekilde araştıramazlar.
Eğimin diğer ucunda, eğitim verilerinden koda ve modelin kendisine kadar tüm bileşenler tamamen açık ve herkes tarafından erişilebilir olduğunda bir sistem tamamen açıktır. Üretken yapay zeka, açık araştırma ve Google’ın tamamen açık olan BERT’si gibi eski sistemlerden alınan dersler üzerine kuruludur. Günümüzde en çok kullanılan tamamen açık sistemlerin öncülüğünü demokratikleşme ve şeffaflık odaklı kuruluşlar yapmaktadır. Hugging Face’in (ki ben de katkıda bulunuyorum) ev sahipliği yaptığı girişimler—ServiceNow ile birlikte yönetilen BigScience ve BigCode gibi—ve EleutherAI gibi merkezi olmayan kolektifler tarafından dünya çapında birçok dili ve insanı içerecek şekilde açık sistemler oluşturmak için artık popüler vaka incelemeleri haline geldi.
Kesin olarak güvenli bir serbest bırakma yöntemi veya standartlaştırılmış bir serbest bırakma normları seti yoktur. Standartları belirlemek için yerleşik bir organ da yoktur. ELMo ve BERT gibi ilk üretken yapay zeka sistemleri, GPT-2’nin 2019’daki aşamalı sürümüne kadar büyük ölçüde açıktı ve bu, sürüm veya yayınlama yükümlülüklerinin ne olması gerektiği gibi giderek daha güçlü sistemlerin sorumlu bir şekilde dağıtılması hakkında yeni tartışmalara yol açtı. O zamandan bu yana, özellikle büyük kuruluşlardan olmak üzere çeşitli modalitelerdeki sistemler, kapalılığa doğru kayarak, gücün bu sistemleri geliştirip uygulayabilen yüksek kaynaklı kuruluşlarda yoğunlaşmasına ilişkin endişeleri artırdı.
