BigScience, bir topluluk Metin üreten yapay zekayı geniş çapta kullanılabilir hale getirme hedefiyle Hugging Face girişimi tarafından desteklenen proje, internetteki insanlardan gelen kaynakları birleştirerek yapay zekayı ChatGPT gibi çalıştırabilen Petals adlı bir sistem geliştiriyor. Kodu geçen ay herkese açık olarak yayınlanan Petals ile gönüllüler, metin üreten bir iş yükünün bir kısmıyla başa çıkmak için donanım güçlerini bağışlayabilir ve Folding@home ve diğer dağıtılmış bilgi işlem kurulumlarına benzer şekilde daha büyük görevleri tamamlamak için başkalarını ekip oluşturabilir.
Petals’ın baş geliştiricisi ve Yandex’de bir araştırma mühendisi olan Alexander Borzunov, TechCrunch’a bir e-posta röportajında ”Petals, Hugging Face, Yandex Research ve Washington Üniversitesi’ndeki araştırmacılar tarafından devam eden bir ortak projedir” dedi. “Genellikle daha az esnek olan API’lerin aksine, Petals tamamen açık kaynaktır, bu nedenle araştırmacılar, API’lerde henüz bulunmayan en son metin oluşturma ve sistem uyarlama yöntemlerini entegre edebilir veya özelliklerini incelemek için sistemin dahili durumlarına erişebilir.”
Açık kaynak, ancak ücretsiz değil
Tüm kusurlarına rağmen, ChatGPT gibi metin üreten yapay zeka oldukça yararlı olabilir – en azından sosyal medyadaki viral demolar dikkate alınacak bir şeyse. ChatGPT ve benzerleri, büyük ölçekte insan benzeri kod, metin ve formüller üreterek programcıları, yazarları ve hatta veri bilimcileri tipik olarak çıkmaza sokan sıradan işlerin bazılarını otomatikleştirmeyi vaat ediyor.
Ama çalıştırılmaları pahalıdır. birine göre tahmin etmekChatGPT, geliştiricisi OpenAI’ye günlük 100.000 ABD Dolarına mal oluyor ve bu da ayda 3 milyon ABD doları gibi şaşırtıcı bir rakama denk geliyor.
Son teknoloji metin üreten yapay zekayı çalıştırmanın getirdiği maliyetler, onu önemli mali desteğe sahip yeni başlayanlara ve yapay zeka laboratuvarlarına itti. AI21 Labs, Cohere ve daha önce bahsedilen OpenAI dahil olmak üzere daha yetenekli metin oluşturma sistemleri teknolojilerinden bazılarını sunan şirketlerin risk sermayedarlarından yüz milyonlarca dolar sermaye toplaması tesadüf değil.
Ancak Petals, teorik olarak her şeyi demokratikleştirir. Borzunov’un yapay zeka sistemlerini internet üzerinden eğitmeye odaklanan önceki çalışmasından ilham alan Petals, metin üreten yapay zekayı çalıştırmanın maliyetlerini büyük ölçüde düşürmeyi amaçlıyor.
“Yapraklar Hugging Face’te fakülte araştırmacısı olan Colin Raffel, e-posta yoluyla TechCrunch’a verdiği demeçte, makine öğrenimi modellerinin gerçekten işbirliğine dayalı ve sürekli olarak iyileştirilmesini sağlamaya yönelik ilk adımdır. “Bu … çoğunlukla süper bilgisayarlarla sınırlı olan büyük modellerden daha geniş çapta erişilebilir bir modele doğru devam eden bir geçişi işaret ediyor.”
Raffel, açık kaynak metin oluşturma topluluğunda geçen yıl meydana gelen bir tür altına hücuma atıfta bulundu. Gönüllülerin çabaları ve teknoloji devlerinin araştırma laboratuvarlarının cömertliği sayesinde, bir zamanlar küçük ölçekli geliştiricilerin ulaşamayacağı son teknoloji metin üreten yapay zeka türü birdenbire kullanılabilir, eğitilmiş ve devreye alınmaya hazır hale geldi.
BigScience, birçok yönden OpenAI’nin GPT-3’üyle (ChatGPT’nin atası) eşit bir dil modeli olan Bloom’u piyasaya sürerken, Meta açık kaynaklı, OPT adlı nispeten güçlü bir AI sistemi sağladı. Bu arada Microsoft ve Nvidia, şimdiye kadar geliştirilmiş en büyük dil sistemlerinden biri olan MT-NLG’yi kullanıma sunmak için ortaklık kurdu.
Ancak tüm bu sistemler, kullanmak için güçlü donanımlar gerektirir. Örneğin, Bloom’u yerel bir makinede çalıştırmak, yüzlerce ila binlerce dolarlık bir GPU satışı gerektirir. Borzunov’un, yeterli kapasiteye ulaştığında sohbet robotları ve diğer “etkileşimli” uygulamalar için AI sistemlerini çalıştıracak ve ince ayar yapacak kadar güçlü olacağını iddia ettiği Petals ağına girin. Petals’ı kullanmak için, kullanıcılar bir açık kaynak kitaplığı kurar ve Petals ağına bağlanmak için talimatlar sağlayan bir web sitesini ziyaret eder. Bağlandıktan sonra, Petals üzerinde çalışan Bloom’dan metin oluşturabilir veya ağa geri bilgi işlem katkısı sağlamak için bir Petals sunucusu oluşturabilirler.
Ne kadar çok sunucu olursa, ağ o kadar güçlü olur. Bir sunucu çökerse Petals, otomatik olarak bir yedek bulun. Kaynaklardan tasarruf etmek için sunucular yaklaşık 1,5 saniye işlem yapılmadığında bağlantıyı keserken, Borzunov, Petals’ın oturumları hızlı bir şekilde devam ettirecek kadar akıllı olduğunu ve bunun da son kullanıcılar için yalnızca küçük bir gecikmeye yol açtığını söylüyor.
Petals ağında çalışan Bloom metin üreten yapay zeka sistemi test ediliyor. Görsel Kaynakları: Kyle Wiggers / TechCrunch
Testlerimde, Petals kullanarak metin oluşturmak, temel istemler için birkaç saniye (ör. “‘Kedi’ kelimesini İspanyolca’ya çevir”) ile daha karmaşık istekler için 20 saniyenin çok üzerinde bir süre aldı (ör. Evrenin doğası hakkında Diderot”). Bir soru (“Hayatın anlamını açıklayın”) yaklaşık üç dakika sürdü, ancak adil olmak gerekirse, sisteme önceki birkaç yanıttan daha uzun (yaklaşık 75 kelime) yanıt vermesi talimatını verdim.
Görsel Kaynakları: Kyle Wiggers / TechCrunch
Bu, ChatGPT’den belirgin şekilde daha yavaştır ve aynı zamanda ücretsizdir. ChatGPT’nin bugün herhangi bir maliyeti olmasa da gelecekte bunun doğru olacağının garantisi yok.
Borzunov, Petals ağının şu anda ne kadar büyük olduğunu açıklamıyor, “farklı kapasiteye sahip GPU’lara” sahip “birden fazla” kullanıcının Aralık ayı başındaki lansmanından bu yana ona katıldığı dışında. Amaç, sonunda insanları bilgi işlemlerini bağışlamaya teşvik edecek bir ödül sistemi getirmektir; Borzunov, bağışçıların “daha yüksek öncelik veya artırılmış güvenlik garantileri” için harcayabilecekleri veya potansiyel olarak diğer ödüllerle değiş tokuş edebilecekleri “Bloom puanları” alacaklarını söyledi.
Dağıtılmış bilgi işlemin sınırlamaları
Petals, OpenAI gibi satıcılar tarafından sunulan ücretli metin oluşturma hizmetlerine tamamen ücretsiz olmasa da düşük maliyetli bir alternatif sunmayı vaat ediyor. Ancak büyük teknik karışıklıklar henüz giderilmedi.
En çok endişe verici olan güvenlik kusurlarıdır. Petals projesinin GitHub sayfası, Petals’ın çalışma şekli nedeniyle, sunucuların giriş metnini kurtarmasının (özel olması amaçlanan metin dahil) ve onu kötü niyetli bir şekilde kaydedip değiştirmesinin mümkün olduğunu belirtiyor. Bu, adlar ve telefon numaraları gibi hassas verilerin ağdaki diğer kullanıcılarla paylaşılmasını veya oluşturulan kodun kasıtlı olarak bozulması için ince ayar yapılmasını gerektirebilir.
Petals ayrıca, toksik ve önyargılı metin üretme eğilimleri gibi günümüzün önde gelen metin oluşturma sistemlerinin doğasında bulunan kusurların hiçbirini ele almaz (Hugging Face deposundaki Bloom girişindeki “Sınırlamalar” bölümüne bakın). Bir e-posta röportajında, Yandex Research’ün kıdemli araştırmacısı Max Ryabinin, Petals’ın en azından şu anda araştırma ve akademik kullanım için tasarlandığını açıkça belirtti.
Ryabinin, “Petals ara verileri genel ağ üzerinden gönderiyor, bu nedenle diğer eşler (teoride) onları ara temsillerden kurtarabileceği için hassas veriler için kullanmamanızı istiyoruz” dedi. “Hassas veriler için Petals’ı kullanmak isteyen kişilere, bu verileri işleme yetkisine sahip güvendikleri kuruluşlar ve kişiler tarafından barındırılan kendi özel sürülerini kurmalarını öneriyoruz. Örneğin, birkaç küçük girişim ve laboratuvar, Petals’ı kullanmanın avantajlarından yararlanmaya devam ederken verilerini diğerlerinden korumak için işbirliği yapabilir ve özel bir sürü oluşturabilir.”
Herhangi bir dağıtılmış sistemde olduğu gibi, Petals da son kullanıcılar tarafından, zehirli metin oluşturmak isteyen kötü aktörler (nefret söylemi gibi) veya özellikle yoğun kaynak tüketen uygulamalara sahip geliştiriciler tarafından kötüye kullanılabilir. Raffel, Petals’ın başlangıçta kaçınılmaz olarak “bazı sorunlarla karşılaşacağını” kabul ediyor. Ancak, görevin – metin üreten sistemleri çalıştırmanın önündeki engeli azaltma – yoldaki ilk tümseklere değeceğine inanıyor.
“Makine öğreniminde topluluk tarafından organize edilen birçok çabanın son başarısı göz önüne alındığında, bu araçları geliştirmeye devam etmenin önemli olduğuna inanıyoruz ve umuyoruz ki yaprakları diğer merkezi olmayan derin öğrenme projelerine ilham verecek,” dedi Raffel.
