Amazon, şapkasını üretken AI halkasına atıyor. Ancak yapay zeka modellerini tamamen kendi başına oluşturmak yerine, modelleri AWS’de barındırması için üçüncü tarafları işe alıyor.
AWS bugün, AI21 Labs, Anthropic ve Stability AI dahil olmak üzere startup’lardan önceden eğitilmiş modeller aracılığıyla üretken yapay zeka destekli uygulamalar oluşturmanın bir yolunu sunan Amazon Bedrock’u tanıttı. “Sınırlı ön izleme” olarak sunulan Bedrock ayrıca, AWS tarafından kurum içinde eğitilmiş bir model ailesi olan Titan FM’lere (temel modeller) erişim sunar.
AWS’de Üretken Yapay Zekadan Sorumlu Başkan Yardımcısı Vasi Philomin, TechCrunch’a bir telefon görüşmesinde “Makine öğrenimini gerçek dünyaya uygulamak – gerçek iş sorunlarını geniş ölçekte çözmek – en iyi yaptığımız şey” dedi. “Orada bulunan her uygulamanın üretken yapay zeka ile yeniden tasarlanabileceğini düşünüyoruz.”
Bedrock’un ilk çıkışı, üretken AI uygulamaları oluşturmak için gereken teknolojiye artan yatırımlarına ek olarak, AWS’nin son birkaç ay içinde üretken AI girişimleriyle yakın zamanda imzaladığı ortaklıklar tarafından bir şekilde telgraflandı.
Geçtiğimiz Kasım ayında Stability AI, tercih edilen bulut sağlayıcısı olarak AWS’yi seçti ve Mart ayında Hugging Face ve AWS, öncekinin metin oluşturma modellerini AWS platformuna getirmek için iş birliği yaptı. Yakın zamanda AWS, yeni başlayanlar için üretken bir yapay zeka hızlandırıcı başlattı ve yapay zeka modellerini eğitmek için “yeni nesil” altyapı oluşturmak üzere Nvidia ile birlikte çalışacağını söyledi.
Ana kaya ve özel modeller
Bedrock, Grand View Research’ün tahminlerine göre 2030’a kadar 110 milyar dolara yakın bir değere sahip olabilecek üretici yapay zeka pazarı için Amazon’un şimdiye kadarki en güçlü oyunu.
Bedrock ile AWS müşterileri, bir API aracılığıyla AWS dahil olmak üzere çeşitli farklı sağlayıcıların yapay zeka modellerinden yararlanmayı tercih edebilir. Ayrıntılar biraz belirsiz – Amazon, biri için resmi fiyatlandırmayı açıklamadı. Ama şirket yaptı Bedrock’un “kurumsal ölçekte” yapay zeka uygulamaları geliştiren büyük müşterileri hedeflediğini vurgulayarak, onu Replicate (artı görevdeki rakipleri Google Cloud ve Azure) gibi bazı yapay zeka modeli barındırma hizmetlerinden ayırıyor.
Üretken yapay zeka modeli satıcılarının AWS’nin erişimi veya potansiyel gelir paylaşımı tarafından Bedrock’a katılmaya teşvik edildiği varsayılabilir. Ancak Amazon, model lisanslama veya barındırma sözleşmelerinin şartlarını açıklamadı.
Bedrock’ta barındırılan üçüncü taraf modelleri, çok dilli olan ve İspanyolca, Fransızca, Almanca, Portekizce, İtalyanca ve Felemenkçe metin oluşturabilen AI21 Labs’ın Jurassic-2 ailesini içerir. Anthropic’in Bedrock’taki modeli Claude, bir dizi konuşma ve metin işleme görevini gerçekleştirebilir. Bu arada, Stability AI’nin Stable Diffusion da dahil olmak üzere Bedrock tarafından barındırılan metinden görüntüye metinden görüntüye modelleri, görüntüler, sanat eserleri, logolar ve grafik tasarımlar üretebilir.
Görsel Kaynakları: Amazon
Amazon’un ısmarlama tekliflerine gelince, Titan FM ailesi şu anda iki modelden oluşuyor ve muhtemelen gelecekte daha fazlası da gelecek: metin üreten bir model ve bir gömme model. OpenAI’nin GPT-4’üne benzeyen metin oluşturma modeli (ancak performans açısından eşit olması gerekmez), blog gönderileri ve e-posta yazma, belgeleri özetleme ve veritabanlarından bilgi çıkarma gibi görevleri gerçekleştirebilir. Gömme modeli, sözcükler ve tümcecikler gibi metin girdilerini, metnin anlamsal anlamını içeren, gömme olarak bilinen sayısal temsillere çevirir. Philomin, Amazon.com’daki aramaları güçlendiren modellerden birine benzediğini iddia ediyor.
AWS müşterileri, hizmeti Amazon’un bulut depolama planı olan Amazon S3’teki birkaç etiketli örneğe yönlendirerek herhangi bir Bedrock modelini özelleştirebilir; en az 20 tane yeterlidir. Amazon, temel modelleri eğitmek için hiçbir müşteri verisinin kullanılmadığını söylüyor.
Philomin, “AWS’de … makine öğrenimini demokratikleştirmede ve onu kullanmak isteyen herkes için erişilebilir hale getirmede kilit bir rol oynadık” dedi. “Amazon Bedrock, temel modellerle üretken yapay zeka uygulamaları oluşturmanın ve ölçeklendirmenin en kolay yoludur.”
Elbette, üretici yapay zekayı çevreleyen yanıtlanmamış yasal sorular göz önüne alındığında, tam olarak kaç müşterinin ısıracağı merak ediliyor.
Microsoft, OpenAI modellerini kurumsal müşterilere yönelik ek özelliklerle bir araya getiren üretici yapay zeka model paketi Azure OpenAI Hizmeti ile başarıya ulaştı. Microsoft, bir blog gönderisinde Mart ayı itibarıyla 1.000’den fazla müşterinin Azure OpenAI Hizmetini kullandığını söyledi.
Ancak OpenAI ve Stability AI dahil olmak üzere şirketlerden üretken AI teknolojisiyle ilgili olarak, çoğunlukla sanat eseri olmak üzere telif hakkıyla korunan verilerin üretken modelleri eğitmek için izinsiz kullanıldığını iddia eden davacılar tarafından açılan birkaç dava var. (Üretken yapay zeka modelleri, genellikle web’den ayrım gözetmeksizin alıntılanan örnek resimler ve metin üzerinde “eğitim” yaparak sanat, kod ve daha fazlasını oluşturmayı “öğrenir”). Nitelik verme veya kredi verme aslında ticarileştirilebilir ve Avustralyalı bir belediye başkanı, üretken modeli ChatGPT tarafından dile getirilen yanlışlıklar nedeniyle OpenAI’ye karşı bir hakaret davası açmakla tehdit etti.
Açıkçası Philomin, Amazon’un Titan FM ailesinin tam olarak hangi veriler üzerinde eğitildiğini söylemeyi reddederek pek güven uyandırmadı. Bunun yerine Titan modellerinin, AWS müşterilerinin özelleştirme için sağladığı verilerdeki “zararlı” içeriği tespit edip kaldırmak, kullanıcıların girdiği “uygunsuz” içeriği reddetmek ve nefret söylemi, küfür ve şiddet içeren çıktıları filtrelemek için tasarlandığını vurguladı.
Elbette, ChatGPT’nin gösterdiği gibi, en iyi filtreleme sistemlerinden bile kaçınılabilir. ChatGPT’ye ve benzer modellere yönelik sözde hızlı enjeksiyon saldırıları, kötü amaçlı yazılım yazmak, açık kaynak kodundaki açıkları belirlemek ve iğrenç derecede cinsiyetçi, ırkçı ve yanlış bilgilendirici içerik oluşturmak için kullanıldı. (Üretici AI modelleri, eğitim verilerindeki önyargıları artırma eğilimindedir veya – ilgili eğitim verileri biterse – basitçe bir şeyler uydurur.)
Ancak Philomin bu endişeleri bir kenara attı.
“Kendimizi bu teknolojilerin sorumlu kullanımına adadık” dedi. “Dışarıdaki düzenleme ortamını izliyoruz… hangi verileri kullanabileceğimize ve hangilerini kullanamayacağımıza bakmamıza yardımcı olan birçok avukatımız var.”
Philomin’in güvence verme girişimleri bir yana, markalar ters gidebilecek her şey için kancaya takılmak istemeyebilir. (Bir dava durumunda, AWS müşterilerinin mi, AWS’nin kendisinin mi yoksa soruna neden olan modelin oluşturucusunun mu sorumlu tutulacağı tam olarak açık değildir.) Ancak bireysel müşteriler, özellikle de ayrıcalık için herhangi bir ücret yoksa, sorumlu tutulabilir.
CodeWhisperer, Trainium ve Inferentia2 GA’da piyasaya sürüldü
Konuyla ilgili olarak ve bugünkü büyük yapay zeka desteğiyle aynı zamana denk gelen Amazon, yapay zeka destekli kod oluşturma hizmeti CodeWhisperer’ı herhangi bir kullanım kısıtlaması olmaksızın geliştiriciler için ücretsiz hale getirdi.
Hareket, CodeWhisperer’ın Amazon’un umduğu gibi bir artış görmediğini gösteriyor. Baş rakibi GitHub’ın Copilot’unun Ocak ayı itibarıyla binlercesi kurumsal müşteri olan bir milyondan fazla kullanıcısı vardı. CodeWhisperer’ın kesinlikle telafi etmesi gereken bir zemin var ve bunu CodeWhisperer Professional Tier’ın eş zamanlı lansmanı ile kurumsal tarafta yapmayı hedefliyor. CodeWhisperer Professional Tier, AWS Identity and Access Management entegrasyonu ile çoklu oturum açmanın yanı sıra güvenlik açıklarını taramaya daha yüksek sınırlar ekler.
CodeWhisperer, yukarıda bahsedilen Yardımcı Pilot’a bir tür yanıt olarak AWS IDE Toolkit ve AWS Toolkit IDE uzantılarının bir parçası olarak Haziran ayı sonlarında kullanıma sunuldu. Milyarlarca halka açık açık kaynak kodu satırı ve Amazon’un kendi kod tabanının yanı sıra halka açık forumlardaki belgeler ve kodlar konusunda eğitim alan CodeWhisperer, Java, JavaScript ve Python gibi dillerdeki tüm işlevleri yalnızca bir yoruma veya birkaç tuşa basarak otomatik olarak tamamlayabilir.
Görsel Kaynakları: Amazon
CodeWhisperer artık birkaç ek programlama dilini destekliyor — özellikle Go, Rust, PHP, Ruby, Kotlin, C, C++, Shell komut dosyası oluşturma, SQL ve Scala — ve daha önce olduğu gibi benzerlik taşıdığını öne sürdüğü işlevlerle ilişkili lisansı vurguluyor ve isteğe bağlı olarak filtreliyor eğitim verilerinde bulunan mevcut snippet’lere.
Vurgulama, GitHub’ın Copilot ile karşılaştığı yasal zorlukları ortadan kaldırma girişimidir. Başarılı olup olmadığını zaman gösterecek.
Philomin, “Geliştiriciler bu araçlarla çok daha üretken olabilir” dedi. “Geliştiricilerin her konuda güncel olması zor… Bunun gibi araçlar, onların bu konuda endişelenmelerine gerek kalmamasına yardımcı oluyor.”
Daha az tartışmalı bir bölgede, Amazon bugün geçen yıl Amazon’un re:Invent konferansında ön izlemesi yapılan, şirketin AWS Inferentia2 yongaları tarafından desteklenen Elastic Cloud Compute (EC2) Inf2 bulut sunucularını genel kullanıma sunuyor. Inf2 bulut sunucuları, yapay zeka çalıştırma sürelerini hızlandırmak için tasarlanmıştır ve görünürde daha iyi verim ve iyileştirilmiş genel çıkarım fiyatı performansı için daha düşük gecikme sağlar.
Ayrıca, Amazon EC2 Trn1n bulut sunucuları tarafından desteklenmektedir. AWS Amazon’un yapay zeka eğitimi için özel olarak tasarlanmış çipi Trainium’un da bugün itibarıyla genel olarak müşterilerin kullanımına sunulduğunu duyurdu. Amazon, 1600 Gbps’ye kadar ağ bant genişliği sunduklarını ve büyük, yoğun ağ kullanan modeller için Trn1’e göre %20’ye kadar daha yüksek performans sağlamak üzere tasarlandıklarını söylüyor.
Hem Inf2 hem de Trn1n, Google’ın AI eğitimi için TPU yongaları gibi Google ve Microsoft’un rakip teklifleriyle rekabet eder.
Philomin kendinden emin bir şekilde, “AWS, üretken yapay zeka için en etkili bulut altyapısını sunuyor” dedi. “Müşterilerin ihtiyaçlarından biri, bu modellerle uğraşmak için doğru maliyetler… Birçok müşterinin bu modelleri üretime sokmamasının nedenlerinden biri de bu.”
Onların savaşan sözleri – üretken yapay zekanın büyümesinin Azure’a diz çöktürdüğü bildirildi. Amazon da aynı kaderi paylaşacak mı? Bu belirlenecek.
