AI destekli sohbet robotları ChatGPT ve Google Bard kesinlikle önemli bir an yaşıyor; yeni nesil konuşma yazılım araçları, web aramalarımızı devralmaktan sonsuz yaratıcı literatür kaynağı üretmeye ve biz yapmak zorunda kalmamak için dünyanın tüm bilgisini hatırlamaya kadar her şeyi yapmayı vaat ediyor.
ChatGPT, Google Bard ve onlar gibi diğer botlar, büyük dil modellerine veya LLM’lere örnektir ve nasıl çalıştıklarını araştırmaya değer. Bu, onlardan daha iyi yararlanabileceğiniz ve iyi oldukları (ve gerçekten güvenilmemesi gereken) şeyleri daha iyi takdir edebileceğiniz anlamına gelir.
Sesinizi tanımak veya kedi resimleri oluşturmak için tasarlananlar gibi birçok yapay zeka sistemi gibi, LLM’ler de büyük miktarda veri üzerinde eğitilir. Arkalarındaki şirketler, iş bu verilerin tam olarak nereden geldiğini açıklamaya geldiğinde oldukça ihtiyatlı davrandılar, ancak bakabileceğimiz bazı ipuçları var.
Örneğin, Bard’ın temel aldığı LaMDA (Diyalog Uygulamaları için Dil Modeli) modelini tanıtan araştırma makalesinde Wikipedia’dan, “genel forumlardan” ve “Soru-Cevap siteleri, öğreticiler vb. programlamayla ilgili sitelerden alınan kod belgeleri”nden bahsedilir. Bu arada Reddit, 18 yıllık metin sohbetlerine erişim için ücret almaya başlamak istiyor ve StackOverflow da ücretlendirmeye başlamayı planladığını duyurdu. Buradaki ima, LLM’lerin bu noktaya kadar her iki siteyi de kaynak olarak, tamamen ücretsiz olarak ve bu kaynakları oluşturan ve kullanan kişilerin sırtında kapsamlı bir şekilde kullandıklarıdır. Web’de halka açık olanların çoğunun LLM’ler tarafından kazındığı ve analiz edildiği açıktır.
Tüm bu metin verileri, nereden gelirse gelsin, birden çok düğüm ve katmandan oluşan yaygın olarak kullanılan bir yapay zeka motoru türü olan bir sinir ağı aracılığıyla işlenir. Bu ağlar, önceki deneme yanılma sonuçları da dahil olmak üzere bir dizi faktöre dayalı olarak verileri yorumlama ve anlamlandırma yöntemlerini sürekli olarak ayarlar. LLM’lerin çoğu, özellikle dil işlemeye uygun bazı püf noktaları olan, dönüştürücü adı verilen belirli bir sinir ağı mimarisi kullanır. (Sohbetten sonraki GPT, Generative Pretrained Transformer anlamına gelir.)
Spesifik olarak, bir dönüştürücü, çok miktarda metni okuyabilir, kelimelerin ve ifadelerin birbirleriyle nasıl ilişkili olduğunu tespit edebilir ve ardından hangi kelimelerin gelmesi gerektiğine dair tahminlerde bulunabilir. LLM’lerin süper şarjlı otomatik düzeltme motorlarıyla karşılaştırıldığını duymuş olabilirsiniz ve bu aslında hedeften çok da uzak değil: ChatGPT ve Bard gerçekten hiçbir şey “bilmiyor”, ancak hangi kelimenin diğerini takip ettiğini bulmakta çok iyiler. yeterince ileri bir aşamaya geldiğinde gerçek düşünce ve yaratıcılık gibi görünür.
Bu transformatörlerin en önemli yeniliklerinden biri, kendine dikkat mekanizmasıdır. Bir paragrafta açıklamak zordur, ancak özünde bu, bir cümledeki kelimelerin tek başına değil, aynı zamanda çeşitli karmaşık şekillerde birbirleriyle ilişkili olarak düşünüldüğü anlamına gelir. Başka türlü mümkün olandan daha yüksek düzeyde bir kavrayışa izin verir.
Kodda yerleşik bir miktar rastgelelik ve varyasyon vardır, bu nedenle bir dönüştürücü sohbet robotundan her seferinde aynı yanıtı almayacaksınız. Bu otomatik düzeltme fikri aynı zamanda hataların nasıl ortaya çıkabileceğini de açıklıyor. Temel düzeyde, ChatGPT ve Google Bard neyin doğru neyin yanlış olduğunu bilmiyor. Makul ve doğal görünen ve üzerinde eğitildikleri verilerle eşleşen yanıtlar arıyorlar.
