OpenAI kurucu ortağı ve CEO’su Sam Altman, geçen hafta sonlarında bu editörle geniş kapsamlı bir röportaj için oturdu ve en iddialı kişisel yatırımlarından bazılarının yanı sıra OpenAI’nin geleceği hakkında soruları yanıtladı.
Tartışılacak çok şey vardı. Şimdi sekiz yaşında olan ekip, soruları bir insan gibi yanıtlayan bir sohbet robotu olan ChatGPT’yi piyasaya sürmesinden bu yana iki ay içinde ulusal sohbete hakim oldu. OpenAI ürünleri kullanıcıları şaşırtmakla kalmadı; şirketin, nispeten nominal gelirine rağmen mevcut hisselerin yeni yatırımcılara 29 milyar $ değerinde satışını denetlemek için görüşmelerde bulunduğu bildiriliyor.
Altman, OpenAI’nin mevcut iş anlaşmaları hakkında konuşmayı reddetti ve oturumumuz sırasında ilgili bir soru sorulduğunda bir uyarı ateşi açtı. Yine de şirketin ileriye dönük planları hakkında biraz bilgi verdi. Her şeyden önce, Altman, ChatGPT ve ekibin popüler dijital sanat oluşturucusu DALL-E’ye ek olarak bir video modelinin de geleceğini doğruladı, ancak “ne zaman konusunda yetkin bir tahminde bulunmak istemeyeceğini” ekledi. “çok yakında olabilir; meşru bir araştırma projesi. Biraz zaman alabilir.
Altman, OpenAI’nin Microsoft ile gelişmekte olan ortaklığının – ilk olarak 2019’da OpenAI’ye yatırım yapan ve bugün erken saatlerde ChatGPT gibi AI araçlarını tüm ürünlerine dahil etmeyi planladığını doğruladı – özel bir anlaşma olmadığını açıkça belirtti.
Ayrıca Altman, OpenAI’nin teknolojisini diğer şirketlere lisanslamanın yanı sıra kendi yazılım ürünlerini ve hizmetlerini oluşturabileceğini doğruladı. Bu, OpenAI’nin bir gün kendi arama motoru aracılığıyla doğrudan Google ile rekabet edip edemeyeceğini merak eden sektör gözlemcileri için dikkate değer. (Bu senaryo hakkında sorulan Altman, “Ne zaman birileri bir teknolojinin başka dev bir şirketin sonu olacağından söz etse, bu genellikle yanlıştır. İnsanlar burada bir karşı hamle yapacaklarını unutuyorlar ve oldukça akıllı, oldukça yetenekliler.) ”)
OpenAI, ChatGPT’nin temel aldığı gelişmiş dil modeli olan GPT’nin dördüncü sürümünü ne zaman piyasaya sürmeyi planladığına gelince, Altman yalnızca merakla beklenen ürünün “yapabileceğimizden emin olduğumuz bir noktada çıkacağını” söyleyecektir. [release] güvenli ve sorumlu bir şekilde.” o da OpenAI’nin sorunları çözen ve kalıpları deneme yoluyla tanımlayan mevcut derin öğrenme modellerine karşı yapay genel zeka veya kendi gelişmekte olan zekasına sahip bir teknoloji anlamına gelen “gerçek bir AGI’miz yok” diyerek GPT-4 ile ilgili beklentileri yumuşatmaya çalıştı. ve hata.
“Bence [AGI] bizden beklenen bir nevi” ve GPT-4’ün bu beklentiye sahip insanları “hayal kırıklığına uğratacağını” söyledi.
bu arada sormuş ne zaman Altman yapay genel zekayı görmeyi bekliyor, bunun tahmin edilebileceğinden daha yakın olduğunu ama aynı zamanda “AGI”ye geçişin bazılarının beklediği kadar ani olmayacağını öne sürdü. “Ne kadar yakınlaşırsak [to AGI]yanıtlamam ne kadar zorsa, çünkü bunun insanların düşündüğünden çok daha bulanık ve çok daha kademeli bir geçiş olacağını düşünüyorum” dedi.
Doğal olarak, işleri toparlamadan önce, OpenAI’nin dünyaya saldığı teknoloji için toplumun yeterli korkuluklara sahip olup olmadığı da dahil olmak üzere güvenlik hakkında konuşmaya zaman ayırdık. Öğrencilerin kopya çekmek için ChatGPT’yi kullanacağı korkusuyla ChatGPT’ye erişimi giderek daha fazla engelleyen endişeli eğitimciler de dahil olmak üzere pek çok eleştirmen bunu yapmadığımıza inanıyor. (Google’ın, “itibar riski” konusundaki endişeleri nedeniyle kendi yapay zeka sohbet robotu LaMDA’yı yayınlama konusunda isteksiz olduğu bildirildi.)
Altman, burada OpenAI’nin “bir şeyleri kırmaya ve etkileri incelemeye çalıştığımız bir iç sürece sahip olduğunu” söyledi. Dış denetçiler kullanıyoruz. Harici kırmızı takım oyuncularımız var. Diğer laboratuvarlarla çalışıyoruz ve güvenlik kuruluşlarının bir şeylere bakmasını sağlıyoruz.”
Aynı zamanda, teknolojinin – OpenAI ve başka yerlerden – geldiğini ve insanların bununla nasıl yaşayacaklarını bulmaya başlaması gerektiğini söyledi. “ChatGPT’nin neden olacağı veya neden olacağı toplumsal değişiklikler var. Şu anda devam eden büyük bir tanesi, eğitim ve akademik bütünlük üzerindeki etkisi, hepsi bu. Yine de, “bunları başlatmak
Aslında, eğitimciler – ve belki de ebeveynler – cinin şişeye geri koyulmadığını anlamalıdır. Altman, OpenAI ve diğer AI ekiplerinin, öğrencilerin AI tarafından oluşturulan kopyayı kendilerininmiş gibi dağıtmaya çalışıp çalışmadıklarını değerlendirmeye yardımcı olmak için filigran teknolojileri ve diğer doğrulama teknikleriyle “deney yapacaklarını” söylerken, aynı zamanda bu belirli senaryoya çok fazla odaklanmanın yanlış olduğunu da ima etti. beyhude.
“Öğretmenlerin GPT benzeri bir sistemin çıktısını algılama olasılığının biraz daha yüksek olmasına yardımcı olabileceğimiz yollar olabilir, ancak dürüst olmak gerekirse, kararlı bir kişi onları atlatacaktır ve bunun toplumun yapabileceği bir şey olacağını düşünmüyorum. veya uzun vadeye güvenmeli.”
İnsanların büyük değişimlere başarılı bir şekilde uyum sağlamaları ilk kez olmayacak, diye ekledi. Hesap makinelerinin “matematik derslerinde test ettiğimiz şeyi değiştirdiğini” ve Google’ın gerçekleri ezberleme ihtiyacını çok daha az önemli hale getirdiğini gözlemleyen Altman, derin öğrenme modellerinin her iki gelişmenin de “daha uç bir versiyonunu” temsil ettiğini söyledi. Ancak, “faydaların da daha aşırı olduğunu” savundu. Bunun ev ödevi üzerindeki etkisi konusunda anlaşılır bir şekilde çok gergin olan öğretmenlerden haber alıyoruz. Ayrıca ‘Vay canına, bu her çocuk için inanılmaz bir kişisel öğretmen’ diyen öğretmenlerden çok şey duyuyoruz.”
OpenAI ve Altman’ın yapay zekanın metalaşması, düzenlemeler ve yapay zekanın neden beş ila yedi yıl önce hayal ettiği gibi “tamamen ters yönde” gittiğine dair gelişen görüşleri hakkında tam konuşma için aşağıdaki klibe göz atmaya değer.
Yapay zekanın vaatleri ve tehlikeleri söz konusu olduğunda Altman’ın en iyi ve en kötü senaryoları ele aldığını da duyacaksınız. Kısa versiyon? “İyi durum o kadar inanılmaz derecede iyi ki, bunun hakkında konuşmaya başlamak için gerçekten deli biri gibi konuşuyorsun,” dedi. “Ve kötü durum – ve bence bunu söylemek önemli – hepimiz için ışıkların sönmesi.”
