Üç yıldan uzun bir süre önce, bu editör, 2015 yılında Elon Musk ile birlikte kurduğu yapay zeka şirketinin CEO’su olmak üzere Y Combinator’ın başkanlığı görevinden ayrıldıktan kısa bir süre sonra Sam Altman ile San Francisco’da küçük bir etkinlik için bir araya geldi. ve diğerleri, OpenAI.
O zamanlar Altman, OpenAI’nin potansiyelini bazılarına tuhaf gelen bir dille tanımlamıştı. Altman, örneğin, yapay genel zeka – sorunları bir insan kadar iyi çözebilen makine zekası – fırsatının o kadar büyük olduğunu söyledi ki, OpenAI bunu kırmayı başarırsa, ekip “belki gelecekteki tüm değerlerin ışık konisini yakalayabilir.” evrende.” Şirketin çok güçlü olduğu için “araştırma yayınlamamak zorunda kalacağını” söyledi. OpenAI’nin korku tellallığından suçlu olup olmadığı sorulduğunda, ekibin kurucu ortaklarından Elon Musk, defalarca AI geliştiren tüm organizasyonları suçlu olmaya çağırdı. düzenlenmiş — Altman tehlikelerden bahsetti olumsuzluk “üstel bir eğri üzerinde bir şey inşa ederken” “toplumsal sonuçları” düşünmek.
Seyirci, Altman’ı ne kadar ciddiye alacaklarından emin değilken, konuşmanın çeşitli noktalarında güldü. Ancak şimdi kimse gülmüyor. Makineler henüz insanlar kadar zeki olmasa da, OpenAI’nin piyasaya sürdüğü teknoloji birçok kişiyi şaşırtıyor (Musk dahil), bazı eleştirmenler bunun sonumuz olabileceğinden korkuyor, özellikle de yakında daha gelişmiş teknolojinin geleceği bildiriliyor.
Gerçekten de, yoğun kullanıcılar o kadar akıllı olmadığı konusunda ısrar etseler de, OpenAI’nin geçen hafta genel kullanıma sunduğu ChatGPT modeli,Çeşitli sektörlerdeki profesyonellerin sonuçları işlemeye çalıştığı bir kişi gibi sorular. Örneğin eğitimciler, orijinal yazıyı, alacakları algoritmik olarak oluşturulmuş makalelerden nasıl ayırt edebileceklerini merak ediyorlar – ve bu, intihal önleme yazılımlarından kurtulabilir.
Paul Kedrosky kendi başına bir eğitimci değildir. Kendisini “karmaşık sistemlerdeki riskler ve istenmeyen sonuçlar hakkında düşünme eğilimi olan hüsrana uğramış bir normal” olarak tanımlayan bir ekonomist, risk sermayedarı ve MIT üyesi. Ama kolektif geleceğimiz için birdenbire endişelenenler arasında yer alıyor. tweetleme dün: “[S]Hazırlıksız bir topluma kısıtlama olmaksızın bu cep nükleer bombasını fırlattığı için OpenAI’ye hame. Kedrosky şöyle yazdı: “ChatGPT’nin (ve benzerlerinin) derhal geri çekilmesi gerektiğini düşünüyorum. Ve eğer yeniden tanıtılırsa, yalnızca sıkı kısıtlamalarla.”
Dün onunla bazı endişeleri hakkında konuştuk ve OpenAI’nin neden “ABD ekonomisinin 100 yılda gördüğü en yıkıcı değişiklik” olduğuna inandığı şeyi yönlendirdiğini ve iyi bir şekilde olmadığını konuştuk.
Sohbetimiz uzunluk ve netlik için düzenlendi.
TC: ChatGPT geçen Çarşamba çıktı. Twitter’da tepkinizi ne tetikledi?
PK: Geçmişte bu konuşmalı kullanıcı arayüzleri ve yapay zeka hizmetleriyle oynadım ve bu açıkça çok büyük bir sıçrama. Ve burada beni özellikle rahatsız eden şey, bir dizi farklı faaliyet için büyük sonuçları olan, bunun gelişigüzel vahşeti. Lise kompozisyon yazımı gibi sadece bariz olanlar değil, aynı zamanda bir gramerin olduğu hemen hemen her alanda — [meaning] kendinizi ifade etmenin düzenli bir yolu. Bu yazılım mühendisliği, lise denemeleri, yasal belgeler olabilir. Hepsi bu doymak bilmez canavar tarafından kolayca yenir ve onu eğitmek için kullanılan her ne ise telafi edilmeden tekrar tükürülür.
UCLA’daki bir meslektaşımdan, bu dönemin sonunda makalelerle ne yapacaklarına dair hiçbir fikirleri olmadığını, kurs başına yüzlerce ve bölüm başına binlerce aldıklarını, çünkü artık neyin sahte neyin sahte olduğu hakkında hiçbir fikirleri olmadığını duydum. olumsuzluk. Yani bunu bu kadar gelişigüzel yapmak – bugün daha önce birinin bana söylediği gibi – sözde şeyi anımsatıyor. [ethical] Yaygın olarak kullanılan bir üründe bir hata bulan beyaz şapkalı bilgisayar korsanı, daha sonra geliştiriciyi daha geniş halk bilmeden bilgilendirir, böylece geliştirici ürününü yamalayabilir ve kitlesel yıkım ve elektrik şebekeleri çökmez. Bunun tam tersi, bir virüsün sonuçları hakkında hiçbir endişe duymadan vahşi doğaya salındığı durumdur.
Dünyayı yiyip bitirecekmiş gibi geliyor.
Bazıları, ‘Peki, otomobil fabrikalarına otomasyon geldiğinde ve otomobil işçileri işsiz bırakıldığında siz de aynı şekilde hissettiniz mi? Çünkü bu daha geniş bir fenomen.’ Ama bu çok farklı. Bu özel öğrenme teknolojileri kendi kendini hızlandırmaktadır; isteklerden öğreniyorlar. Yani bir üretim tesisindeki robotlar, orada çalışan insanlar için yıkıcı ve inanılmaz ekonomik sonuçlar yaratırken, daha sonra dönüp fabrikanın içindeki her şeyi emmeye, sektör sektör hareket etmeye başlamadı, oysa bekleyebileceğimiz tek şey bu değil. ama ne beklemelisiniz.
Musk, OpenAI’den kısmen ayrıldı anlaşmazlıklar şirketin gelişimi hakkında 2019’da söyledi ve uzun süredir yapay zekadan varoluşsal bir tehdit olarak bahsediyor. Ama insanlar onun neden bahsettiğini bilmediğini sandılar. Şimdi bu güçlü teknolojiyle karşı karşıyayız ve bunu ele almak için kimin devreye girdiği belli değil.
Bence aynı anda birçok yerde başlayacak, bunların çoğu gerçekten beceriksiz görünecek ve insanlar [then] küçümseme çünkü teknoloji uzmanları böyle yapar. Ama çok kötü, çünkü böyle bir sonucu olan bir şey yaratarak kendimizi bu işe soktuk. FTC’nin yıllar önce blogları yöneten insanlardan talep ettiği gibi [make clear they] bağlı kuruluş bağlantılarına sahip olun ve bunlardan para kazanın, bence önemsiz bir düzeyde, insanlar ‘Bunların hiçbirini biz yazmadık’ şeklinde açıklamalar yapmaya zorlanacaklar. Bunların hepsi makine tarafından üretildi.’
Ayrıca, eğitim içi, makine öğrenimi algoritmalarımız bağlamında Microsoft ve OpenAI’ye karşı telif hakkı ihlali nedeniyle devam eden dava için yeni enerji göreceğimizi düşünüyorum. Bu hizmetle ilgili olarak burada daha geniş bir DMCA sorunu olacağını düşünüyorum.
Ve bence bir potansiyel var [massive] Biliyorsunuz, muhtemelen çok uzun sürecek ve yeterince insana yardım etmeyecek olan hizmetlerin sonuçlarıyla ilgili olarak dava ve uzlaşma, ancak nasıl sonuçlanmayacağımızı anlamıyorum. [this place] bu teknolojilerle ilgili olarak.
MIT’deki düşünce nedir?
Andy McAfee ve oradaki grubu daha iyimser ve orada daha ortodoks bir görüşe sahipler; ne zaman bir aksama görsek, başka fırsatlar yaratılır, insanlar hareketlidir, bir yerden bir yere ve meslekten mesleğe hareket ederler ve yapmamalıyız. o kadar geri kafalı olun ki, teknolojinin bu özel evriminin etrafında mutasyona uğrayıp göç edemeyeceğimiz bir evrim olduğunu düşünüyoruz. Ve bence bu genel olarak doğru.
Ancak özellikle son beş yılın dersi, bu değişikliklerin uzun zaman alabileceği oldu. Örneğin serbest ticaret, ekonomi çapında inanılmaz derecede yıkıcı deneyimlerden biridir ve buna bakan ekonomistler olarak hepimiz kendimize ekonominin uyum sağlayacağını ve genel olarak insanların daha düşük fiyatlardan yararlanacağını söyledik. Kimsenin beklemediği şey, birinin tüm öfkeli insanları organize edip Donald Trump’ı seçmesiydi. Dolayısıyla, sonuçların ne olacağını öngörebileceğimiz ve tahmin edebileceğimiz bir fikir var, ama [we can’t].
Lise ve üniversitede kompozisyon yazmaktan bahsettiniz. Çocuklarımızdan biri zaten sordu – teorik olarak! — bir makale yazmak için ChatGPT’yi kullanmak intihal olacaksa.
Bir makale yazmanın amacı, düşünebildiğinizi kanıtlamaktır, dolayısıyla bu, süreci kısa devre yapar ve amacı bozar. Yine, sonuçlar ve dışsallıklar açısından, kopya çekip çekmediklerini artık bilmediğimiz için insanların ödev yapmasına izin veremezsek, bu her şeyin sınıfta olması ve denetlenmesi gerektiği anlamına gelir. Eve götüreceğimiz hiçbir şey olamaz. Sözlü olarak daha fazla şey yapılmalı ve bu ne anlama geliyor? Bu, okulun çok daha pahalı, çok daha zanaatkâr, çok daha küçük olduğu ve tam tersini yapmaya çalıştığımız bir zamanda olduğu anlamına geliyor. Yüksek öğrenim için sonuçlar, artık bir hizmetin fiilen sunulması açısından yıkıcıdır.
Evrensel temel gelir veya herkesin AI’dan elde edilen kazanımlara katılmasını sağlama fikri hakkında ne düşünüyorsunuz?
COVID öncesi olduğumdan çok daha az güçlü bir savunucuyum. Bunun nedeni, COVID’in bir anlamda evrensel temel geliri olan bir deney olmasıydı. İnsanlara evde kalmaları için para ödedik ve QAnon’u buldular. Bu yüzden, insanların arabaya atlayıp bir yere gitmeleri, nefret ettikleri bir işi yapıp eve dönmeleri gerekmediğinde ne olacağı konusunda gerçekten gerginim çünkü şeytan aylaklar için iş buluyor ve çok şey olacak aylak eller ve bir sürü şeytanlık.
