O zamanlar -sadece aylar önce- Marcus’un lafları teknikti. Ancak artık büyük dil modelleri küresel bir fenomen haline geldiğinden odak noktası değişti. Marcus’un yeni mesajının özü, OpenAI, Google ve diğerlerinden gelen sohbet robotlarının, güçleri bir yanlış bilgi tsunamisine, güvenlik açıklarına ve iftirayı otomatikleştirecek karalayıcı “halüsinasyonlara” yol açacak tehlikeli varlıklar olduğudur. Bu bir çelişki yaratıyor gibi görünüyor. Yıllarca Marcus, AI’nın inşaatçılarının iddialarının abartılı olduğunu iddia etti. Yapay zeka neden şimdi o kadar güçlü ki toplum artık onu dizginlemek zorunda?
Her zaman geveze olan Marcus’un bir yanıtı vardır: “Evet, yıllardır söyledim. [LLMs] aslında oldukça aptallar ve buna hala inanıyorum. Ama güç ve zeka arasında bir fark var. Ve birdenbire onlara çok fazla güç veriyoruz. Şubat ayında, durumun yeterince endişe verici olduğunu fark etti ve enerjisinin büyük bir kısmını sorunu çözmek için harcaması gerekiyordu. Sonunda, kendini yapay zekadan en iyi şekilde yararlanmaya ve en kötüsünden kaçınmaya adamış, kar amacı gütmeyen bir kuruluşa başkanlık etmek istediğini söylüyor.
Marcus, tüm potansiyel zararlara ve yıkıma karşı koymak için politika yapıcıların, hükümetlerin ve düzenleyicilerin yapay zeka geliştirme konusunda frene basması gerektiğini savunuyor. Elon Musk ve düzinelerce diğer bilim adamı, politika meraklısı ve tamamen korkmuş gözlemciyle birlikte, yeni LLM’lerin eğitimine altı aylık bir ara verilmesini talep eden, artık ünlü olan dilekçeyi imzaladı. Ancak, böyle bir duraklamanın gerçekten bir fark yaratacağını düşünmediğini ve çoğunlukla kendisini AI eleştirmenleri topluluğuyla aynı hizaya getirmek için imza attığını kabul ediyor. Antrenman molası yerine mola vermeyi tercih ederdi. dağıtım yeni modeller veya mevcut olanları yinelemek. Microsoft ile Google arasında, Apple, Meta, Amazon ve oyuna girmek isteyen sayısız yeni şirketle şiddetli, neredeyse varoluşsal bir rekabet olduğundan, bunun muhtemelen şirketlere zorlanması gerekecek.
Marcus’un yaptırımı kimin yapabileceğine dair bir fikri var. Son zamanlarda, dünyanın bir an önce “küresel, tarafsız, kâr amacı gütmeyen bir Uluslararası Yapay Zeka Ajansına” ihtiyacı olduğu konusunda ısrarcı oldu ve buna bir çığlık gibi (Iaai!) bir kısaltmayla atıfta bulunulacak.
Bir köşe yazısında ana hatlarıyla belirttiği gibi, İktisatçıBöyle bir kurum, gelişmekte olan nükleer programları belirlemek için denetimler ve teftişler yapan Uluslararası Atom Enerjisi Ajansı gibi çalışabilir. Muhtemelen bu kurum, önyargı içermediğinden veya yanlış bilgi vermediğinden veya biz bakmazken elektrik şebekelerini ele geçirmediğinden emin olmak için algoritmaları izleyecektir. Amerika Birleşik Devletleri, Avrupa ve Çin’in bu konuda birlikte çalıştığını hayal etmek zor gibi görünse de, belki de bir uzaylı tehdidi, türümüzü deviren istihbarat, onların İnsan Ekibinin çıkarları doğrultusunda hareket etmelerine yol açabilir. Hey, diğer küresel tehdit olan iklim değişikliği ile çalıştı! Ah…
Her halükarda, yapay zekayı kontrol etme tartışması, teknoloji kendini hayatımızın derinliklerine işledikçe daha da güçlenecek. Bu yüzden daha çok Marcus ve bir sürü başka konuşan kafa görmeyi bekleyin. Ve bu kötü bir şey değil. Hızlı hareket eden teknoloji, titizlikle ve gecikerek benimsediğimiz önlemlerden bağımsız olarak gelişebilse bile, yapay zeka ile ne yapılacağına dair tartışma sağlıklı ve gereklidir. ChatGPT’nin çok amaçlı bir iş aracı, eğlence cihazı ve sırdaşı haline gelmesi, korkutucu olsun ya da olmasın, bu tür şeyleri istediğimizi gösteriyor. Diğer tüm büyük teknolojik ilerlemeler gibi, süper zeka da işyerini, kültürel tüketimimizi ve kaçınılmaz olarak bizi değiştirse bile bize karşı konulamaz faydalar sağlamaya mahkum görünüyor.
