Bu hafta ABD senatörler, OpenAI CEO’su Sam Altman’ın (bu ne anlama geliyorsa) sözleriyle, denetlenmeyen yapay zekanın işleri çalabileceğini, yanlış bilgi yayabileceğini ve genel olarak “oldukça yanlış gidebileceğini” öne süren endişe verici ifadeler duydular. O ve birkaç milletvekili, ABD’nin artık teknolojinin gelişimini denetlemek için yeni bir federal kuruma ihtiyaç duyabileceği konusunda anlaştılar. Ancak duruşma, üretkenliği potansiyel olarak artırabilecek ve ABD’ye yeni bir teknolojik devrimde liderlik edebilecek bir teknolojiyi kimsenin diz çökmek istemediği konusunda da anlaşmaya vardı.
Endişeli senatörler, bir zamanlar savaş pilotu olan ve George Mason Üniversitesi’nde mühendislik ve robotik profesörü olan Missy Cummings ile konuşmayı düşünebilirler. Arabalar ve uçaklar da dahil olmak üzere güvenlik açısından kritik sistemlerde yapay zeka ve otomasyonun kullanımını inceliyor ve bu yılın başlarında Tesla’nın Otopilot ve kendi kendine giden arabaları da dahil olmak üzere otomotiv teknolojisini denetleyen Ulusal Karayolu Trafik Güvenliği İdaresi’nde bir görevden sonra akademiye geri döndü. Cummings’in bakış açısı, çok abartılı yeni algoritmalar vaadiyle önlerindeki riskleri tartmaya çalışan politikacılara ve politika yapıcılara yardımcı olabilir.
Cummings bu hafta bana, NHTSA’dan birçok araba üreticisi tarafından kullanılan otonom sistemler hakkında derin bir endişe duyarak ayrıldığını söyledi. Cummings, “Bu arabaların yetenekleri açısından ciddi bir sıkıntı içindeyiz” diyor. “İnsanların düşündüğü kadar yetenekli olmaya yakın bile değiller.”
Yapay zekanın gücü konusunda heyecan ve endişe uyandıran ChatGPT ve benzeri sohbet robotlarıyla olan paralellikler beni çok etkiledi. Otomatik sürüş özellikleri daha uzun süredir var, ancak büyük dil modelleri gibi, doğası gereği tahmin edilemez, incelenmesi zor ve geçmiştekinden farklı türde bir mühendislik düşüncesi gerektiren makine öğrenimi algoritmalarına güveniyorlar.
Ayrıca ChatGPT gibi, Tesla’nın Otopilot ve diğer otonom sürüş projeleri de saçma sapan abartılarla yükseltildi. Bir ulaşım devriminin çarpıcı hayalleri, otomobil üreticilerini, girişimcileri ve yatırımcıları, hala birçok çözülmemiş sorunu olan bir teknolojiyi geliştirmeye ve uygulamaya koymaya büyük meblağlar ayırmaya yöneltti. 2010’ların ortalarında, hükümet yetkililerinin ABD işletmeleri için milyarlarca dolar değerinde olacağı vaat edilen bir teknolojiye fren uygulamaktan nefret ettiği, otonom arabalarla ilgili müsamahakar bir düzenleyici ortam vardı.
Teknolojiye milyarlarca dolar harcandıktan sonra, sürücüsüz araçlar hâlâ sorunlarla boğuşuyor ve bazı otomobil şirketleri büyük özerklik projelerinin fişini çekti. Bu arada, Cummings’in dediği gibi, halk genellikle yarı otonom teknolojinin gerçekten ne kadar yetenekli olduğu konusunda net değil.
Bir anlamda, hükümetlerin ve yasa koyucuların üretici yapay zeka araçlarının ve büyük dil modellerinin düzenlenmesini önermek için hızlı olduklarını görmek güzel. Mevcut panik, büyük dil modellerine ve ChatGPT gibi, soruları yanıtlamada ve sorunları çözmede son derece iyi olan araçlara odaklanıyor.
Bu haftaki Senato duruşmasında, bize ChatGPT’yi veren OpenAI’den Altman, onun gibi şirketlerin gelişmiş AI üzerinde çalışmasına izin verilip verilmediğini kontrol etmek için bir lisanslama sistemi talep edecek kadar ileri gitti. Altman duruşma sırasında “En büyük korkum, bizim – alan, teknoloji, endüstri – dünyaya önemli zararlar vermemizdir” dedi.
