Başka bir manşetlere konu olan yapay zeka politikası müdahalesine yol açın: OpenAI CEO’su Sam Altman ve DeepMind CEO’su Demis Hassabis’ten kıdemli yapay zeka bilgisayar bilimcisi Geoffrey Hinton’a, MIT’den Max Tegmark ve Skype ortaklarına kadar yüzlerce yapay zeka bilim adamı, akademisyen, teknoloji CEO’su ve kamuya mal olmuş kişi Kurucu Jaan Tallinn’den müzisyen ve popülist podcast sunucusu Sam Harris’e, varoluşsal AI riskine küresel dikkati çeken bir açıklamaya isimlerini ekledi.
San Francisco merkezli, özel olarak finanse edilen, kar amacı gütmeyen AI Güvenliği Merkezi (CAIS) adlı bir web sitesinde barındırılan bildiri, AI riskini nükleer kıyamet ve çağrıların neden olduğu varoluşsal zararlarla eşitlemeye çalışıyor. politika yapıcıların dikkatlerini ‘kıyamet günü’ yok olma düzeyinde AI riski olduğunu iddia ettikleri şeyi hafifletmeye odaklamaları için.
İşte onların (kasıtlı olarak kısa) açıklamalarının tamamı:
AI kaynaklı yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.
CAIS’in web sitesindeki kısa bir açıklayıcıya göre, açıklama “özlü” tutuldu çünkü arkasındakiler, “gelişmiş yapay zekanın en ciddi risklerinden bazıları” hakkındaki mesajlarının diğer “önemli ve acil AI riskleri” tartışmasıyla boğulmasını önlemekle ilgileniyorlar. Bununla birlikte, yok olma düzeyindeki AI riski hakkında tartışmanın önüne geçtiğini ima ediyorlar.
Bununla birlikte, OpenAI’nin ChatGPT ve DALL-E gibi üretken AI araçlarına genişletilmiş erişimin ardından AI yutturmacasının artmasıyla birlikte, son aylarda aynı endişelerin yüksek sesle ve birçok kez dile getirildiğini duyduk. “süper zeki” öldürücü yapay zekaların riski hakkında ilgi çekici bir tartışma. (Örneğin, bu ayın başlarında, bildiriyi imzalayan Hinton’un yapay zekanın kontrolü ele geçirmesinin “varoluşsal tehdidi” konusunda uyardığı bu örnek gibi. Veya daha geçen hafta Altman’ın yapay zekanın insanlığı yok etmesini önlemek için düzenleme çağrısı yaptığı bu örnek gibi.)
Ayrıca Mart ayında Elon Musk (ve çok sayıda başka kişi) tarafından imzalanan ve paylaşılan güvenlik protokollerinin tasarlanmasına ve gelişmiş yapay zekaya uygulandı – “kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği, her zamankinden daha güçlü dijital zihinlerin” ortaya koyduğu risklere karşı uyarı.
Bu nedenle, son aylarda, henüz var olmayan AI riskleri hakkında yoğun bir şekilde kamuoyuna duyurulan bir uyarı yağmuru oldu.
Histerik manşetlerin bu davul ritmi, muhtemelen dikkati mevcut zararların daha derin incelemesinden uzaklaştırdı. Araçların, izin veya izin (veya ödeme) olmaksızın AI sistemlerini eğitmek için telif hakkıyla korunan verileri ücretsiz olarak kullanması gibi; veya çevrimiçi kişisel verilerin insanların mahremiyetini ihlal edecek şekilde sistematik olarak kazınması; veya bu araçları eğitmek için kullanılan veriler karşısında yapay zeka devlerinin şeffaf olmaması. Ya da gerçekten de dezenformasyon (“halüsinasyon”) gibi kusurlarda ve önyargı (otomatikleştirilmiş ayrımcılık) gibi risklerde pişmiş. AI güdümlü spam’den bahsetmiyorum bile! Ve bu AI canavarlarını eğitmek için harcanan enerjinin çevresel maliyeti.
Guardian’a göre, geçen hafta Birleşik Krallık başbakanı ile Altman ve Hassabis de dahil olmak üzere bir dizi büyük AI yöneticisi arasında yapılan bir toplantıdan sonra, hükümetin AI düzenlemesi konusundaki tavrını değiştiriyor gibi görünmesi kesinlikle dikkate değer – varoluşsal riske ani bir ilgiyle, Guardian’s raporlama.
Data & Society araştırma direktörü Jenna Burrell’in ChatGPT’nin medya kapsamını inceleyen bu son Columbia Journalism Review makalesinde belirttiği gibi, varoluşsal AI riskinden bahsetmek de dikkati pazar yapısı ve hakimiyetle ilgili sorunlardan uzaklaştırıyor – burada ihtiyacımız olduğunu öne sürdü. AI’nın potansiyel “duyarlılığı” gibi tehlikelere odaklanmaktan, AI’nın zenginliği ve gücü nasıl daha fazla yoğunlaştırdığını ele almaya geçin.
Bu nedenle, elbette, yapay zeka devlerinin, yasa koyucuların zihinlerini daha temel rekabet ve antitröst mülahazalarından uzaklaştırmak için bir taktik olarak, yapay zeka güdümlü bir kıyamet gününden söz ederek, düzenleyicilerin dikkatini çok uzak teorik geleceğe yönlendirmek istemeleri için açık ticari motivasyonlar var. burada ve şimdi. (Ve pazar gücünü yoğunlaştırma aracı olarak veri istismarı yeni bir şey değil.)
OpenAI, DeepMind, Stability AI ve Anthropic dahil olmak üzere yapay zeka devlerindeki teknoloji yöneticilerinin, konu varoluşsal yapay zeka riskiyle ilgili konuşmaları alenen yükseltmek söz konusu olduğunda bir araya gelmekten ve gevezelik etmekten çok mutlu oldukları mevcut yapay zeka güç yapıları hakkında kesinlikle çok şey söylüyor. Ve araçlarının şu anda neden olduğu zararları tartışmak için bir araya gelme konusunda ne kadar suskunlar.
OpenAI, yukarıda belirtilen (Musk imzalı) açık mektuba imza atmayan kayda değer bir isimdi, ancak bazı çalışanları CAIS tarafından barındırılan bildiriyi destekliyor (Görünüşe göre Musk desteklemiyor). Bu nedenle, en son açıklama, Musk’ın varoluşsal AI risk anlatısını kendi çıkarları doğrultusunda kaçırma girişimine OpenAI (ve diğerleri) tarafından (resmi olmayan) ticari olarak kendi kendine hizmet eden bir yanıt sunuyor gibi görünüyor (bu, artık OpenAI’nin AI suçlamasına liderlik etmesini desteklemiyor).
OpenAI’nin üretici yapay zeka alanındaki liderliğini dondurma riskine yol açacak bir geliştirme duraklaması çağrısı yapan açıklama yerine, politika yapıcıları risk azaltmaya odaklanmaları için kulis yapıyor – bunu yaparken OpenAI aynı anda “yapay zekayı yönlendirmek için demokratik süreçleri” şekillendirmek için kitlesel fonlama çabaları yapıyor. Altman koydu. Bu nedenle şirket, uluslararası düzenleyicileri hedef alan devam eden kişisel lobicilik çabalarının yanı sıra, gelecekteki hafifletme korkuluklarının şeklini etkilemek için kendisini aktif olarak konumlandırıyor (ve yatırımcılarının servetini kullanıyor). Altman ayrıca yakın zamanda, OpenAI’nin aracının Avrupa’dan çekilebileceği yönünde tehditlerde bulundu.
Başka yerlerde, önceki mektubu imzalayan bazı kişiler, başka bir tanıtım fırsatını ikiye katlamaktan mutlu oldular – her ikisine de adlarını yazdırdılar (merhaba Tristan Harris!).
Ama CAIS kimdir? Bu mesajı barındıran kuruluş hakkında sınırlı genel bilgi var. Bununla birlikte, kendi kabulüyle, kesinlikle politika yapıcılar için lobi faaliyetlerinde yer almaktadır. Web sitesi, misyonunun “yapay zekadan kaynaklanan toplumsal ölçekteki riskleri azaltmak” olduğunu söylüyor ve kendini bu amaçla araştırma ve alan oluşturmayı teşvik etmeye adadığını, araştırmaya fon sağlamanın yanı sıra belirli bir politika savunuculuğu rolüne sahip olduğunu iddia ediyor.
Web sitesindeki bir SSS, onu finansal olarak kimin desteklediği hakkında sınırlı bilgi sunar (özel bağışlarla finanse edildiğini söyler). “CAIS bağımsız bir kuruluş mudur?” diye sorulan bir SSS sorusuna cevaben, “kamu yararına hizmet ettiği” şeklinde kısa bir iddia sunarken:
CAIS, tamamen özel katkılarla desteklenen kar amacı gütmeyen bir kuruluştur. Politikalarımız ve araştırma yönergelerimiz, bireysel bağışçılar tarafından belirlenmediğinden, odak noktamızın kamu yararına hizmet etmeye devam etmesidir.
Sorularla CAIS’e ulaştık.
Açıklamanın lansmanına eşlik eden bir Twitter dizisinde, CAIS direktörü Dan Hendrycks, yukarıda belirtilen açıklama açıklayıcısını genişleterek “yapay zekadan kaynaklanan önemli ve acil risklere” örnek olarak “sistemik önyargı, yanlış bilgi, kötü niyetli kullanım, siber saldırılar ve silahlandırma” adını veriyor. … sadece yok olma riski değil”.
“Bunların hepsi ele alınması gereken önemli riskler,” diye öneriyor, küçümseyerek. politika yapıcıların sınırlı bant genişliğine sahip olduğu endişeleri “Toplumlar aynı anda birden fazla riski yönetebilir; “ya/ya da” değil, “evet/ve”dir. Risk yönetimi açısından bakıldığında, yalnızca mevcut zararlara öncelik vermek nasıl pervasızlık olacaksa, onları görmezden gelmek de pervasızlık olacaktır.”
Konu aynı zamanda, yapay zeka riski hakkında tek cümlelik bir ifadeye sahip olma ve onun geliştirilmesine “müştereken” yardımcı olma fikrini bulan Cambridge Üniversitesi’nde Bilgisayar Bilimi yardımcı doçenti David Krueger’a da itibar ediyor.
