İlk defa Joep Meindertsma’nın iyi bir yerde olmadığını konuşuyoruz. Yeğenini yapay zekanın toplumsal çöküşe neden olma riski konusunda uyardığı bir konuşmayı anlatırken gözyaşlarına boğuluyor. Sonrasında panik atak geçirdi. Hollanda’nın Utrecht kentindeki evinden Zoom üzerinden konuşurken “Gün aşırı ağlıyorum” diyor. “Anne babama veya arkadaşlarıma her veda ettiğimde, bu son kez olacakmış gibi geliyor.”
31 yaşındaki ve bir veritabanı şirketinin ortak sahibi olan Meindertsma, birkaç yıldır yapay zeka ile ilgileniyor. Ancak Open AI, Mart ayında en son dil modeli GPT-4’ü piyasaya sürdüğünde, teknolojinin insanlık için oluşturabileceği tehdit konusunda gerçekten endişelenmeye başladı. O zamandan beri, önce GPT-3’e, ardından GPT-4’e dayanan ChatGPT sohbet robotunun kontrolden çıkmış başarısının, yapay zekanın ne kadar ilerlediğini ve Büyük Teknoloji şirketlerinin yetişmek için yarıştığını dünyaya göstermesini izledi. Ve yapay zekanın sözde vaftiz babası Geoffrey Hinton gibi öncülerin yaratılmasına yardım ettikleri sistemlerle ilgili tehlikeler konusunda uyarıda bulunduğunu gördü. Meindertsma, “Yapay zeka yetenekleri, neredeyse herkesin tahmin ettiğinden çok daha hızlı ilerliyor” diyor. “Toplumsal çöküş riskiyle karşı karşıyayız. İnsanlığın yok olma tehlikesiyle karşı karşıyayız.”
Konuşmamızdan bir ay önce Meindertsma işe gitmeyi bıraktı. Yapay zekanın insan uygarlığını yok edeceği fikrine o kadar kapılmıştı ki, başka bir şey düşünmek için mücadele ediyordu. Felaketi önlemek için bir şeyler yapması gerektiğini hissetti. Kısa bir süre sonra, adından da anlaşılacağı gibi, AI gelişiminin durdurulması için kampanya yürüten bir taban protesto grubu olan Pause AI’ı kurdu. Ve o zamandan beri Brüksel, Londra, San Francisco ve Melbourne’da protestolar düzenleyen küçük bir takipçi grubu topladı. Bu gösteriler küçüktü – her seferinde 10 kişiden az – ama Meindertsma yüksek mevkilerde arkadaşlar ediniyor. Daha şimdiden hem Hollanda Parlamentosu hem de Avrupa Komisyonu’ndaki yetkililerle görüşmek üzere davet edildiğini söylüyor.
Yapay zekanın insanlığı yok edebileceği fikri kulağa aşırı geliyor. Ancak bu, hem teknoloji sektöründe hem de ana akım siyasette ilgi gören bir fikir. Hinton, Mayıs ayında Google’daki görevinden ayrıldı ve teknoloji ilerledikçe insanların artık yapay zekayı kontrol edemediği hayaletini gündeme getirdiği küresel bir röportaj turuna başladı. Aynı ay, yapay zeka laboratuvarları Google DeepMind, OpenAI ve Anthropic’in CEO’ları da dahil olmak üzere sektör liderleri, “yok olma riskini” kabul eden bir mektup imzaladılar ve Birleşik Krallık başbakanı Rishi Sunak, kendisinin de buna inandığını açıkça kabul eden ilk hükümet başkanı oldu. yapay zekanın insanlık için varoluşsal bir risk oluşturduğunu.
Meindertsma ve takipçileri, bu uyarıların topluma nasıl sızdığına, yeni bir yapay zeka kaygısı fenomeni yarattığına ve çoğu halihazırda iklim değişikliği konusunda derinden endişe duyan genç bir nesle gelecek hakkında paniğe kapılması için yeni bir neden verdiğine dair bir fikir veriyor. Anket kuruluşu YouGov tarafından yapılan bir anket, yapay zekanın bir kıyamete yol açacağından endişe duyan insanların oranının geçen yıl keskin bir şekilde arttığını ortaya koydu. Hinton, AI gelişiminin geçici veya süresiz olarak durdurulmasını istediğini reddediyor. Ancak yapay zekanın insanlık için oluşturduğu riskle ilgili kamuoyuna yaptığı açıklamalar, başka seçenek olmadığını düşünen bir grup gençle sonuçlandı.
Farklı insanlara, “varoluşsal risk” farklı şeyler ifade eder. Meindertsma, “Şahsen endişelendiğim ana senaryo, büyük ölçekli bilgisayar korsanlığı nedeniyle toplumsal çöküş” diyor ve yapay zekanın suçlular tarafından “etkili bir şekilde ortadan kaldırmak için” kullanılabilecek ucuz ve erişilebilir siber silahlar oluşturmak için kullanılmasından endişe duyduğunu açıklıyor. internetin tamamı.” Bu, uzmanların son derece olası olmadığını söylediği bir senaryo. Ancak Meindertsma, bankacılık ve gıda dağıtım hizmetlerinin dayanıklılığı konusunda hala endişeleniyor. “İnsanlar bir şehirde yiyecek bulamayacaklar. İnsanlar savaşacak” dedi. “Bence milyarlarca insan ölecek.”
