Bazı açılardan, Bu yanlış hizalamanın nasıl gerçekleştiğini anlamak zor. Bütün bunları kendimiz için, kendimiz için yarattık.
Tegmark’ın dediği gibi, doğamız gereği “karbon şovenisti” olduğumuz doğrudur: Yalnızca bizim gibi etten kemikten makinelerin düşünebileceğini, hesaplayabileceğini, yaratabileceğini düşünmeyi seviyoruz. Ancak makinelerin bizim yaptığımızı yapamayacağı inancı, yapay zekanın önemli bir içgörüsünü göz ardı ediyor: “Zeka tamamen bilgi işlemeyle ilgilidir ve bilginin beyindeki karbon atomları tarafından mı yoksa bilgisayarlardaki silikon atomları tarafından mı işlendiği önemli değildir. ”
Elbette şöyle diyenler var: Saçma! Her şey harika! Daha iyi! Makineleri getirin. Onlarla ne kadar çabuk birleşirsek o kadar iyi; tasarlanmış gözlerimiz ve kalplerimizle, cihazlarla yakın ilişkilerimizle çoktan başladık. Ray Kurzweil, ünlü olarak, tüm ayrımların neredeyse sıfıra indirgendiği yaklaşan tekilliği bekleyemez. Kurzweil yakın zamanda büyük bir dinleyici kitlesine “Aslında üstesinden gelmemiz gereken önümüzdeki on yıllar,” dedi.
Sadece bu.
Yapay zekanın dünyayı ele geçirme fikrinin insanlar tarafından yapıldığı için aptalca olduğunu söyleyen Jaron Lanier bile, onu nasıl kullandığımızı bozar ve kendimizi kelimenin tam anlamıyla delirtirsek, insanın yok olmasının bir olasılık olduğunu kabul ediyor: “Bana göre tehlike, Teknolojimizi karşılıklı olarak anlaşılmaz hale gelmek veya isterseniz deli olmak için kullanacağız, öyle ki hayatta kalmak için yeterince anlayış ve kişisel çıkarla hareket etmiyoruz ve esasen delilikten ölüyoruz.
Belki de kendimizi unuttuk. “İnsanlığımızı kaybetmek” bombacılar tarafından sık sık ve neredeyse bugün de aynı sıklıkta tekrarlanan bir sözdü. Fizikçi arkadaşım, kontrolden çıkmış teknolojinin tehlikesinin, “insanları ‘insan’ yapan o tanımlanamaz ve olağanüstü özelliğin bir kısmını kaybedebileceğimiz endişesi olduğunu” yazdı. Yedi yıl kadar sonra, Lanier aynı fikirde. “Bilincin gerçek bir şey olduğunu ve insanların diğer şeylerden farklı mistik bir içselliği olduğunu söylemeliyiz çünkü insanların özel olduğunu söylemezsek, nasıl bir toplum ya da insanlara hizmet eden teknolojiler yapabiliriz?”
hatta mı soyumuzun tükenmesinin önemi var mı?
İnsanlar uzun zamandır empati, nezaket, başkalarının duygularını tanıma ve onlara tepki verme yetenekleriyle ayırt edildi. Yaratıcılık ve yenilikçilik, orijinallik, uyarlanabilirlik ve mantıkla gurur duyuyoruz. Benlik duygusu. Bilim, sanat, müzik üretiyoruz. Dans ediyoruz, gülüyoruz.
Ancak Jane Goodall, şempanzelerin özgecil olabildiklerini, alet yapabildiklerini, ölülerinin yasını tutabildiklerini açıkladığından beri, balıklar, kuşlar ve zürafalar da dahil olmak üzere her türden yaratık, akıl yürütme, ileriyi planlama, adalet duygusuna sahip olma, günaha direnme yetisine sahip olduklarını kanıtladılar. rüya bile. (Yalnızca insanlar, yanlış hizalanmış devasa beyinleri aracılığıyla gerçekten kitlesel imha yeteneğine sahip görünüyorlar.)
Bazen hayvanların tüm bunları antropomorfize ettiğimiz için yapabileceğini düşünerek kendimizi kandırmamız mümkündür. Dostlarımız, evcil hayvanlarımız, sırdaşlarımız olduğunu düşünen makinelere kendimizi kandırdığımız kesin. MIT’den Sherry Turkle, yapay zekayı “yapay yakınlık” olarak adlandırıyor çünkü sahte empati de dahil olmak üzere sahte ama inandırıcı derecede şefkatli ilişkiler sağlamada çok iyi. Zamanlama daha kötü olamazdı. Dünyanın acilen dikkatimize ihtiyacı var; doğayla bağlantı kurmak için elimizden gelen her şeyi yapmalıyız, “insanlığın ölmesini umursamayan nesnelerle bağlantımızı” yoğunlaştırmamalıyız.
