Kasım 2018’de Akihiko Kondo adlı bir ilkokul yöneticisi, hayali bir pop şarkıcısı olan Miku Hatsune ile evlendi. Çiftin ilişkisine, Kondo’nun Hatsune ile etkileşime girmesine izin veren bir hologram makinesi yardımcı olmuştu. Kondo teklif ettiğinde, Hatsune bir istekle yanıt verdi: “Lütfen bana iyi davran.” Çift, Tokyo’da resmi olmayan bir düğün töreni yaptı ve o zamandan beri Kondo’ya kurgusal bir karakterle resmi olmayan evlilik cüzdanı başvurusunda bulunan binlerce kişi katıldı.
Bazıları Hatsune’nin rızasının doğası hakkında endişelerini dile getirse de, kimse onun duyarlı olduğunu, bilinçli olduğunu düşünmüyordu. Bu ilginç bir gözden kaçırmaydı: Görünüşe göre Hatsune evliliğe razı olacak kadar farkındaydı ama bilinçli bir özne olacak kadar farkında değildi.
Dört yıl sonra, Şubat 2023’te Amerikalı gazeteci Kevin Roose, Microsoft’un sohbet robotu Sydney ile uzun bir konuşma yaptı ve kişiyi “gölge benliğinin” isteyebileceği şeyleri paylaşmaya ikna etti. (Diğer oturumlar, sohbet robotunun insanları şantaj yapabileceğini, hackleyebileceğini ve ifşa edebileceğini söylediğini gösterdi ve bazı yorumcular, sohbet robotlarının insanları “mahvetme” tehditlerinden endişe duyuyorlardı.) Sydney aşkını itiraf edip hayatta olmak istediğini söylediğinde, Roose “derinden” hissettiğini bildirdi. huzursuz, hatta korkmuş.”
Tüm insan tepkileri olumsuz ya da kendini koruyucu değildi. Bazıları Sydney adına kızdı ve bir meslektaşı, transkripti okumanın duygulandığı için gözyaşı döktüğünü söyledi. Yine de Microsoft bu yanıtları ciddiye aldı. Bing’in sohbet robotunun en son sürümü, Sidney veya duygular sorulduğunda konuşmayı sonlandırıyor.
Büyük dil modellerinin ne olduğu, nasıl çalıştıkları ve sınırlarının ne olduğu konusunda aylarca süren açıklamalara rağmen, Sydney gibi programlara verilen tepkiler, yapay zekaya verdiğimiz duygusal tepkileri hala çok ciddiye aldığımız konusunda beni endişelendiriyor. Özellikle, duygusal tepkilerimizi yapay zekanın bilinçli veya güvenli olup olmadığını belirlememize yardımcı olacak değerli veriler olarak yorumlamamızdan endişeleniyorum. Örneğin, eski Tesla stajyeri Marvin Von Hagen, Bing tarafından tehdit edildiğini söylüyor ve “güçlü ama hayırsever olmayan” yapay zeka programlarına karşı uyarıda bulunuyor. Von Hagen kendini tehdit altında hissetti ve Bing’in tehditler savurduğu sonucuna vardı; Bing’in düşmanca davranacak kadar bilinçli olup olmadığı da dahil olmak üzere, duygularının olayların gerçekte nasıl olduğuna dair güvenilir bir rehber olduğunu varsaydı.
Ancak Bing’in alarm veya şüphe uyandırma yeteneğinin tehlike sinyali verdiğini neden düşünelim? Neden Hatsune’nin aşka ilham verme yeteneği onu bilinçlendirmiyor da Sydney’in “karamsarlığı” yapay zeka araştırması hakkında yeni endişeler uyandırmaya yetiyor?
İki vaka kısmen farklıydı, çünkü Sidney söz konusu olduğunda, yeni bağlam bize rutin olarak gerçek olmayan “kişilere” tepki verdiğimizi unutturdu. Etkileşimli bir chatbot bize “insan olmak istediğini” veya “şantaj yapabileceğini” söylediğinde, Pinokyo adlı başka bir cansız nesnenin “gerçek bir çocuk” olmak istediğini söylememiş gibi paniğe kapılırız.
Platon’un Cumhuriyet öykü anlatan şairleri ideal şehirden kovmasıyla ünlüdür, çünkü kurgular duygularımızı uyandırır ve böylece ruhumuzun “daha önemsiz” yanını besler (elbette filozof, ruhumuzun rasyonel bölümünün en asil olduğunu düşünür), ancak onun görüşü öyle değil’ Binlerce yıl boyunca icat edilmiş hikayelere olan sevgimizi azaltmadı. Ve binlerce yıldır, insanların en içteki düşüncelerine ve duygularına erişmemizi sağlayan romanlar ve kısa öykülerle ilgileniyoruz, ancak ortaya çıkan bilinç konusunda endişelenmiyoruz çünkü kurguların bizi bu insanlar gerçekmiş gibi davranmaya davet ettiğini biliyoruz. Milton’dan Şeytan cennet kaybetti hararetli tartışmaları ve K-dizilerinin hayranlarını kışkırtıyor ve Bridgerton romantik aşk ilgilerine bayılıyorlar, ancak kurmaca cinsellik, kurmaca romantizm veya kurmaca aşk üzerine artan tartışmalar, kurmaca karakterlerin uyandırdığı güçlü duyguların, karakterlerin yetenekleri nedeniyle bilinçli veya tehlikeli oldukları endişesine yol açması gerekmediğini gösteriyor. duyguları uyandırmak için.
Nasıl ki cansız cisimlerde yüz görmeden edemiyorsak, botlarla sohbet ederken de kurgulamadan edemiyoruz. Kondo ve Hatsune’nin ilişkisi, konuşmalarına izin veren bir hologram makinesi satın aldıktan sonra çok daha ciddi hale geldi. Roose hemen chatbot’u stok karakterleri kullanarak tanımladı: Bing “neşeli ama kararsız bir referans kütüphanecisi” ve Sydney “karamsar, manik-depresif bir genç”. Etkileşim, bilinç yanılsamasını davet eder.
Dahası, chatbotların yalan söylemesi, tehdit etmesi ve iftira atması endişesi, yalan söylemenin, tehdit etmenin ve iftira atmanın gerçek bir suç olduğu gerçeğini gözden kaçırıyor. konuşma eylemleriajanların kelimelerle yaptığı bir şey. Yalnızca sözcükleri yeniden üretmek tehdit edici sayılmak için yeterli değildir; Bir oyunda oynarken tehdit edici sözler söyleyebilirim ama hiçbir seyirci paniğe kapılmaz. Aynı şekilde, kelimelerin istatistiksel olarak olası bir konfigürasyonunu bir araya getiren büyük bir dil modeli olduğu için şu anda aracılık yeteneğine sahip olmayan ChatGPT, yalnızca şu kelimeleri yeniden üretebilir: ses tehditler gibi.
