arkasındaki teknoloji ChatGPT, pek dikkat çekmeden birkaç yıldır ortalıkta dolaşıyor. Onu bu kadar popüler yapan bir chatbot arayüzünün eklenmesiydi. Başka bir deyişle, yapay zekadaki bir gelişme değil, dünyanın dikkatini çeken, yapay zekanın insanlarla nasıl etkileşim kurduğundaki bir değişiklikti.
İnsanlar çok hızlı bir şekilde ChatGPT’yi otonom bir sosyal varlık olarak düşünmeye başladılar. Bu şaşırtıcı değil. 1996 gibi erken bir tarihte, Byron Reeves ve Clifford Nass, zamanlarının kişisel bilgisayarlarına baktılar ve “aracılı yaşam ile gerçek yaşamı bir tutmanın ne nadir ne de mantıksız olduğunu gördüler. Çok yaygındır, teşvik edilmesi kolaydır, süslü medya araçlarına bağlı değildir ve düşünmek onu ortadan kaldırmaz.” Diğer bir deyişle, insanların teknolojiden temel beklentisi, “yalnızca bir bilgisayar” olduğunu bildikleri halde, onun bir insan gibi davranması ve etkileşimde bulunmasıdır. 1990’lardan beri yapay zeka ajanları ve robotları inceleyen MIT profesörü Sherry Turkle, aynı noktayı vurguluyor ve beden dili ve sözlü ipuçları gibi gerçeğe yakın iletişim biçimlerinin “Darwin düğmelerimize bastığını” iddia ediyor; Öyle olmadığını rasyonel olarak anlasak bile teknolojiyi sosyal olarak deneyimliyoruz.
Bu akademisyenler, onlarca yıllık bilgisayar arayüzlerindeki sosyal potansiyeli ve riski gördüyse, ChatGPT’nin de benzer ve muhtemelen daha güçlü bir etkiye sahip olabileceğini varsaymak mantıklıdır. Birinci şahıs dilini kullanır, bağlamı korur ve ikna edici, kendinden emin ve sohbet tarzında cevaplar sağlar. Bing’in ChatGPT uygulaması emojileri bile kullanır. Bu, örneğin Google’da arama yaparak elde edilebilecek daha teknik çıktıya göre sosyal merdivende oldukça yüksek bir adımdır.
ChatGPT’yi eleştirenler, yanlış bilgi ve nefret dolu içerik gibi çıktılarının neden olabileceği zararlara odaklandılar. Ancak, yalnızca bir sosyal konuşma tarzı seçiminde ve yapay zekanın insanları olabildiğince yakından taklit etme girişiminde de riskler vardır.
Sosyal Arayüzlerin Riskleri
New York Times muhabir Kevin Roose, Roose defalarca durmasını istemesine rağmen, Bing’in sohbet robotuyla aşk ilanıyla sonuçlanan iki saatlik bir sohbete kapıldı. Bu tür bir duygusal manipülasyon, gençler veya tacize uğramış insanlar gibi savunmasız gruplar için daha da zararlı olacaktır. Bu, kullanıcı için oldukça rahatsız edici olabilir ve emoji gibi insan terminolojisi ve duygu sinyalleri kullanmak da bir tür duygusal aldatmadır. ChatGPT gibi bir dil modelinde duygular yoktur. Gülmez veya ağlamaz. Aslında bu tür eylemlerin anlamını bile anlamıyor.
Yapay zeka ajanlarında duygusal aldatma, yalnızca ahlaki açıdan sorunlu değildir; insanlara benzeyen tasarımları da bu tür ajanları daha ikna edici hale getirebilir. İnsan benzeri şekillerde hareket eden teknolojinin, hatalı bir yapay zeka aracısı tarafından yapılan mantıksız taleplerde ve acil durumlarda bile insanları harekete geçirmesi muhtemeldir. İkna edicilikleri tehlikelidir çünkü şirketler bunları, onları ürün satın almaya ikna etmekten siyasi görüşlerini etkilemeye kadar, kullanıcılar tarafından istenmeyen ve hatta kullanıcılar tarafından bilinmeyen bir şekilde kullanabilir.
Sonuç olarak, bazıları geri adım attı. Örneğin, robot tasarım araştırmacıları, insanların sosyal etkileşim beklentilerini azaltmanın bir yolu olarak insan benzeri olmayan bir yaklaşımı desteklediler. İnsanların etkileşim yollarını taklit etmeyen alternatif tasarımlar önerirler, böylece bir teknoloji parçasından daha uygun beklentiler belirlerler.
Kural Tanımlama
Chatbot’larla sosyal etkileşimlerin bazı riskleri, onlar için net sosyal roller ve sınırlar tasarlanarak ele alınabilir. İnsanlar her zaman rolleri seçer ve değiştirir. Aynı kişi, ebeveyn, çalışan veya kardeş rolleri arasında ileri geri hareket edebilir. Bir rolden diğerine geçişe bağlı olarak, etkileşimin bağlamı ve beklenen sınırları da değişir. Çocuğunuzla konuşurken bir iş arkadaşınızla sohbet ederken kullandığınız dili kullanmazsınız.
Buna karşılık, ChatGPT sosyal bir boşlukta var olur. Aşmamaya çalıştığı bazı kırmızı çizgiler olsa da, net bir toplumsal rolü veya uzmanlığı yok. Belirli bir amacı veya önceden tanımlanmış bir amacı da yoktur. Belki de bu, ChatGPT’nin yaratıcıları olan OpenAI’nin çok sayıda kullanımı veya her şeyi yapabilen bir varlığı teşvik etmek için yaptığı bilinçli bir seçimdi. Daha büyük olasılıkla, sadece karşılıklı konuşma aracılarının sosyal erişiminin anlaşılmamasıydı. Nedeni ne olursa olsun, bu açık uçluluk aşırı ve riskli etkileşimlere zemin hazırlıyor. Sohbet herhangi bir yöne gidebilir ve yapay zeka, verimli e-posta asistanından takıntılı sevgiliye kadar herhangi bir sosyal rolü üstlenebilir.
