Chatbot’un esnekliği, bazı adreslenmemiş sorunları da beraberinde getirir. Önyargılı, öngörülemeyen ve genellikle uydurma yanıtlar üretebilir ve kısmen izinsiz kazınmış kişisel bilgiler üzerine kuruludur ve bu da mahremiyet endişelerini artırır.
Goldkind, ChatGPT’yi kullanan kişilerin hizmet şartlarını bilmelerini, nasıl çalıştığına ilişkin temel bilgileri (ve bir sohbette paylaşılan bilgilerin nasıl gizli kalamayacağını) anlamalarını ve uydurma eğilimi gibi sınırlamalarını akılda tutmalarını tavsiye ediyor. bilgi. Young, ChatGPT için veri gizliliği korumalarını açmayı düşündüklerini, ancak otistik, trans, bekar bir ebeveyn olarak bakış açılarının genel olarak sohbet robotu için faydalı veriler olabileceğini düşündüklerini söyledi.
Diğer pek çok insanda olduğu gibi, otistik insanlar da ChatGPT ile sohbet ederek bilgi ve güç bulabilirler. Bazıları için artılar eksilerden daha ağır basar.
Otistik olan ve otistik ve trans bireyler için destek gruplarını kolaylaştıran Maxfield Sparrow, ChatGPT’yi yeni materyal geliştirmek için yararlı bulmuştur. Sparrow, sosyal oyunların büyük ölçüde nörotipik insanlar için tasarlandığından, pek çok otistik kişinin grup oturumlarında geleneksel buz kırıcılarla mücadele ettiğini söylüyor. Bu yüzden, chatbot’tan otistik insanlar için daha iyi çalışan örnekler bulmasını istediler. Bir süre ileri geri gittikten sonra, sohbet robotu tükürdü: “Eğer hava olsaydın, nasıl bir hava olurdun?”
Sparrow, bunun grup için mükemmel bir açılış olduğunu söylüyor – özlü ve doğal dünyayla ilgili, Sparrow’un nöro-farklı bir grubun bağlantı kurabileceğini söylediği. Chatbot, Sparrow hasta olduğunda ve daha üretken olmak için sabah rutinlerini nasıl organize edecekleri gibi diğer tavsiyelerde de bir rahatlık kaynağı haline geldi.
Chatbot terapisi, onlarca yıl öncesine dayanan bir kavramdır. İlk chatbot ELIZA bir terapi botuydu. 1960’larda MIT Yapay Zeka Laboratuvarı’ndan çıktı ve bir danışmanın bir danışanın söylediklerini genellikle bir soru biçiminde yeniden ifade ettiği Rogerian terapisine göre modellendi. Program, bugün bildiğimiz AI’yı kullanmıyordu, ancak tekrarlama ve kalıp eşleştirme yoluyla, komut dizili yanıtları, kullanıcılara kendilerini anlayan bir şeyle konuşuyormuş izlenimi veriyordu. ELIZA, bilgisayarların insanların yerini alamayacağını kanıtlamak amacıyla yaratılmış olmasına rağmen, programla yoğun ve kapsamlı konuşmalar yapan bazı “hastalarını” büyüledi.
Daha yakın zamanlarda, Apple’ın Siri’sine benzeyen, yapay zeka güdümlü, betikli yanıtlara sahip sohbet robotları yaygın olarak kullanılabilir hale geldi. En popülerleri arasında, gerçek bir terapist rolünü oynamak için tasarlanmış bir sohbet robotu var. Woebot, bilişsel davranışçı terapi uygulamalarına dayanmaktadır ve salgın boyunca her zamankinden daha fazla insan akıl sağlığı hizmetleri aradıkça talepte bir artış gördü.
Ancak bu uygulamaların kapsamı daha dar olduğundan ve yazılı yanıtlar sağladığından, ChatGPT’nin daha zengin sohbeti, karmaşık sosyal sorunları çözmeye çalışanlar için daha etkili olabilir.
Açık kaynaklı AI modelleri geliştiren Hugging Face’in baş etik bilimcisi Margaret Mitchell, daha karmaşık sorunlarla veya ciddi duygusal sıkıntılarla karşılaşan kişilerin sohbet robotu kullanımlarını sınırlamaları gerektiğini öneriyor. “Sorunlu olan veya olumsuz düşünmeyi teşvik eden tartışma yönlerine yol açabilir” diyor. “Bu sistemlerin söyleyebilecekleri üzerinde tam kontrole sahip olmamamız büyük bir sorun.”
