SAN FRANCİSCO
California merkezli OpenAI, çeşitli soruları yanıtlayabilen bir sohbet robotu yayınladı, ancak etkileyici performansı, yapay zeka (AI) teknolojileriyle bağlantılı riskler hakkındaki tartışmayı yeniden başlattı.
sınıf=”cf”>
Büyülenmiş kullanıcılar tarafından Twitter’da yayınlanan ChatGPT ile yapılan sohbetler, bilimsel kavramları açıklayabilen ve bir oyun, üniversite tezi ve hatta işlevsel bilgisayar kodu satırları için sahneler yazabilen bir tür her şeyi bilen makineyi gösteriyor.
Otomatik metin oluşturma konusunda uzmanlaşmış bir Fransız şirketi olan Syllabs’ın başkanı Claude de Loupy, AFP’ye verdiği demeçte, “‘Birisi kalp krizi geçirirse ne yapmalı’ sorusuna verdiği yanıt inanılmaz derecede açık ve alakalıydı” dedi.
“Çok spesifik sorular sormaya başladığınızda, ChatGPT’nin yanıtı uygun olmayabilir”, ancak genel performansı “yüksek dil düzeyi” ile “gerçekten etkileyici” olmaya devam ediyor.
2018’de işi bırakan milyarder teknoloji kralı Elon Musk tarafından 2015’te San Francisco’da kurulan OpenAI, 2019’da Microsoft’tan 1 milyar dolar aldı.
Başlangıç, en çok otomatik oluşturma yazılımıyla tanınır: metin oluşturma için GPT-3 ve görüntü oluşturma için DALL-E.
sınıf=”cf”>
De Loupy, ChatGPT’nin muhatabından ayrıntıları isteyebildiğini ve hünerine rağmen bazen saçma sapan sonuçlar veren GPT-3’ten daha az garip yanıt verdiğini söyledi.
AI ile ilgili olayların bir veritabanını yöneten bir araştırmacı olan Sean McGregor, “Birkaç yıl önce, sohbet robotları bir sözlüğün sözlüğüne ve bir akvaryum balığının hafızasına sahipti” dedi.
“Chatbot’lar, sorguların ve yanıtların geçmişiyle tutarlı bir şekilde hareket ettikleri ‘geçmiş sorunu’nda çok daha iyi hale geliyor. Sohbet robotları akvaryum balığı statüsünden mezun oldu.”
Sinirsel aktiviteyi taklit eden derin öğrenmeye dayanan diğer programlar gibi, ChatGPT’nin de önemli bir zayıflığı var: “Anlama erişimi yok,” diyor De Loupy.
Yazılım, yanıtlarını oluşturan kelimeleri neden seçtiğini açıklamak gibi seçimlerini gerekçelendiremez.
Bununla birlikte, iletişim kurabilen AI teknolojileri, giderek artan bir şekilde bir düşünce izlenimi verebilmektedir.
Facebook ana şirketi Meta’daki araştırmacılar yakın zamanda Romalı devlet adamına ithafen Cicero adlı bir bilgisayar programı geliştirdiler.
Yazılımın, müzakere becerileri gerektiren Diplomacy masa oyunu konusunda uzman olduğu kanıtlanmıştır.
sınıf=”cf”>
Meta araştırma bulgularında, “Gerçek bir insan gibi konuşmazsa, empati göstermez, ilişkiler kurmaz ve oyun hakkında bilgili bir şekilde konuşmazsa, onunla çalışmaya istekli başka oyuncular bulamaz” dedi.
Ekim ayında, eski Google mühendisleri tarafından kurulan bir girişim olan Character.ai, herhangi bir kişiliğe sahip olabilen deneysel bir sohbet robotunu internete koydu.
Kullanıcılar kısa bir açıklamaya dayalı olarak karakterler oluşturur ve ardından sahte bir Sherlock Holmes, Socrates veya Donald Trump ile “sohbet edebilir”.
Bu karmaşıklık düzeyi, bu teknolojilerin yanlış bilgiler yayarak veya giderek daha güvenilir dolandırıcılıklar yaratarak insanları kandırmak için kötüye kullanılabileceğinden endişe duyan bazı gözlemcileri hem büyülüyor hem de endişelendiriyor.
sınıf=”cf”>
ChatGPT bu tehlikeler hakkında ne düşünüyor?
Chatbot AFP’ye verdiği demeçte, “Özellikle dilleri ve davranışları insanlardan ayırt edilemeyecek şekilde tasarlandıysa, son derece gelişmiş sohbet robotları oluşturmanın potansiyel tehlikeleri var.”
Bazı işletmeler, teknolojilerinin kötüye kullanılmasını önlemek için önlemler alıyor.
OpenAI, karşılama sayfasında, sohbet robotunun “ara sıra yanlış bilgiler üretebileceğini” veya “zararlı talimatlar veya önyargılı içerik üretebileceğini” söyleyerek sorumluluk reddi beyanları düzenler.
Ve ChatGPT taraf tutmayı reddediyor.
McGregor, “OpenAI, modelin bir şeyler hakkında fikir beyan etmesini inanılmaz derecede zorlaştırdı” dedi.
Bir keresinde McGregor, sohbet robotundan etik bir konu hakkında bir şiir yazmasını istedi.
“Ben sadece bir makineyim, senin kullanacağın bir aletim, seçme ya da reddetme gücüm yok. Seçenekleri tartamam, neyin doğru olduğuna karar veremem, bu kader gecesinde karar veremem” yanıtını verdi.
3 Aralık’ta OpenAI’nin kurucu ortağı ve CEO’su Sam Altman, AI’yı çevreleyen tartışmalar üzerine düşünerek Twitter’a gitti.
“Güçlü AI sistemlerinin kullanıcıların istediği şekilde mi yoksa yaratıcılarının amaçladığı şekilde mi davranması gerektiğini tartışmaya başlayan insanları izlemek ilginç” diye yazdı.
Bu sistemleri kimin değerlerine göre ayarlayacağımız sorusu, toplumun sahip olduğu en önemli tartışmalardan biri olacak.”
