KABLOLU sorulduğunda Bu haftanın haber bültenini ele alırken ilk içgüdüm, OpenAI’nin viral sohbet robotu olan ChatGPT’den ne bulduğunu görmek için sormak oldu. Tüm hafta boyunca e-postalar, tarifler ve LinkedIn gönderileriyle yaptığım şey buydu. Verimlilik çok düştü, ancak Elon Musk hakkındaki şımarık sözler yüzde 1000 arttı.
Bottan kendisi hakkında Steven Levy tarzında bir köşe yazısı yazmasını istedim ama sonuçlar pek iyi olmadı. ChatGPT, AI’nın vaadi ve tuzakları hakkında genel yorumlar yaptı, ancak Steven’ın sesini gerçekten yakalamadı veya yeni bir şey söylemedi. Geçen hafta yazdığım gibi akıcıydı ama tamamen inandırıcı değildi. Ama beni düşündürdü: Bundan paçayı kurtarabilir miydim? İster iş e-postaları ister üniversite ödevleri olsun, gerçekten yapmamaları gereken şeyler için yapay zeka kullanan insanları hangi sistemler yakalayabilir?
Öğrenmek için, Oxford İnternet Enstitüsü’nde teknoloji ve düzenleme profesörü olan ve algoritmalara şeffaflık ve hesap verebilirliğin nasıl inşa edileceği hakkında güzel bir şekilde konuşan Sandra Wachter ile konuştum. Ona ChatGPT gibi bir sistem için bunun nasıl görünebileceğini sordum.
Amit Katwala: ChatGPT, klasik şiirden mülayim pazarlama metnine kadar her şeyi kaleme alabilir, ancak bu hafta en çok konuşulan konulardan biri, öğrencilerin kopya çekmesine yardımcı olup olmayacağıydı. Öğrencilerinizden birinin onu bir makale yazmak için kullanıp kullanmadığını anlayabileceğinizi düşünüyor musunuz?
Sandra Wachter: Bu bir kedi-fare oyunu olmaya başlayacak. Teknoloji belki henüz hukuk öğreten biri olarak beni kandıracak kadar iyi değil ama o alanda olmayan birini ikna edecek kadar iyi olabilir. Acaba teknoloji zamanla beni de kandırabilecek kadar iyileşecek mi? Gördüğümüz şeyin bir insan tarafından yaratıldığından emin olmak için teknik araçlara ihtiyacımız olabilir, tıpkı deepfake’ler ve düzenlenmiş fotoğrafları algılamak için araçlarımız olduğu gibi.
Bunu metin için yapmak, derin sahte görüntüler için olduğundan daha zor görünüyor, çünkü daha az eser ve işaret var. Belki de herhangi bir güvenilir çözümün en başta metni oluşturan şirket tarafından oluşturulması gerekebilir.
O aracı yaratan kişiden onay almanız gerekiyor. Ancak öğrencilere hizmet sunuyorsam, buna boyun eğecek türden bir şirket olmayabilirim. Ve filigran koysanız bile çıkarılabildikleri bir durum olabilir. Çok teknoloji meraklısı gruplar muhtemelen bir yolunu bulacaktır. Ama gerçek bir teknoloji aracı var [built with OpenAI’s input] çıktının yapay olarak oluşturulup oluşturulmadığını tespit etmenizi sağlar.
Zarar azaltma düşünülerek tasarlanmış bir ChatGPT sürümü nasıl görünürdü?
Birkaç şey. İlk olarak, bu araçları yaratanın filigranları yerine koyduğunu gerçekten iddia ediyorum. Ve belki de AB’nin önerdiği Yapay Zeka Yasası yardımcı olabilir, çünkü bir şeyin gerçek olmadığı zaman her zaman farkında olmanız gerektiğini söyleyerek botlar etrafındaki şeffaflığı ele alır. Ancak şirketler bunu yapmak istemeyebilir ve belki filigranlar kaldırılabilir. Öyleyse, AI çıktısına bakan bağımsız araçlara yönelik araştırmaları teşvik etmekle ilgili. Ve eğitimde, öğrencileri nasıl değerlendirdiğimiz ve makaleleri nasıl yazdığımız konusunda daha yaratıcı olmalıyız: Sahte olması daha zor olan ne tür sorular sorabiliriz? Kesintiyi engellememize yardımcı olan, teknoloji ve insan gözetiminin bir kombinasyonu olmalıdır.
