Bu yıl, biz talep üzerine görüntü ve metin oluşturma yeteneğine sahip güçlü üretken yapay zeka sistemlerinin piyasaya sürüldüğünü gördük.
Aynı zamanda, düzenleyiciler hareket halindedir. Avrupa, yüksek riskli AI sistemlerine katı kurallar getirmeyi amaçlayan AI düzenlemesini (AI Yasası) tamamlamanın ortasındadır. Kanada, Birleşik Krallık, ABD ve Çin, yüksek etkili yapay zekayı düzenlemeye yönelik kendi yaklaşımlarını ortaya koydu. Ancak genel amaçlı yapay zeka, temel odaktan ziyade sonradan akla gelen bir şey gibi görünüyor. Nisan 2021’de Avrupa’nın yeni düzenleyici kuralları önerildiğinde, üretken yapay zeka da dahil olmak üzere genel amaçlı, temel modellerden tek bir söz edilmedi. Ancak bir buçuk yıl sonra, yapay zekanın geleceğine ilişkin anlayışımız kökten değişti. Günümüzün temel modellerinin bu tekliflerden haksız bir şekilde muaf tutulması, AI düzenlemelerini güçlü görünen ancak temel hakları koruyamayan kağıt kaplanlara dönüştürecektir.
ChatGPT’nin yaptığı AI paradigma değişikliği somut. Şimdi GPT-3, DALL-E, Stable Diffusion ve AlphaCode gibi birkaç model neredeyse tüm AI tabanlı sistemlerin temeli haline geliyor. AI girişimleri, bu temel modellerin parametrelerini kendi özel görevlerine daha iyi uyacak şekilde ayarlayabilir. Bu şekilde, temel modeller pazarlama, satış, müşteri hizmetleri, yazılım geliştirme, tasarım, oyun, eğitim ve hukuk dahil olmak üzere çeşitli alanlarda çok sayıda alt uygulamayı besleyebilir.
Temel modeller, yeni uygulamalar ve iş modelleri oluşturmak için kullanılabilirken, aynı zamanda yanlış bilgi yaymanın, yüksek kaliteli istenmeyen postaları otomatikleştirmenin, kötü amaçlı yazılım yazmanın ve telif hakkıyla korunan içerik ve icatları çalmanın güçlü bir yolu olabilir. Temel modellerin önyargılar içerdiği ve basmakalıp veya önyargılı içerik ürettiği kanıtlanmıştır. Bu modeller, aşırılık yanlısı içeriği doğru bir şekilde taklit edebilir ve bireyleri aşırılık yanlısı ideolojilere göre radikalleştirmek için kullanılabilir. Aldatma ve yanlış bilgileri inandırıcı bir şekilde sunma yetenekleri vardır. Endişe verici bir şekilde, bu modellerdeki potansiyel kusurlar sonraki tüm modellere aktarılacak ve kasıtlı olarak yönetilmezse potansiyel olarak yaygın sorunlara yol açacaktır.
“Birçok el” sorunu, birden çok aktörün neden olduğu sonuçlara ahlaki sorumluluk yükleme zorluğunu ifade eder ve algoritmik toplumlar söz konusu olduğunda hesap verebilirliği aşındırmanın temel itici güçlerinden biridir. Temel modellerin yüzlerce aşağı akış uygulamasını beslediği yeni yapay zeka tedarik zincirleri için hesap verebilirlik, uçtan uca şeffaflık üzerine inşa edilmelidir. Spesifik olarak, tedarik zincirinin şeffaflığını üç düzeyde güçlendirmemiz ve aralarında bir geri bildirim döngüsü oluşturmamız gerekiyor.
Temel modellerde şeffaflık araştırmacıların ve kullanıcıların tüm alt tedarik zincirinin, modellerin güvenlik açıklarını ve önyargılarını araştırmasını ve anlamasını sağlamak için kritik öneme sahiptir. Modellerin geliştiricileri bu ihtiyacı kendileri kabul ettiler. Örneğin, DeepMind araştırmacıları, büyük dil modellerinin zararlarının, zararların etkili bir şekilde saptanması, değerlendirilmesi ve hafifletilmesine izin vermek için yeterli düzeyde açıklanabilirlik ve yorumlanabilirlik üzerine inşa edilerek çok çeşitli paydaşlarla işbirliği yapılarak ele alınması gerektiğini öne sürüyor. Standart ölçüm ve kıyaslama için Standford Üniversitesi’nin HELM’si gibi metodolojilere ihtiyaç vardır. Bu modeller, araştırmacılar ve bağımsız denetçiler tarafından değerlendirilmeden çalışamayacak kadar güçlü hale geliyor. Düzenleyiciler şunu sormalıdır: Modellerin nerelere uygulanması ve nerede yasaklanması gerektiğini değerlendirebilecek kadar anlıyor muyuz? Yüksek riskli aşağı yönlü uygulamalar, eldeki bilgilerle güvenlik ve sağlamlık açısından uygun şekilde değerlendirilebilir mi?
