Beyaz Saray Amazon, Google, Meta, Microsoft ve OpenAI dahil olmak üzere büyük yapay zeka geliştiricileriyle, zararlı yapay zeka modellerinin dünyaya yayılmasını önlemek için harekete geçmelerini taahhüt eden bir anlaşma yaptı.
Beyaz Saray’ın “gönüllü taahhüt” olarak adlandırdığı anlaşma uyarınca şirketler, yeni AI modellerinin halka açıklanmadan önce dahili testler yapma ve harici testlere izin verme sözü veriyor. Test, önyargılı veya ayrımcı çıktılar, siber güvenlik kusurları ve daha geniş toplumsal zarar riskleri gibi sorunları arayacaktır. Her ikisi de OpenAI’nin ChatGPT’sinin önemli rakiplerinin geliştiricileri olan Anthropic ve Inflection adlı girişimler de anlaşmaya katıldı.
Beyaz Saray’ın AI özel danışmanı Ben Buchanan dün gazetecilere verdiği demeçte, “Şirketlerin, AI sistemlerinin güvenliğini ve kapasitesini test ederek ürünlerini halka sunmadan önce güvenli olmalarını sağlama görevi var.” Şirketlerden dikkat etmeleri istenen riskler arasında mahremiyet ihlalleri ve hatta biyolojik tehditlere olası katkılar yer alıyor. Şirketler ayrıca sistemlerinin sınırlamalarını ve oluşturabilecekleri güvenlik ve toplumsal riskleri kamuya bildirmeyi taahhüt ettiler.
Anlaşma ayrıca şirketlerin, insanların AI tarafından üretilen ses ve görüntüleri tanımlamasını kolaylaştıran filigran sistemleri geliştireceğini de söylüyor. OpenAI, Dall-E görüntü oluşturucu tarafından üretilen görüntülere zaten filigran ekliyor ve Google, yapay zeka tarafından oluşturulan görüntüler için benzer bir teknoloji geliştirdiğini söyledi. 2024’teki ABD seçimleri öncesinde siyasi kampanyalar üretken yapay zekaya yönelirken, insanların neyin gerçek neyin sahte olduğunu ayırt etmesine yardımcı olmak büyüyen bir sorun.
Metin veya görüntü oluşturabilen üretken AI sistemlerindeki son gelişmeler, teknolojiyi web arama ve tavsiye mektupları yazma gibi görevler için uyarlayan şirketler arasında yenilenen bir AI silahlanma yarışını tetikledi. Ancak yeni algoritmalar, AI’nın cinsiyetçilik veya ırkçılık gibi baskıcı sosyal sistemleri güçlendirmesi, seçim dezenformasyonunu artırması veya siber suç için bir araç haline gelmesiyle ilgili yenilenen endişeleri de tetikledi. Sonuç olarak, Washington, DC dahil olmak üzere dünyanın birçok yerindeki düzenleyiciler ve yasa yapıcılar, konuşlandırmadan önce yapay zekayı değerlendirme gereklilikleri de dahil olmak üzere yeni düzenleme çağrılarını artırdı.
Anlaşmanın büyük AI şirketlerinin çalışma şeklini ne kadar değiştireceği belli değil. Teknolojinin potansiyel dezavantajlarına dair artan farkındalık, teknoloji şirketlerinin yapay zeka politikası ve testi üzerinde çalışacak kişileri işe almasını zaten yaygın hale getirdi. Google’ın sistemlerini test eden ekipleri vardır ve belirli yapay zeka modelleri için amaçlanan kullanım durumları ve etik hususlar gibi bazı bilgileri yayınlar. Meta ve OpenAI bazen dış uzmanları, red-teaming adı verilen bir yaklaşımla modellerini kırmaya davet ediyor.
Microsoft başkanı Brad Smith bir blog yazısında, “Kalıcı emniyet, güvenlik ve güven ilkelerinin rehberliğinde, gönüllü taahhütler, gelişmiş yapay zeka modellerinin sunduğu riskleri ele alıyor ve kırmızı ekip testi ve şeffaflık raporlarının yayınlanması gibi belirli uygulamaların benimsenmesini teşvik ediyor” dedi.
Anlaşmanın şirketlere izleme sözü verdiği potansiyel toplumsal riskler, artık yapay zeka sistemlerinin etkisine ilişkin araştırmalarda sıklıkla dile getirilen bir endişe olan yapay zeka modellerini eğitmenin karbon ayak izini içermiyor. ChatGPT gibi bir sistem oluşturmak, uzun süre çalışan binlerce yüksek güçlü bilgisayar işlemcisi gerektirebilir.
