önde gelen isimler OpenAI CEO’su Sam Altman ve Google DeepMind CEO’su Demis Hassabis de dahil olmak üzere yapay zeka sistemlerinin geliştirilmesi, inşa ettikleri teknolojinin bir gün insanlık için nükleer savaş ve salgın hastalıklarla karşılaştırılabilir varoluşsal bir tehdit oluşturabileceği konusunda uyarıda bulunan bir bildiriye imza attı.
Kâr amacı gütmeyen bir kuruluş olan Yapay Zeka Güvenliği Merkezi tarafından bugün yayınlanan tek cümlelik bir bildiride, “Yapay zekanın yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.”
AI’nın kontrol edilmesinin zorlaşabileceği ve insanlığı kazara veya kasıtlı olarak yok edebileceği fikri, filozoflar tarafından uzun süredir tartışılıyor. Ancak son altı ayda, yapay zeka algoritmalarının performansındaki bazı şaşırtıcı ve sinir bozucu sıçramaların ardından, konu çok daha geniş çapta ve ciddi bir şekilde tartışılır hale geldi.
Açıklama, Altman ve Hassabis’e ek olarak, güvenliğe odaklanarak yapay zeka geliştirmeye adanmış bir girişim olan Anthropic’in CEO’su Dario Amodei tarafından imzalandı. Diğer imzacılar arasında, makine öğrenimi ve yapay zekadaki modern ilerlemelerin temelini oluşturan teknoloji olan derin öğrenme konusundaki çalışmalarından dolayı Turing Ödülü verilen üç akademisyenden ikisi olan Geoffrey Hinton ve Yoshua Bengio ile son teknoloji yapay zeka üzerinde çalışan düzinelerce girişimci ve araştırmacı yer alıyor. problemler.
Massachusetts Institute of Technology’de fizik profesörü ve AI’nın uzun vadeli risklerine odaklanan kar amacı gütmeyen Future of Life Institute’un direktörü Max Tegmark, “Açıklama harika bir girişim” diyor. Mart ayında Tegmark Enstitüsü, risklerin değerlendirilebilmesi için en yeni AI algoritmalarının geliştirilmesine altı aylık bir ara verilmesi çağrısında bulunan bir mektup yayınladı. Mektup, Elon Musk da dahil olmak üzere yüzlerce AI araştırmacısı ve yöneticisi tarafından imzalandı.
Tegmark, açıklamanın hükümetleri ve genel halkı yapay zekanın varoluşsal risklerini daha ciddiye almaya teşvik edeceğini umduğunu söylüyor. “İdeal sonuç, AI neslinin tükenme tehdidinin ana akım haline getirilmesi ve herkesin bunu alay korkusu olmadan tartışmasına olanak sağlamasıdır” diye ekliyor.
Yapay Zeka Güvenliği Merkezi direktörü Dan Hendrycks, yapay zeka ile ilgili mevcut endişe anını bilim adamları arasında nükleer silahların yaratılmasıyla ateşlenen tartışmaya benzetti. Hendrycks, örgütünün bildirisiyle birlikte yayınlanan bir alıntıda, “Atom bombasının yaratılmasından önce nükleer bilim adamlarının yaptığı konuşmaları yapmamız gerekiyor” dedi.
Mevcut alarm tonu, büyük dil modelleri olarak bilinen yapay zeka algoritmalarının performansındaki birkaç sıçramaya bağlıdır. Bu modeller, belirli bir diziyi takip etmesi gereken kelimeleri tahmin etmek için muazzam miktarda insan tarafından yazılmış metin üzerinde eğitilmiş belirli bir tür yapay sinir ağından oluşur. Yeterli veri sağlandığında ve insanlardan iyi ve kötü yanıtlar konusunda geri bildirim şeklinde ek eğitimle bu dil modelleri, metinler oluşturabilir ve soruları dikkate değer bir belagat ve görünür bilgiyle yanıtlayabilir – yanıtları çoğu zaman hatalarla dolu olsa bile.
Bu dil modelleri, daha fazla veri ve bilgisayar gücü ile beslendikçe, giderek tutarlı ve yetenekli olduklarını kanıtladılar. Şimdiye kadar oluşturulan en güçlü model olan OpenAI’nin GPT-4’ü, bazı soyutlama biçimleri ve sağduyulu muhakeme gerektirenler de dahil olmak üzere karmaşık sorunları çözebilir.
