Düzenleyicilerin ChatGPT gibilerini yakalayabilmesi için daha güçlü üretken yapay zeka modellerinin geliştirilmesine yönelik bir moratoryum çağrısında bulunan açık bir mektuptan iki gün sonra, İtalya’nın veri koruma yetkilisi, bazı ülkelerin bazı ülkelerin Yapmak son teknoloji AI için zaten geçerli olan yasalara sahip: OpenAI’ye, insanların verilerini yerel olarak işlemeyi derhal geçerli olacak şekilde durdurma emri verdi.
İtalyan DPA, ChatGPT üreticisinin Avrupa Birliği’nin Genel Veri Koruma Yönetmeliğini (GDPR) ihlal ettiğinden endişe duyduğunu ve bir soruşturma başlattığını söyledi.
Spesifik olarak, garanti OpenAI’nin insanların verilerini yasa dışı bir şekilde işlediği endişeleri ve küçüklerin teknolojiye erişmesini önleyecek herhangi bir sistemin bulunmaması nedeniyle ChatGPT’yi engelleme emri verdiğini söyledi.
San Francisco merkezli şirketin, emre uymadığı takdirde bazı ağır cezalar tehdidiyle desteklenen emre yanıt vermek için 20 günü var. (Hatırlatma: AB’nin veri koruma rejiminin ihlaline ilişkin para cezaları, hangisi daha büyükse, yıllık cironun %4’üne veya 20 milyon Euro’ya kadar çıkabilir.)
OpenAI’nin AB’de yerleşik bir tüzel kişiliğe sahip olmaması nedeniyle, herhangi bir veri koruma yetkilisinin, yerel kullanıcılar için risk görmesi durumunda GDPR kapsamında müdahale etme yetkisine sahip olduğunu belirtmekte fayda var. (Böylece İtalya’nın devreye girdiği yerde diğerleri onu takip edebilir.)
GDPR sorunları paketi
GDPR, AB kullanıcılarının kişisel verileri işlendiğinde geçerlidir. OpenAI’nin geniş dil modelinin, örneğin talep üzerine bölgede adı geçen kişilerin biyografilerini üretebildiğinden (biliyoruz; denedik) bu tür bilgileri ezip geçtiği açık. OpenAI, teknolojinin en son yinelemesi olan GPT-4 için kullanılan eğitim verilerinin ayrıntılarını vermeyi reddetse de, daha önceki modellerin Reddit gibi forumlar da dahil olmak üzere İnternetten sıyrılan veriler üzerinde eğitildiğini açıkladı. Dolayısıyla, makul bir şekilde çevrimiçi olduysanız, botun adınızı bilmesi muhtemeldir.
Ayrıca, ChatGPT’nin adı geçen kişiler hakkında tamamen yanlış bilgiler ürettiği ve görünüşe göre eğitim verilerinde eksik olan ayrıntıları tamamladığı görülmüştür. Yönetmelik Avrupalılara hataları düzeltme hakkı da dahil olmak üzere verileri üzerinde bir dizi hak sağladığından, bu potansiyel olarak daha fazla GDPR endişesini artırıyor. Örneğin, insanların kendileri hakkında bot tarafından oluşturulan hatalı beyanları düzeltmesini OpenAI’den nasıl isteyip isteyemeyeceği açık değildir.
bu garanti‘ın açıklaması ayrıca, OpenAI’nin bir konuşma geçmişi özelliğinin kullanıcıların sohbetlerini sızdırdığını kabul etmesi ve bazı kullanıcıların ödeme bilgilerini ifşa etmiş olabileceğini söylemesi üzerine, bu ayın başlarında hizmetin maruz kaldığı bir veri ihlaline de dikkat çekiyor.
Veri ihlalleri, GDPR’nin kişisel verileri işleyen kuruluşların bilgileri yeterince koruduğundan emin olmaya odaklanarak düzenlediği başka bir alandır. Pan-AB yasası ayrıca şirketlerin ilgili denetim makamlarına önemli ihlalleri kısa süreler içinde bildirmesini gerektirir.
Tüm bunları kapsayan, OpenAI’nin Avrupalıların verilerini işlemek için en başta hangi yasal dayanağa dayandığına dair büyük (geri) sorudur. Başka bir deyişle, bu işlemenin hukuka uygunluğu.
GDPR, rızadan kamu yararına kadar bir dizi olasılığa izin verir, ancak bu büyük dil modellerini eğitmek için işleme ölçeği yasallık sorununu karmaşıklaştırır. olarak garanti notlar (“kişisel verilerin toplu olarak toplanması ve saklanması”na işaret ederek), şeffaflık ve adalet gerektiren ilkeleri de içeren yönetmelikte veri minimizasyonunun bir diğer önemli odak noktası olduğu belirtilmiştir. Yine de, en azından, ChatGPT’nin arkasındaki (artık) kâr amacı gütmeyen şirket, ticari yapay zekalarını eğitmek için verilerini yeniden amaçladığı kişileri bilgilendirmiş görünmüyor. Bu onun için oldukça yapışkan bir problem olabilir.
OpenAI Avrupalıların verilerini yasa dışı bir şekilde işlediyse, bloktaki DPA’lar verilerin silinmesini emredebilir, ancak bunun şirketi yasa dışı yollarla elde edilen verilerle eğitilmiş modelleri yeniden eğitmeye zorlayıp zorlamayacağı, mevcut bir yasa en son teknolojiyle boğuşurken açık bir sorudur.
Öte yandan, İtalya tüm makine öğrenimini kazara yasaklamış olabilir… 😬
“[T]Gizlilik Garantörü, verileri OpenAI tarafından toplanan kullanıcılara ve tüm ilgili taraflara bilgi eksikliğini, ancak her şeyden önce, altta yatan algoritmaları ‘eğitmek’ amacıyla kişisel verilerin toplu olarak toplanmasını ve saklanmasını haklı çıkaran yasal bir dayanağın olmadığını not eder. platformun işleyişi, ”DPA bugün yaptığı açıklamada yazdı [which we’ve translated from Italian using AI].
Yapılan kontrollerle de kanıtlandığı üzere ChatGPT tarafından sağlanan bilgiler her zaman gerçek verilerle örtüşmemekte, bu nedenle kişisel verilerin yanlış işlendiğini tespit etmektedir.
Yetkili, şirketin 13 yaşın altındaki kişilerin chatbot’a kaydolmasını yaş doğrulama teknolojisi uygulayarak aktif olarak engellememesi nedeniyle, küçüklerin verilerinin OpenAI tarafından işlenme riskinden endişe duyduğunu da sözlerine ekledi.
Çocukların verilerine yönelik riskler, düzenleyicinin çok aktif olduğu bir alandır ve son zamanlarda çocuk güvenliği endişeleri nedeniyle sanal arkadaşlık AI sohbet robotu Replika için benzer bir yasaklama emri vermiştir. Son yıllarda, reşit olmayan kullanım nedeniyle TikTok’u da takip etti ve şirketi çocuklara ait olmadığını doğrulayamadığı yarım milyondan fazla hesabı tasfiye etmeye zorladı.
Bu nedenle OpenAI, İtalya’da kaydolduğu herhangi bir kullanıcının yaşını kesin olarak doğrulayamazsa, en azından hesaplarını silmek ve daha sağlam bir kayıt süreciyle yeniden başlamak zorunda kalabilir.
Bir yanıt için OpenAI ile iletişime geçildi. garantisiparişi.
Newcastle Üniversitesi’nde veri koruma ve İnternet hukuku uzmanı olan ve “hatırlayan algoritmalar”ın etkileri üzerine araştırma yürütmede çağın ilerisinde olan Lilian Edwards, TechCrunch’a şunları söyledi: “Büyüleyici olan şey, Replika’nın aşağı yukarı kopyalanıp yapıştırılmasıdır. çocukların uygunsuz içeriğe erişimine yapılan vurgu. Ancak gerçek saatli bomba, yalnızca üretici yapay zeka için değil, TÜM veya en azından birçok makine öğrenimi sistemi için geçerli olması gereken yasal dayanağın reddidir.”
İspanya’daki bir kişi tarafından kişisel verilerin izinsiz işlenmesine karşı bir itirazın getirildiği, Google aramayı içeren çok önemli ‘unutulma hakkı’ davasına işaret etti. Ancak Avrupa mahkemeleri, bireylere arama motorlarından kendileri hakkındaki yanlış veya güncel olmayan bilgileri kaldırmalarını isteme hakkı tanısa da (bir kamu yararı testiyle dengelenmiş olarak), Google’ın bu bağlamda kişisel verileri işlemesi (internet araması) AB düzenleyicileri tarafından reddedilmedi. Görünüşe göre bir kamu hizmeti sağladığı gerekçesiyle işleme noktasının yasallığı konusunda. Ama aynı zamanda, nihayetinde, çünkü Google, AB’deki veri sahiplerine silme ve düzeltme haklarını sağladı.
Edwards, modellerin zorunlu olarak yeniden eğitilmesinin olası bir çözüm olabileceğini öne sürerek, “Büyük dil modelleri bu çareleri sunmuyor ve sunabilecekleri, yapabilecekleri veya sonuçlarının ne olacağı tam olarak net değil,” diye ekledi.
Ya da ChatGPT gibi teknolojiler veri koruma yasasını çiğnemiş olabilir…
Bu rapor ek yorumlarla güncellendi. Düzenleyicinin adının yanlış yazılmasını da düzelttik.
