Google çalışanları, şirketin sohbet robotu Bard’ı dahili mesajlarında defalarca eleştirdi, sistemi “patolojik bir yalancı” olarak etiketledi ve şirkete onu başlatmaması için yalvardı.
Bu, ufuk açıcı bir rapora göre Bloomberg 18 mevcut ve eski Google çalışanıyla yapılan tartışmaların yanı sıra dahili mesajların ekran görüntülerine atıfta bulunularak. Bu dahili tartışmalarda bir çalışan, Bard’ın kullanıcılara uçağa nasıl iniş yapılacağı veya tüplü dalış gibi konularda nasıl sık sık tehlikeli tavsiyeler verdiğine dikkat çekti. Bir diğeri, “Bard işe yaramaz olmaktan da beter: lütfen fırlatmayın” dedi. Bloomberg şirketin, sistemin genel kullanıma hazır olmadığını söyleyerek dahili bir güvenlik ekibi tarafından sunulan “bir risk değerlendirmesini bile reddettiğini” söylüyor. Google zaten Mart ayında “deneysel” bota erken erişim sağladı.
Bloomberg‘ın raporu, Google’ın Microsoft ve OpenAI gibi rakiplerine ayak uydurma çabasıyla etik kaygıları nasıl bir kenara bıraktığını gösteriyor. Şirket, AI’daki güvenlik ve etik çalışmalarını sık sık öne sürüyor, ancak bunun yerine işe öncelik verdiği için uzun süredir eleştirildi.
2020’nin sonlarında ve 2021’in başlarında şirket, Bard gibi sohbet robotlarının temelini oluşturan aynı yapay zeka dil sistemlerindeki kusurları ortaya çıkaran bir araştırma makalesi yazdıktan sonra Timnit Gebru ve Margaret Mitchell adlı iki araştırmacıyı kovdu. Ancak şimdi, bu sistemler Google’ın arama iş modelini tehdit ederken, şirket güvenlikten çok işine odaklanmış görünüyor. Gibi Bloomberg mevcut ve eski çalışanların ifadelerinden alıntı yaparak, “Güvenilir internet arama devi, etik taahhütlerine daha az öncelik verirken, rekabete ayak uydurma yarışında düşük kaliteli bilgiler sağlıyor.”
Google’daki diğerleri – ve daha genel olarak AI dünyasında – aynı fikirde olmayacaktır. Ortak bir argüman, bu sistemleri geliştirmek ve korumak için halka açık testlerin gerekli olduğu ve sohbet robotlarının neden olduğu bilinen zararın minimum düzeyde olduğu yönündedir. Evet, toksik metinler üretirler ve yanıltıcı bilgiler sunarlar, ancak web’deki diğer sayısız kaynak da öyle. (Diğerlerinin yanıt verdiği evet, ancak bir kullanıcıyı kötü bir bilgi kaynağına yönlendirmek, bu bilgiyi onlara bir AI sisteminin tüm yetkisiyle doğrudan vermekten farklıdır.) Google’ın Microsoft ve OpenAI gibi rakipleri de tartışmaya açık bir şekilde Google kadar risk altındadır. . Tek fark, arama işinde lider değiller ve kaybedecek daha az şeyleri var.
Google sözcüsü Brian Gabriel, şunları söyledi: Bloomberg AI etiğinin şirket için en önemli öncelik olmaya devam ettiği. Gabriel, “Yapay Zeka İlkelerimizi teknolojimize uygulamak için çalışan ekiplere yatırım yapmaya devam ediyoruz” dedi.
