Bunun yerine bu slogan, şirketin ne yaptığı hakkında daha az, bunu neden yaptığı hakkında daha çok şey söyler. Helsing’in iş ilanları idealizmle dolup taşıyor ve “demokratik değerlerin korunmaya değer olduğuna” inanan insanları arıyor.
Helsing’in üç kurucusu, Rusya’nın 2014’te Kırım’ı işgalinden, tüm Avrupa’nın Rus saldırganlığına yanıt vermeye hazır olması gerektiğine dair bir uyandırma çağrısı olarak bahsediyor. Reil, “Açık toplumlarımızda kilit teknolojilerin gerisinde kaldığımızdan giderek daha fazla endişe duymaya başladım” diyor. 2018’de Google çalışanlarının Pentagon’la yapılan ve Google’ın insansız hava aracı görüntülerini analiz etmek için yapay zekayı kullanmasına yardımcı olacağı bir anlaşmaya karşı protestolarını izlerken bu duygu arttı. 4.000’den fazla personel, Google’ın askeri gözetime ve bunun potansiyel olarak ölümcül sonuçlarına yardım etmesinin ahlaki ve etik açıdan sorumsuz olduğunu savunan bir mektup imzaladı. Yanıt olarak Google, sözleşmeyi yenilemeyeceğini söyledi.
Reil, “Mantığını anlamadım,” diyor. “Açık ve özgür toplumlarda yaşamak, olmak istediğimiz kişi olmak ve söylemek istediklerimizi söylemek istiyorsak, onları koruyabilmemiz gerekir. Bunları hafife alamayız.” Big Tech, tüm kaynaklarıyla savunma sanayi ile çalışmaktan caydırılırsa, Batı’nın kaçınılmaz olarak geride kalacağından endişeliydi. “Eğer onlar yapmıyorsa, en iyi Google mühendisleri bu konuda çalışmaya hazır değilse, kim yapacakmış gibi hissettim?”
Savunma ürünlerinin yaratıcılarının söylediği gibi çalışıp çalışmadığını söylemek genellikle zordur. Helsing de dahil olmak üzere bunları satan şirketler, ayrıntılar konusunda şeffaf olmanın araçlarının etkinliğinden ödün vereceğini iddia ediyor. Ancak biz konuşurken, kurucular yapay zekasını satış yapmak istediği demokratik rejimlerle uyumlu kılan şeyin bir görüntüsünü yansıtmaya çalışıyor. Scherf, “Gizliliğe ve özgürlüğe gerçekten çok değer veriyoruz ve asla yüz tanıma gibi şeyler yapmayız” diyor ve şirketin orduların insanları değil nesneleri tanımasına yardımcı olmak istediğini iddia ediyor. “Savunma görevi için gerekli olmayan bazı şeyler var.”
Ancak savunma gibi ölümcül bir endüstride sürünen otomasyon hala çetrefilli sorunları gündeme getiriyor. Stanford Üniversitesi Uluslararası Güvenlik ve İşbirliği Merkezi’nde kıdemli araştırma uzmanı Herbert Lin, Helsing’in sunduğu tüm sistemlerin, orduların hedeflerin nerede olduğunu anlamalarına yardımcı olan artırılmış savaş alanı farkındalığı olması halinde, bunun herhangi bir sorun teşkil etmediğini söylüyor. Ancak bu sistem hayata geçtiğinde, karar vericilerin onu otonom silahlara bağlama konusunda baskı altına gireceğine inanıyor. Lin, “Politika yapıcılar bunu yapma fikrine direnmeli,” diyor ve hatalar olduğunda makinelerin değil insanların hesap vermesi gerektiğini ekliyor. AI “bir kamyon veya tank yerine bir traktörü öldürürse, bu kötüdür. Bunun sorumlusu kim olacak?”
Riel, Helsing’in otonom silahlar yapmadığı konusunda ısrar ediyor. “Biz tam tersini yapıyoruz” diyor. “İnsanların durumu daha iyi anlamalarına yardımcı olan AI sistemleri yapıyoruz.”
Operatörler, Helsing’in platformunu bir insansız hava aracını devirmek için kullanabilse de, şu anda bu kararı yapay zeka değil, bir insan veriyor. Ancak insanların makinelerle yakından çalıştıklarında gerçekte ne kadar özerkliğe sahip olduklarına dair sorular var. Stratejik ve Uluslararası Çalışmalar Merkezi’nden Jensen, “Kullanıcıların üzerinde çalıştıkları araçları ne kadar az anlamalarını sağlarsanız, onlara sihir gibi davranıyorlar” diyor ve bunun askeri kullanıcıların yapay zekaya ya çok fazla ya da çok az güvenebileceği anlamına geldiğini iddia ediyor.
