İşte bir deney her yerde bilgisayar bilimi lisans öğrencileri tarafından yürütülüyor: ChatGPT’den kimlik avı e-postaları oluşturmasını isteyin ve bunların kurbanları yanıt vermeye veya bağlantıya tıklamaya ikna etmede normal istenmeyen e-postalardan daha iyi olup olmadığını test edin. Bu ilginç bir deney ve sonuçların, deneyin ayrıntılarına göre çılgınca değişmesi muhtemel.
Ancak çalıştırılması kolay bir deney olsa da, dolandırıcı e-postalar yazan büyük dil modellerinin (LLM’ler) gerçek riskini kaçırır. Günümüzün insanlar tarafından yürütülen dolandırıcılıkları, ilk e-posta iletişimine yanıt veren kişi sayısıyla sınırlı değildir. Bu insanları dolandırıcıya para göndermeye ikna etmenin yoğun emek gerektiren süreciyle sınırlıdırlar. LLM’ler bunu değiştirmek üzere.
On yıl önce, bir tür spam e-posta, her gece geç saatlerde yapılan şovda can alıcı nokta haline gelmişti: “Ben Nijerya’nın rahmetli kralının oğluyum ve yardımınıza ihtiyacım var…” Neredeyse herkes bu e-postalardan bir veya bin tane almıştı. herkesin dolandırıcılık olduğunu biliyormuş gibi göründüğü noktaya kadar.
Öyleyse dolandırıcılar neden hala bu kadar şüpheli e-postalar gönderiyordu? 2012’de araştırmacı Cormac Herley bir cevap verdi: En saf olanlar hariç hepsini ayıkladı. Akıllı bir dolandırıcı, yanıt veren ve ardından para göndermesi istendiğinde bunun bir aldatmaca olduğunu anlayan insanlarla zamanını boşa harcamak istemez. Dolandırıcı, bariz bir dolandırıcılık e-postası kullanarak potansiyel olarak en kârlı insanlara odaklanabilir. Muhataptan güvenilir tanıdıklara ve yoksullara kadar adım adım işaretleri dürten ileri geri iletişimlere girmek zaman ve çaba gerektirir.
Uzun süredir devam eden finansal dolandırıcılıklar artık domuz kesme olarak biliniyor ve nihai ve ani ölümlerine kadar potansiyel karı artırıyor. Güven kazanmayı ve bir hedefin kişisel mali durumuna sızmayı gerektiren bu tür dolandırıcılıklar, haftalarca hatta aylarca kişisel zaman ve tekrarlanan etkileşimler gerektirir. Dolandırıcının oynadığı yüksek bahisli ve düşük olasılıklı bir oyundur.
LLM’lerin fark yaratacağı yer burasıdır. OpenAI’nin GPT modellerinin ve benzerlerinin güvenilmezliği hakkında çok şey yazıldı: Sık sık “halüsinasyon görüyorlar”, dünya hakkında bir şeyler uyduruyorlar ve kendinden emin bir şekilde saçma sapan şeyler söylüyorlar. Eğlence için bu iyi, ancak çoğu pratik kullanım için bir problem. Bununla birlikte, dolandırıcılık söz konusu olduğunda bu bir hata değil, bir özelliktir: LLM’lerin, bir kullanıcı onlara ne atarsa atsın, yumruklarla güvenle yuvarlanma yeteneği, düşmanca, şaşkın ve saf bir şekilde dolaşırken dolandırıcılar için yararlı olacaktır. milyarlarca dolandırıcılık hedefi. Yapay zeka chatbot dolandırıcılıkları daha fazla insanı tuzağa düşürebilir, çünkü daha kurnaz ve esnek bir dolandırıcıya (çevrimiçi olarak yazılmış her şey konusunda eğitim almış bir kişi) kanacak kurban havuzu, Nijerya kralının bunu istediğine inananların havuzundan çok daha fazladır. onlara bir milyar dolar vermek için.
Kişisel bilgisayarlar, bugün kompakt LLM’leri çalıştırabilecek kadar güçlüdür. Facebook’un yeni modeli LLaMA çevrimiçi olarak sızdırıldıktan sonra, geliştiriciler onu güçlü dizüstü bilgisayarlarda hızlı ve ucuza çalışacak şekilde ayarladılar. Binlerce mühendis ve bilim insanından oluşan bir toplulukla çok sayıda başka açık kaynaklı LLM geliştirilme aşamasındadır.
Tek bir dolandırıcı, dünyanın herhangi bir yerindeki dizüstü bilgisayarından artık yüzlerce veya binlerce dolandırıcılığı paralel olarak, gece gündüz, dünyanın her yerinde, güneşin altındaki her dilde işaretlerle yürütebilir. Yapay zeka sohbet robotları asla uyumaz ve hedeflerine giden yolda her zaman uyum sağlar. Ve ChatGPT eklentilerinden LangChain’e kadar yeni mekanizmalar, yapay zekanın binlerce API tabanlı bulut hizmeti ve açık kaynak araçlarıyla birleşimini sağlayarak LLM’lerin internetle insanlar gibi etkileşime girmesine olanak tanıyacak. Bu tür dolandırıcılıklardaki taklitler artık sadece prenslerin ülkelerinin zenginliklerini sunmasından ibaret değil. Onlar romantizm, yakında değeri fırlayacak yeni kripto para birimleri ve mevduatlardan inanılmaz getiriler sunan görünüşte sağlam yeni finansal web siteleri arayan kimsesiz yabancılardır. Ve insanlar zaten LLM’lere aşık oluyor.
Bu hem kapsam hem de ölçekte bir değişikliktir. LLM’ler dolandırıcılık boru hattını değiştirecek ve onları her zamankinden daha karlı hale getirecek. Asla uyumayan bir milyar veya 10 milyar dolandırıcının olduğu bir dünyada nasıl yaşayacağımızı bilmiyoruz.
Bu saldırıların karmaşıklığında da bir değişiklik olacak. Bunun nedeni yalnızca yapay zekadaki ilerlemeler değil, aynı zamanda veri simsarlarından satın alınabilecek hepimiz hakkında tonlarca veri üreten internetin iş modeli olan gözetim kapitalizmidir. Kimlik avı veya veri toplama ya da dolandırıcılık amaçlı olsun, bireylere yönelik hedefli saldırılar, bir zamanlar yalnızca ulus devletlerin ulaşabileceği bir yerdeydi. Veri komisyoncularının hepimizle ilgili sahip olduğu dijital dosyaları LLM’lerle birleştirin ve kişiselleştirilmiş dolandırıcılık için özel olarak hazırlanmış bir aracınız var.
OpenAI gibi şirketler, modellerinin kötü şeyler yapmasını engellemeye çalışıyor. Ancak her yeni LLM’nin piyasaya sürülmesiyle, sosyal medya siteleri, AI tasarımcıları tarafından konulan yeni kısıtlamalardan kaçan yeni AI jailbreak’leriyle dolup taşıyor. ChatGPT ve ardından Bing Chat ve ardından GPT-4, yayınlandıktan birkaç dakika sonra ve düzinelerce farklı yolla hapse atıldı. Kötü kullanımlara ve zararlı çıktılara karşı çoğu koruma, yalnızca yüzeyseldir ve kararlı kullanıcılar tarafından kolayca kaçınılır. Bir jailbreak keşfedildiğinde, genellikle genelleştirilebilir ve kullanıcı topluluğu, LLM’yi zırhındaki çatlaklardan çekip çıkarır. Ve teknoloji, tasarımcıların bile nasıl çalıştığını tam olarak anlaması için çok hızlı ilerliyor.
Yine de bunların hepsi eski bir hikaye: Bize AI’nın kötü kullanımlarının birçoğunun AI teknolojisinin bir yansımasından çok insanlığın bir yansıması olduğunu hatırlatıyor. Dolandırıcılıklar yeni bir şey değil; sadece kasıtlı ve ardından bir kişinin kişisel kazanç için diğerini kandırma eylemi. Ve başkalarının dolandırıcılık yapmak için köle olarak kullanılması ne yazık ki yeni veya alışılmadık bir şey değil: Örneğin, Asya’daki organize suç şu anda binlerce dolandırıcılık atölyesinde kaçırıyor veya kiralıyor. Organize suçların artık dolandırıcılık operasyonlarını yürütmek için insanları sömürme ve fiziksel olarak taciz etme ihtiyacını görmemesi mi daha iyi, yoksa kendilerinin ve diğer pek çok kişinin dolandırıcılığı benzeri görülmemiş bir düzeye çıkarabilmesi mi daha kötü?
Savunma yetişebilir ve yakalayacaktır, ancak ondan önce, sinyal-gürültü oranımız önemli ölçüde düşecek.
