Büyük dil modelleri, hackerlar tarafından araştırma yapmak, kimlik avı e-postaları üretmek ve yazdıkları kodu geliştirmek için kullanılıyor. Microsoft ve OpenAI’dan gelen açıklamalar, siber saldırganların büyük dil modellerini kullanarak saldırılarını daha sofistike hâle getirdiklerini ortaya koydu. Yapılan araştırmaya göre, Rusya, Çin, İran ve Kuzey Kore merkezli saldırı grupları, araçlar olarak ChatGPT gibi büyük dil modellerini kullanarak hedeflerini inceledi, kodlarını geliştirdi ve sosyal mühendislik tekniklerini güçlendirdi.
Microsoft’un blog gönderisine göre, siber saldırganlar, yapay zekâ teknolojilerinin ortaya çıkmasıyla birlikte yeni teknolojileri kullanmak için yöntemler geliştiriyorlar. Bu geliştirilen yöntemler arasında phishing, sosyal mühendislik, basit manipülasyon tekniklerinden başlayarak uyduların çalışma prensiplerinin detaylandırılmasına kadar geniş bir yelpazeye yayılıyor.
Saldırı grupları arasında tanınmış ekipler bulunuyor. Bu ekipler arasında Rusya ile bağlantılı Strontium, Fancy Bear, Kuzey Koreli Thallium gibi gruplar yer alıyor. İranlı Curium grubu ise phishing saldırıları ve antivirüs yazılımlarından kaçınmak için bu modelleri kullanıyor.
Microsoft, bu tür saldırılarla başa çıkmak için daha fazla yapay zeka kullanma kararı alarak, geliştirdiği yapay zeka modelleri aracılığıyla bu tür kullanımları tespit edip etkisiz hale getirmeye çalışıyor.