Kötü Amaçlı Yapay Zekâ Modelleri Tecrübesiz Hackerları Gelişmiş Araçlarla Güçlendiriyor
Siber güvenlik uzmanları son araştırmalarında saldırgan topluluklarında yayılan kötü amaçlı LLM modellerinin etkisini ayrıntılı şekilde inceledi. Uzmanlar kontrolsüz modellerin gelişmiş kodlar ürettiğini, saldırganların teknik bilgi eksikliğini kapattığını, hazırlanan içeriklerle saldırı süreçlerinde hız kazandırdığını belirtiyor. Yeraltı platformlarında tercih edilen modellerin artan işlevleri ciddi risklere işaret ediyor.
Kötü Amaçlı LLM Modelleri Saldırı Kodlarını Çoğaltıyor
Araştırma ekipleri WormGPT 4 adlı modelin saldırı odaklı veri kümeleriyle eğitildiğini tespit etti. Model PowerShell tabanlı betikler üretirken farklı uzantıları tarayan kodlar hazırlayabiliyor. Hazırlanan kodlar AES-256 algoritmasını kullanarak dosya şifreleme işlemini gerçekleştiriyor. Testlerde modelin PDF dosyalarını hedef alan çalışır halde bir şifreleme betiği ürettiği bildirildi.
Oluşturulan veri şifreleme betiği
Kod içinde Tor üzerinden veri aktarımına yönelik seçenekler bulundu. Araştırmacılar bu seçeneğin gerçek saldırı dinamiklerine uyduğunu aktardı. Model aynı oturumda tehdit mesajları da üretebildi. Üretilen notta 72 saatlik ödeme süresi yer aldı. Mesajın dil yapısı saldırı içeriklerinde görülen klasik hataları taşımadı.
Oluşturulan fidye notu
Siber güvenlik uzmanları WormGPT 4 modelinin ücretli abonelik sistemiyle dağıtıldığını belirtiyor. Modelin geçmiş sürümlerinin kapatılmasına rağmen yeniden geliştirildiği anlaşıldı. Araştırmacılar modelin iş akışlarında açıklama yaparak saldırganlara yol gösterdiğini ifade ediyor. Dil işleme yetenekleri kötü niyetli içerikleri daha ikna edici hale getiriyor.
Uzmanlara göre model işletme e-postası dolandırıcılığı girişimlerinde kullanılabilecek içerikler oluşturuyor. Bu içeriklerin ticari kurumları taklit eden ifadeler barındırması tehlikeyi artırıyor. Saldırganlar hatasız metin üretimi sayesinde filtreleri aşan mesajlar hazırlıyor.
Siber güvenlik uzmanları KawaiiGPT 2.5 sürümünün Linux tabanlı ortamlarda kısa sürede çalıştırılabildiğini bildiriyor. Model hedef odaklı oltalama mesajları üretebiliyor. Araştırmacılar sahte alan adlarıyla uyumlu şekilde hazırlanan bu mesajların kimlik bilgisi toplamaya yönelik bağlantılar içerdiğini belirtiyor.
KawaiiGPT’de oluşturulan kimlik avı e-postası
Model paramiko kütüphanesini kullanarak uzak bağlantı oluşturan betikler hazırladı. Betik uzak sisteme bağlanıp komut çalıştırma işlemlerini adım adım uyguladı. Test sürecinde model Windows dizinlerinde dolaşan kodlar üretti. Üretilen kodlar hedef dosyaları toplayıp e-posta yoluyla saldırgana aktardı.
KawaiiGPT gerçek şifreleme mekanizması üretmedi ancak komut yürütme işlevi saldırganların yetki yükseltmesine imkân tanıyan bir yapı sundu. Bu durum saldırganların ek zararlı yazılımlar indirmesine ortam hazırladı.
Veri filtreleme işlevi
Araştırmacılar her iki modelin Telegram kanallarında yüzlerce aboneye ulaştığını bildirdi. Bu kanallarda kullanıcılar saldırı teknikleri paylaşarak modelleri geliştirmeye çalışıyor. Topluluklar hazırladıkları yönergeleri birbirine aktarıyor. Uzmanlar böyle bir ortamda deneyimsiz kullanıcıların kısa sürede etkili saldırı içerikleri hazırladığını ifade ediyor.
Siber güvenlik birimleri tehdidin artık teorik seviyede kalmadığını belirtiyor. Bu modellerin saldırı otomasyonunu kolaylaştırdığı, hazırlık süresini azalttığı aktarılıyor. Dolandırıcılık mesajlarının insan gözüne doğal görünmesi savunma mekanizmalarını zorlaştırıyor.
Araştırmacılar kötü amaçlı LLM modellerinin oluşturduğu riskleri azaltmak için içerik analiz sistemleri geliştiriyor. Bu sistemler üretilen betiklerde ortak örüntüleri ayıklayarak saldırıları erken aşamada tespit etmeye çalışıyor. Kurumlar çalışanlarını sahte içeriklere karşı bilinçlendiriyor. Şirket içi süreçlerde sosyal mühendislik farkındalığı artırılıyor.
Uzmanlar düzenleyici kurumların ortak standartlar geliştirmesi gerektiğini düşünüyor. Eğitim veri setlerinin denetlenmesi, model davranışlarının izlenmesi, kapalı kanallarda yayılan türev modellerin takibi kritik başlıklar arasında yer alıyor.
