Rusya Merkezli bir güvenlik şirketi Kaspersky, ChatGPT'nin kullanımının yaygınlaşmasının siber güvenliğin yerleşik kurallarını nasıl değiştirebileceğini araştırdığı raporunu yayınladı. Şirket, OpenAI'nin bugüne kadarki en güçlü AI modellerinden biri olan ChatGPT3'ü piyasaya sürmesiyle birlikte ortaya çıkabilecek siber güvenlik sorunlarına değindi.
İşte, ChatGPT ile karşımıza çıkabilecek potansiyel siber güvenlik sorunları
OpenAI'ın yapay zekâ dil modeli ChatGPT-3, son derece gerçekçi ve doğal metinler oluşturabiliyor. Bu gerçekçilik ise siber suçlular tarafından kötüye kullanılma riski taşıyor. Kişiselleştirilmiş e-postayı yazmanın oldukça zahmetli olmasından dolayı, daha önceden kitlesel hedefli kimlik avı kampanyaları gerçekleştirmek oldukça zordu. Ancak ChatGPT ve benzeri dil modelleri saldırganların hedef odaklı kimlik avı saldırılarına yönelik ikna edici ve kişiselleştirilmiş e-postalar oluşturmasına olanak tanıyor. Bu durumun başarıyla sonuçlanan kimlik avı saldırılarının sayısının artmasına neden olabileceği düşünülüyor.
Şimdilik sorun yok
ChatGPT ve benzeri yapay zekâ dil modelleri, kod yazma kabiliyetine sahip olduğu için, kötü amaçlı kodlar oluşturmak için de kullanılabilir. Buna karşı olarak kötü amaçlı kodların kullanılması halinde, bunları hızlı bir şekilde algılayarak etkisiz hale getirebilecek güvenlik çözümleri mevcut. Ayrıca, görünüşe bakılırsa yapay zekâ tarafından yazılan kötü amaçlı yazılımlar, insanlar tarafından yazılanlardan daha yüzeysel ve daha az optimize edilmiş gibi duruyor. Bu nedenle, ChatGPT gibi yapay zekâ dil modellerinin oluşturduğu kodaların güvenlik güçleri tarafından anlaşılabileceği ve şimdilik önüne geçilebileceği düşünülüyor. Ancak, ilerleyen zamanlarda yapay zekânın kod yazma becerisinin gelişmesi durumuda güvenlik güçleri sorun yaşayabilir.
ChatGPT birçok potansiyel tehlike taşısa da, güvenliği sağlayanlar da bu dil modelinden yararlanabiliyor. Belirli bir kod parçasının amacını hızlı bir şekilde anlayabilen ChatGPT, yoğun mesai koşullarında çalışmak zorunda kalan analistlerin zamandan tasarruf etmelerini sağlıyor. Gelecekte, kullanıcıların kodu daha iyi anlamak için bir tersine mühendislik modeli, bir CTF çözme modeli, bir güvenlik açığı araştırma modeli ve daha fazlası gibi çok sayıda özel ürünle karşılaşacağı öngörülüyor.
Tushkanov: "ChatGPT, otonom hacker yapay zekası olma yeteneğine sahip değil"
Kaspersky'nin Güvenlik Analisti Vladislav Tushkanov, "ChatGPT tamamen kötü niyetli yazılımlar anlamında direkt olarak kötü niyetli bir şey yapmasa da saldırganlara çeşitli senaryolarda yardımcı olabilir; örneğin ikna edici hedefli kimlik avı e-postaları yazmak. Bununla birlikte, ChatGPT şu anda kesinlikle bir otonom hacker yapay zekası olma yeteneğine sahip değil. Sinir ağının (Neural Network) ürettiği kötü amaçlı kod, mutlaka bir miktar zarar verebilme yeteneğine sahip olacaktır ama yine de onu geliştirmek ve dağıtmak için yetenekli ve işinde uzman bir saldırgan gerekiyor. ChatGPT'nin endüstri üzerinde şimdilik hemen bir etkisi olmamasına ve siber güvenlik konusunda bir “oyun değiştirici” olmamasına rağmen, bu durum gelecek nesillerle beraber mutlaka değişecektir. Önümüzdeki birkaç yıl içinde, hem doğal dil hem de programlama kodu üzerine eğitilmiş büyük dil modellerinin siber güvenlikteki özel durumlara nasıl uyarlandığını görebiliriz. Bu değişiklikler, tehdit avcılığından olay müdahalesine kadar çok sayıda siber güvenlik faaliyetinin doğasını etkileyebilir. Bu nedenle, siber güvenlik şirketleri, bu teknolojinin siber suçlulara nasıl yardımcı olabileceğinin farkına vardıkları gibi, yeni araçların sağlayacağı olasılıkları da keşfetmek isteyeceklerdir." ifadelerini kullandı.