Deepfake teknolojisi, başlangıçta heyecan verici bir gelişme olarak kabul edilse de, son zamanlarda oldukça olumsuz gelişmeler ile karşımıza çıkıyor. Deepfake teknolojisi en son Taylor Swift'in 'rıza dışı' cinsel içerikli sahte görüntüleriyle yankı uyandırmıştı. Şimdi ise, bir büyük dolandırıcılık girişimi ile gündemde.
Hong Kong merkezli bir şirket, “deepfake” teknolojisi ile kandırılan çalışanı yüzünden tam 25 milyon dolar para kaybetti. Deepfake teknolojisi, gerçeğe oldukça yakın video montajları yapmanın yanı sıra, kişilerin sesini klonlayarak başka kullanıcıların o sesle videolar üretmelerine olanak tanıyor. Yani, hem başkasına ait bir yüzü hem de sesi kullanarak yüksek gerçekçilikte videolar üretebiliyorsunuz.
Şirketin CFO'sunu taklit ettiler
Bilgilere göre, çok uluslu bir firmanın Hong Kong ofisinde görev yapan bir çalışan, şirketin yöneticisinden 25 milyon dolarlık bir transfer yapması istenen bir e-posta alıyor. Çalışan başlangıçta şüpheleniyor ancak e-postada bir görüntülü çevrimiçi toplantı daveti de yer alıyor. Daveti kabul eden çalışan, toplantıda şirketin CFO'sunun (finansal işler müdürü) yer aldığını görüyor ve yönetici, çalışandan Hong Kong merkezli bir banka hesabına toplam 25,6 milyon dolar transfer etme talimatı veriyor. Toplantıda şirketin yöneticilerinin olduğunu gören çalışanın aklında haliyle herhangi bir şüphe kalmıyor ve para transferini gerçekleştiriyor.
Para transferi gerçekleştirildikten kısa bir süre sonra acı gerçek ortaya çıkıyor. Şirketin CFO'su, çalışana yönlendirilen e-posta hakkında herhangi bir bilgi sahibi olmadığını ve herhangi bir toplantıya katılmadığını söylüyor. Başta aklında bazı şüpheler olduğunu ifade eden çalışan, video görüşmesinden sonra tüm şüphelerinin ortadan kalktığını dile getiriyor; çünkü toplantıya katılan herkesin gerçek birer insan gibi göründüğünü ve ses çıkardığını belirtiyor.
Deepfake teknolojisinin, oldukça gerçekçi görüntüler üretebilmesine rağmen, çok yüksek performans gösterebildiğini söylemek için henüz erken. Aslında dikkatlice incelendiğinde, bir görüntünün deepfake olup olmadığı anlaşılabilir. Ancak, görüntülü konuşmalardaki mevcut düşük görüntü ve ses kalitesi, bu detayları fark etmeyi zorlaştırabiliyor. Şirketin çalışanı da, bu görüntü ve sesteki ayrıntıları bu nedenle fark edemiyor.