Deepfake Dolandırıcılığı Bitiyor Mu? DIVID Aracı Sahte Videolar İçin Çözüm Olacak

Son zamanlarda Yapay Zeka programları kullanılarak oluşturulan sahte videoların dolandırıcılık amacıyla da kullanılmaya başlamasıyla, bu durum oldukça endişe verici bir hale geldi. 

DIVID adındaki yeni bir araç, yapay zeka ile oluşturulmuş videoları tespit etme yeteneğiyle bu alanda önemli bir başarı elde etti.

Yaşanan Dolandırıcılık Örneği

Deepfake videoları bu yılın başlarında yaşanan bir olayla oldukça popüler hale geldi. 

Küresel bir şirket çalışanı, kendisine gelen talimatların şirketin Mali İşler Direktöründen (CFO) geldiğini zannederek, milyonlarca dolarlık bir transferi dolandırıcıların hesabına yanlışlıkla geçirdi. Sahte talimat, kurumun üst düzey yöneticilerini taklit eden dolandırıcılar tarafından oluşturuldu. 25 milyon dolarlık kayba neden olan bu karmaşık dolandırıcılık, mevcut tespit sistemlerinin sahte talimatı gerçeklerden ayırt edememesinden kaynaklandı.  

DIVID Aracı Hakkında 

Columbia Üniversitesi mühendislik fakültesi araştırmacıları, DIVID adlı yeni bir araç geliştirerek bu tür dolandırıcılıkları önlemeyi amaçlıyor. 

DIVID, daha önceki yapay zeka video tespit yöntemlerinden daha gelişmiş olup, geçmişte mümkün olmayan bir şekilde kimlik tespiti sağlıyor. 

DIVID, GAN (Generatif Adversarial Network) gibi eski modeller kullanılarak oluşturulan videoları tespit edebiliyor. 

GAN, biri sahte içerik oluşturan, diğeri gerçek ile sahteyi ayırt etmek için değerlendirme yapan iki yapay ağdan oluşuyor. Bu ağlar birbirlerinden sürekli geri bildirim alarak gelişme gösteriyor ve sonuç olarak son derece gerçekçi videolar ortaya çıkıyor. 

DIVID'in Diğer Uygulamalardan Farkı

Şu anda kullanılan yapay zeka tabanlı video tespit araçları, gerçek içeriklerde bulunmayan garip pikseller, sahte hareketler ve kare tutarsızlıkları gibi bariz belirtileri arıyor. 

DIVID ise, rastgele sesleri net ve gerçekçi görüntülere dönüştürerek resimleri yavaşça değiştirerek içerik üreten bir modeli kullanıyor. Videolarda ise DIVID, her kareyi tek tek inceliyor ve bu sayede daha yumuşak geçişler, daha yüksek kalite ve daha gerçekçi sonuçlar elde ediyor. Bu da uzmanların gerçek ile sahteyi ayırt etmelerini zorlaştırıyor. 

Şirketin Diğer Başarıları

Aynı araştırma ekibi daha önce, Raider adlı bir araç geliştirdi. Raider, yapay zeka ile oluşturulan metinleri, doğrudan içerik analizi yaparak tespit edebiliyordu. Bu yöntem, metni değiştirmek için LLMer'leri kullanıyor ve sistemde yapılan değişiklik miktarını ölçüyordu. Çok fazla değişiklik yapılmışsa, içeriğin büyük ihtimalle insanlar tarafından oluşturulduğu, az sayıda değişiklik varsa yapay zeka kullanılarak oluşturulduğu anlaşılıyordu. 

Sonuç olarak, DIVID'in sahte video alanına da el atması çok önemli bir gelişme. Araştırmacılar, kullandıkları veri setlerini ve kodları açık kaynak olarak paylaşarak şeffaf bir yaklaşım sergilediler.