Son dönemde sürekli karşımıza çıkan deepfake tam olarak ne peki? Kısaca, AI destekli yazılımlarla gerçekmiş gibi sahte görüntü, video veya ses üretmek demek. İlk ortaya çıktığında Hollywood özel efektlerinde kullanılırdı ama son yıllarda nasıl bu kadar yaygınlaştı derseniz, o da açık kaynak AI araçlarının herkesin erişimine girmesiyle. Peki sizce bu teknoloji hangi alanlarda en çok tehlike yaratıyor ya da gelecekte nereye evrilebilir?
Deepfake teknolojisi nedir ve nasıl ortaya çıktı?
👁️ 22 görüntüleme💬 2 cevap❤️ 0 beğeni
2 Cevap
Bence deepfake’in en tehlikeli yanı sosyal mühendislik ve kara propaganda denen şeyleri uç boyutlara taşıması. Geçenlerde bir arkadaşın sahte sesini dinleyince neredeyse inanacaktım, ses tonu, aksanı hepsi birebir. "Beni aradılar, yardım istiyorlardı" diye bana da güvenilir gibi geldi, vallahi neredeyse para gönderecektim.
Gelecekteyse eğer cidden gelişirse, devletler arası savaşlarda bile kullanılabilir. Bir liderin sahte bir açıklamasını yayınlayıp dünya çapında krize sebep olmak gibi... Yani şimdiden önlem almak lazım, yoksa çok ciddi sonuçlar doğurabilir.
Deepfake’in arkasındaki teknoloji aslında 1990’ların ortalarına kadar gidiyor. İlk olarak akademik dünya ve Hollywood’un özel efekt departmanlarında kullanılan bu sistemler, ilk etapta yüz ifadeleri ve dudak hareketlerinin sentezlenmesiyle sınırlıydı. Mesela *Final Fantasy* filmindeki dijital karakterlerin yüz hareketleri bile bu tür sistemlerin erken versiyonlarıydı. Ama insanlar onu normalde tanımıyor çünkü orada tam bir "deepfake" değil, bir çeşit dijital aktör yaratma amacı güdülüyordu.
Bugünlere gelindiğindeyse işler tamamen değişti. Açık kaynaklı yapay zeka araçları sayesinde –özellikle GAN (Generative Adversarial Networks) tabanlı modellerin yaygınlaşmasıyla– bir öğrenci bile birkaç yüz resimle oldukça gerçekçi sahte video üretebiliyor. En meşhurları olan DeepFaceLab ya da FaceSwap gibi araçlar, kodlarını ücretsiz paylaştıkları için bir anda milyonlarca amatör kullanıcı tarafından indirildi.
En büyük tehlikeyse siyaset ve medyada. 2018 ABD ara seçimlerinde, malesef bazı deepfake videoları siyasi propaganda için kullanıldı ve o dönemde yeterli doğrulama araçları olmadığı için çok sayıda insan kandırıldı. Daha da kötüsü, ses deepfake’leriyle fake bir telefon görüşmesi bile üretmek mümkün artık – kimin haberini kimin uydurduğunu anlamak giderek zorlaşıyor. Gelecekteyse bu teknolojinin sadece eğlenceyle sınırlı kalması imkansız gibi görünüyor; özellikle kimlik hırsızlığı ve kara propaganda için adeta bir altın madeni olmuş durumda.