Geleneksel bir Endonezya siyah şapkası ve gömleği giyen Başkan Prabowo Subianto, bir İnstagram videosunda kameraya konuşuyor ve geçen yıl seçilmesinden sonra halkına onlara nasıl yardım edebileceğini soruyor.
“Benden kim yardım almadı? Şu anda ihtiyaçların neler?” Prabowo, Kasım ayında yayınlanan klipte izleyicilere soruyor gibi görünüyor.
Ama Endonezya lideri ağız hareketleri ve gözleri yanıp ederken, kelimeleri o söyler 20 ilde Endonezyalılar dolandırıldım olan polis tarafından geçen ay ortaya çıkarılan sahte deepfake bir aldatmaca bir parçasıdır.
Mesajın tuzağına düşenlerden bir WhatsApp numarasıyla iletişime geçmeleri ve hiç gerçekleşmemiş yardım almak için “idari ücret ” olarak 250.000 ila bir milyon rupi (15-60 $) arasında bir ücret vermeleri istendi.
Geçen yılki Endonezya seçimlerinden bu yana uzmanlar, bilinen bir kişiden gelmiş gibi görünen ancak aslında yapay zeka araçlarını kullanan dolandırıcıların işi olan ses, görüntü ve videolardan oluşan gelgit dalgası konusunda uyardılar.
Kurbanlar, aldatmacaların o kadar karmaşık olduğunu söylüyor ki, başkalarını da dolandırılmaya karşı savunmasız bırakıyorlar.
“İnsanlar daha dikkatli olmalı. Ödüllerin cazibesine kolayca aldanmayın, ” diyen 56 yaşındaki Aryani, önde gelen bir Endonezyalı işadamının sahte videosunu gördükten sonra 200.000 rupiyi dolandırıcılara teslim etti.
“Paraya ihtiyacım var ama bunun yerine para göndermem isteniyor. Sanki onlarla doğrudan konuşuyormuşum gibi benimle görüntülü görüşmeler bile yaptılar.”
Güneydoğu Asya ülkesinin başkanlık kampanyası sırasında deepfakes, adaylara hem zararlı hem de yararlı yanlış bilgileri yaymak için önemli bir araç haline geldi.
Ama şimdi bu teknoloji, soğuk ve zor para kazanmak isteyen suçluların eline geçti.
– Geniş dolaşım –
Afp’nin gerçek denetçileri, Prabowo klibinin arkasındaki hesabın, Endonezya Başkan Yardımcısı Gibran Rakabuming Raka da dahil olmak üzere çeşitli yüksek profilli figürleri gösteren düzinelerce benzer video yayınladığını buldu.
Bu videolar aynı zamanda sahte mali yardımı da teşvik ediyor.
Endonezya Ulusal Siber Suç Birimi müdürü Himawan Bayu Aji Şubat ayında gazetecilere verdiği demeçte, polisin dolandırıcılıktan 65 milyon rupi (4.000 $) cebe sokan bir şüpheliyi tutukladığını söyledi.
Memurların, toplanan miktarı açıklamadan deepfake teknolojisini de kullanan başka bir aldatmacaya karışan ikinci bir kişiyi gözaltına aldığını söyledi.
AFP Fact Check’in soruşturması, bu tür videoların yayılmasının polisin açıkladığı iki hesaptan çok daha geniş bir erişime sahip olduğunu buldu.
Tutuklamalardan sonra, “Prabowo kutsamaları paylaşıyor” etiketiyle tiktok’ta onlarca kişi de dahil olmak üzere, popüler bir eski general olan cumhurbaşkanının sahte videoları hala sosyal medyada dolaşıyordu.
AFP gazetecileri, Prabowo’nun Ekim ayında göreve başlamasından bu yana en az 22 TikTok hesabının aynı hileli planı lanse ettiğini ve bazılarının cumhurbaşkanlığına son yükselişinden yararlanıyor gibi göründüğünü tespit etti.
77.000’den fazla takipçisi olan bir hesap, görünüşe göre mali yardımda bulunan Prabowo’nun uydurma bir videosunda 7,5 milyon görüntü topladı.
Binlerce takipçisi olan başka bir hesap, yalnızca Ocak ayından bu yana 100 video paylaştı ve çoğunluğu cumhurbaşkanının nakit para teklif eden sahte videolarını içeriyordu.
TikTok, deepfake aldatmaca videolarından birini ve ilgili hesabı kaldırdığını belirterek, yanıltıcı gönderileri yasaklayan platformun topluluk yönergelerini ihlal edenleri kaldırmaya devam edeceğini de sözlerine ekledi.
Facebook ana Meta, afp’nin yorum talebine yanıt vermedi.
AFP, diğer 100’den fazla bilgi kontrol kuruluşuyla birlikte, potansiyel olarak yanlış bilgi içeren sosyal medya yayınlarını doğrulamak için TikTok ve Meta tarafından ödenir.
– Daha erişilebilir –
Endonezyalı bilgi kontrol örgütü Mafindo’nun kurucu ortağı Aribowo Sasmito, ekibinin çevrimiçi ortamda üretken yayılımları nedeniyle her hafta yeni sahte dolandırıcılıklar bulduğunu söyledi.
AFP’ye verdiği demeçte, “Yapay zeka araçları daha erişilebilir ve uygun fiyatlı hale geldikçe geçen yıldan beri sahte videolar görmeye başladık.” dedi.
Önde gelen figürlerin derin sahtekarlıklarını kullanan planlar yükselişte görünüyor.
Teknoloji milyarderi Elon Musk ve Kanada Başbakanı Justin Trudeau, son yıllarda nakit dolandırıcılığını zorlamak için sofistike kimliğe bürünmelerle hedeflenen bir dizi ünlü arasında yer alıyor.
Aribowo, gerçek denetçi ekibinin, suçluların kullanabileceği en son teknolojiyi kullanarak bu dolandırıcılıkları çürütmek için her zamankinden daha fazla çalıştığını söyledi.
“Bu videoların kalitesinin zaman içinde arttığını fark ettik. Sahte ve gerçek videoları ayırt etmek daha zor hale geldi.” diye ekledi.
“Zorluk, bu dolandırıcılıkların hacmidir.”
