Hintli bir milyarder, yapay zeka destekli bir dolandırıcılığın Dubai’deki şirketini neredeyse dolandırdığı şok edici bir kişisel deneyimi ortaya çıkardı. Aldatmaca, üst düzey yöneticilerinden birini neredeyse büyük bir finansal transfer yetkisi vermesi için kandıran sesinin yapay zeka (AI) klonunu içeriyordu.
Çok uluslu bir holding olan Bharti Enterprises’ın kurucusu ve başkanı milyarder Sunil Bharti Mittal, Pazartesi günü NDTV Dünya Zirvesi sırasında olayı anlattı.
Mittal, dolandırıcının sesini o kadar ikna edici bir şekilde taklit ettiğini ve kaydı duyduktan sonra kendisinin bile “hayrete düştüğünü” açıkladı. Mittal, ”Dubai’deki Afrika merkezimizi idare eden üst düzey finans yöneticilerimden biri sesimden, ses tonumdan bir telefon aldı ve onu büyük bir para transferi yapması için yönlendirdi” dedi. “Telefonda asla böyle bir istekte bulunmayacağımı anlayacak kadar mantıklıydı.”
İsimsiz kalan yönetici, şüpheli çağrıyı hızla bildirerek büyük bir mali kaybı önledi. “Kaydı duyduğumda, ne kadar mükemmel bir şekilde ifade edildiğine hayret ettim. Tam olarak nasıl konuşacağıma benziyordu, ”diye ekledi Mittal.
Bu olay, küresel olarak ve Birleşik Arap Emirlikleri’nde yapay zekanın, özellikle de sahte teknolojinin kötüye kullanılmasıyla ilgili artan endişelerin ortasında geliyor.
BAE Siber Güvenlik Konseyi geçtiğimiz günlerde sahte içeriğin tehlikeleri konusunda uyarıda bulunarak dolandırıcılık, gizlilik ihlalleri ve yanlış bilgilendirme risklerini vurguladı. Deepfakes – gerçek insanları taklit etmek için tasarlanmış yapay zeka tarafından oluşturulan medya – son derece ikna edici ancak tamamen üretilmiş videolar, görüntüler veya sesler oluşturarak bireylere ve kuruluşlara ciddi tehditler oluşturabilir.
BAE Siber Güvenlik Konseyi ayrıca, sahte içeriğin paylaşılmasının sahtekarlığa veya yasal sonuçlara yol açabileceği konusunda uyarıda bulunan ve halkı dağıtmadan önce dijital içeriğin gerçekliğini doğrulamaya çağıran bir bilinçlendirme kampanyası başlattı.
Yakın tarihli bir Kaspersky iş Dijitalleştirme araştırması, BAE çalışanlarının yüzde 75’inin bir sahte tespit edebileceklerine inanırken, yalnızca yüzde 37’sinin test sırasında gerçek ve yapay zeka tarafından oluşturulan görüntüleri ayırt etmede başarılı olduğunu ortaya koydu. Siber uzmanlar, kuruluşların banka havalelerine izin veren CEO’ların sahte videolarını veya seslerini içerenler gibi sahte dolandırıcılıklara karşı oldukça savunmasız kaldıklarını söyledi.
Kaspersky’nin kıdemli veri bilimcisi Dmitry Anikin, sürekli uyanıklık ihtiyacının altını çizdi. “Birçok çalışan, önemli bir güvenlik riski oluşturan derin sahteciliği tanıma yeteneklerini abartıyor. Siber suçlular, yöneticileri taklit etmek, dolandırıcılık ve gasp sağlamak için bu teknolojiyi giderek daha fazla kullanıyor ”dedi.
- Birleşik Arap Emirlikleri: Hackerlar artık sosyal medya etkileyicilerinden, ünlülerden, şirketlerden gasp etmek için yapay zeka kullanıyor
- Birleşik Arap Emirlikleri, e-posta saldırıları küresel olarak% 293 artarken artan kötü amaçlı yazılım tehditleriyle karşı karşıya
- Bozuk parmaklar, kulaklar: Sosyal medyada yapay zeka tarafından oluşturulan görüntüler nasıl tanımlanır
