Bir AI videosu, modaya uygun bir ceket ve pantolon giyen kendinden geçmiş bir Narendra Modi’yi gösteriyor ve kalabalık tezahürat yaparken bir sahnede Bollywood şarkısına doğru ilerliyor. Hindistan başbakanı videoyu X’te yeniden paylaştı ve “yoğun anket sezonunda bu tür bir yaratıcılık gerçekten bir zevk.”
Aynı sahne ortamına sahip başka bir video, Modi’nin rakibi mamata Banerjee’nin sari benzeri bir kıyafetle dans ettiğini gösteriyor, ancak arka plan puanı, Modi’ye katılmak için partisinden ayrılanları eleştiren konuşmasının bir parçası. eyalet polisi, videonun “yasa ve düzeni etkileyebileceğini” söyleyen bir soruşturma başlattı.”
Yapay zeka (AI) araçları kullanılarak oluşturulan videolara verilen farklı tepkiler, teknolojinin kullanımının ve kötüye kullanılmasının nasıl arttığının altını çiziyor ve dünyanın en kalabalık ülkesi devasa bir genel seçim gerçekleştirirken düzenleyiciler ve güvenlik görevlileri için endişeler yaratıyor.
Mükemmele yakın gölge ve el hareketleri içeren yapay zeka videoları yapmak kolay, zaman zaman dijital okuryazar insanları bile yanıltabilir. Ancak, 1,4 milyar insanın çoğunun teknolojiye meydan okuduğu ve manipüle edilen içeriğin özellikle seçim döneminde mezhepsel gerilimleri kolayca tetikleyebileceği bir ülkede riskler daha yüksektir.
Ocak ayında yayınlanan bir Dünya Ekonomik Forumu araştırmasına göre, Hindistan’a yönelik yanlış bilgilendirmeden kaynaklanan risk, önümüzdeki iki yıl içinde bulaşıcı hastalıklardan veya yasadışı ekonomik faaliyetlerden kaynaklanan riskten daha yüksek görülüyor.
Hindistan’ın seçimlerinde AI kullanımı konusunda bazı siyasi partilere danışmanlık yapan Yeni Delhi merkezli danışman Sagar Vishnoi, “Hindistan zaten büyük bir yanlış bilgilendirme riski altında — resimdeki AI ile 100X hızında yayılabilir” dedi.
“Genellikle teknoloji meraklısı bir grup olmayan yaşlılar, yapay zeka videolarının desteklediği sahte anlatılara giderek daha fazla kapılıyor. Bunun bir topluluğa, kasta veya dine karşı nefreti tetiklemek gibi ciddi sonuçları olabilir.”
Altı haftadan fazla süren ve 1 Haziran’da sona eren 2024 ulusal seçimleri, yapay zekanın konuşlandırıldığı ilk seçim. İlk örnekler masumdu, teknolojiyi kampanyalarını kişiselleştirmek için video ve ses oluşturmak için kullanan bazı politikacılarla sınırlıydı.
Ancak Nisan ayında, Modi’yi eleştiren Bollywood aktörlerinin derin sahtekarlıkları ve Modi’nin dokuz kişinin tutuklanmasına yol açan en iyi yardımcılarından ikisini içeren sahte klipler de dahil olmak üzere büyük suistimal vakaları manşetlere çarptı.
KARŞI KOYMAK ZOR
Hindistan Seçim Komisyonu geçen hafta siyasi partileri yanlış bilgi yaymak için yapay zeka kullanımına karşı uyardı ve sahtecilik, söylentileri teşvik etme ve düşmanlık gibi suçlardan üç yıla kadar hapis cezası çeken yedi bilgi teknolojisi hükmünü ve diğer yasaları paylaştı.
Yeni Delhi’deki üst düzey bir ulusal güvenlik yetkilisi, yetkililerin huzursuzluğa yol açan sahte haberlerin olasılığından endişe duyduklarını söyledi. Yetkili, yapay zeka araçlarının kolay bulunabilirliğinin, özellikle seçimler sırasında bu tür sahte haberlerin üretilmesini mümkün kıldığını ve buna karşı koymanın zor olduğunu söyledi.
“Yeterli bir izleme kapasitemiz yok…sürekli gelişen yapay zeka ortamını takip etmek zor “dedi.
Üst düzey bir seçim yetkilisi şunları söyledi: “Sosyal medyayı tam olarak izleyemiyoruz, içeriği kontrol etmeyi unutuyoruz.”
Medyayla konuşmaya yetkili olmadıkları için kimliklerinin tespit edilmesini reddettiler.
AI ve deepfakes, ABD, Pakistan ve Endonezya da dahil olmak üzere dünyanın başka yerlerindeki seçimlerde giderek daha fazla kullanılıyor. Videoların Hindistan’daki en son yayılması, yetkililerin karşılaştığı zorlukları gösteriyor.
Yıllardır, bir Hindistan BT bakanlığı paneli, kamu düzenine zarar verebileceğini düşündüğü içeriğin kendi takdirine bağlı olarak veya şikayet alması üzerine engellenmesini emretmek için görevlendirildi. Bu seçim sırasında, ülke genelindeki anket gözlemcisi ve polis, sorunlu içeriği tespit etmek ve ortadan kaldırmak için yüzlerce yetkiliyi görevlendirdi.
Modi’nin yapay zeka dans videosuna tepkisi – “Kendimi dans ederken görmekten de keyif aldım” – açık yürekliyken, Batı Bengal eyaletindeki Kalküta şehir polisi, Banerjee videosunu paylaştığı için X kullanıcısı SoldierSaffron7 hakkında soruşturma başlattı.
Kalküta siber suç sorumlusu Dulal Saha Roy, X’te kullanıcıdan videoyu silmesini veya “katı cezai işlemlerden sorumlu olmasını isteyen yazılı bir bildirim paylaştı.”
Kullanıcı, Reuters’e X direct messaging aracılığıyla yaptığı açıklamada, polis eyleminden korktukları için numaralarını veya gerçek adlarını paylaşmayı reddeden “Ne olursa olsun bunu silmiyorum” dedi. “Beni takip edemezler.”
Seçim görevlileri, Reuters yetkililerine yalnızca sosyal medya platformlarına içeriği kaldırmalarını söyleyebileceklerini ve platformların yayınların kendi iç politikalarını ihlal etmediğini söylemesi durumunda karıştırıldığını söyledi.
CANLI VİDEOLAR
X’te sırasıyla 30 milyon ve 1,1 milyon izlenen Modi ve Banerjee dans videoları, ücretsiz bir web sitesi olan Viggle kullanılarak oluşturuldu. Site, fotoğraftaki kişinin dans ettiğini veya başka gerçek hayat hareketleri yaptığını gösteren dakikalar içinde videolar oluşturmak için bir fotoğrafta ve bir öğreticide ayrıntılı olarak açıklanan birkaç temel istemde bulunulmasına izin verir.
Viggle’ın kurucu ortağı Hang Chu ve Banerjee’nin ofisi Reuters’in sorularına yanıt vermedi.
Dans eden iki yapay zeka videosu dışında, çevrimiçi yayılan 25 saniyelik bir Canlı video, Banerjee’nin yanan bir hastanenin önünde göründüğünü ve uzaktan kumandayla patlattığını gösteriyor. Batman’in düşmanı Joker’in hasara yol açtığını gösteren 2008 filmi The Dark Knight’tan bir sahnenin yapay zekayla değiştirilmiş bir klibi.
Video yayını 420.000 görüntülemeye sahip.
Batı Bengal polisi, Hindistan BT yasalarını ihlal ettiğine inanıyor, ancak X tarafından Reuters’in gözden geçirdiği kullanıcıya gönderilen bir e-posta bildirimine göre X, “kullanıcılarımızın sesini savunmaya ve saygı duymaya güçlü bir şekilde inandığı” için herhangi bir işlem yapmadı.
“Bana hiçbir şey yapamazlar. Bunu ciddiye almadım, “dedi kullanıcı Reuters’e X direct messaging aracılığıyla.
