Cambridge Üniversitesi araştırmacıları Pazartesi günü yayınlanan bir makalede, Konuşma yapay zeka (AI) araçlarının yakında “niyet ekonomisi” adı verilen yeni bir ticari sınırda kullanıcıların karar verme sürecini “gizlice etkileyebileceği” konusunda uyardılar.
Araştırma, “dijital niyet sinyalleri” için ortaya çıkan potansiyel olarak “kazançlı ancak rahatsız edici” pazarın yakın gelecekte sinema bileti satın almaktan siyasi adaylara oy vermeye kadar her şeyi etkileyebileceğini savunuyor.
Sohbet robotlarına, dijital öğretmenlere ve diğer “antropomorfik” AI ajanlarına olan artan aşinalığımız, bu yeni “ikna edici teknolojiler” dizisinin etkinleştirilmesine yardımcı oluyor.
Makalenin iki ortak yazarı, yapay zekanın çevrimiçi alışkanlıklarımız hakkındaki bilgileri, kullanıcıyı tanıma ve arzularını tahmin etme ve “yeni güven ve anlayış seviyeleri” oluşturma konusunda artan bir yetenekle birleştirdiğini görecek.
Cambridge’in Leverhulme Zekanın Geleceği Merkezi’nden (LCFI) “endüstriyel ölçekte sosyal manipülasyona” izin verebilecek kontrolsüz bırakılan çift, Harvard Veri Bilimi İncelemesi’nde yayınlanan makalede tartıştı.
“Niyet ekonomisi” olarak adlandırılan bu ortaya çıkan sektörün, kullanıcıların dikkatini ve iletişimsel tarzlarını nasıl profilleyeceğini ve onları yaptıkları davranış kalıplarına ve seçimlere nasıl bağlayacağını karakterize eder.
Ortak yazar Yakub Chaudhary, ”İnsan planlarını ve amaçlarını ortaya çıkarmak, çıkarmak, toplamak, kaydetmek, anlamak, tahmin etmek ve nihayetinde manipüle etmek ve metalaştırmak için yapay zeka araçları zaten geliştiriliyor” dedi.
Araştırmaya göre, yeni Yapay Zeka, bir kullanıcının kadansını, politikasını, kelime dağarcığını, yaşını, cinsiyetini, çevrimiçi geçmişini ve hatta dalkavukluk ve nankörlük tercihlerini hedeflemek için sözde Büyük Dil Modellerine (veya LLM’LERE) güvenecek.
Bu, bir sinema gezisi satmak veya konuşmaları belirli platformlara, reklamverenlere, işletmelere ve hatta siyasi kuruluşlara yönlendirmek gibi belirli bir amaca ulaşmak için teklif veren diğer gelişmekte olan yapay zeka teknolojileriyle bağlantılı olacaktır.
Ortak yazar Jonnie Penn uyardı: “Düzenlenmedikçe, niyet ekonomisi motivasyonlarınızı yeni para birimi olarak ele alacaktır.”
“İnsan niyetlerini hedef alan, yönlendiren ve satanlar için altına hücum olacak” diye ekledi.
“Böyle bir pazarın, istenmeyen sonuçlarının kurbanı olmadan önce özgür ve adil seçimler, özgür basın ve adil pazar rekabeti de dahil olmak üzere insani özlemler üzerindeki olası etkisini düşünmeye başlamalıyız.”
Penn, konuyla ilgili kamuoyunun farkındalığının “yanlış yola girmememizi sağlamanın anahtarı” olduğunu belirtti.
