Uzmanlar, Gizli Yapay Zekanın Yeni Bir 'Niyet Ekonomisine' Yol Açabileceği Konusunda Uyarıyor

Araştırma, “niyetin dijital sinyalleri” için ortaya çıkan potansiyel olarak “kazançlı ancak rahatsız edici” pazarın, yakın gelecekte sinema bileti satın almaktan siyasi adaylara oy vermeye kadar her şeyi etkileyebileceğini savunuyor.

Chatbotlar, dijital öğretmenler ve diğer sözde “antropomorfik” YZ ajanları ile artan aşinalığımızın, bu yeni “ikna edici teknolojiler” dizisini mümkün kılmaya yardımcı olduğu da ekleniyor.

Makalenin iki ortak yazarı, YZ'nin çevrimiçi alışkanlıklarımız hakkındaki bilgileri, kullanıcıyı tanıma ve isteklerini tahmin etme ve “yeni güven ve anlayış seviyeleri” oluşturma konusunda artan bir yetenekle birleştireceğini belirtti.

Cambridge'deki Leverhulme Zekanın Geleceği Merkezi'nden (LCFI) ikili, Harvard Data Science Review'da yayınlanan makalede, kontrol edilmediği takdirde bunun “endüstriyel ölçekte sosyal manipülasyona” olanak sağlayabileceğini savundu.

Makale, “niyet ekonomisi” olarak adlandırılan bu gelişmekte olan sektörün, kullanıcıların dikkat ve iletişim tarzlarını nasıl profilleyeceğini ve bunları davranış kalıpları ve yaptıkları seçimlerle nasıl ilişkilendireceğini tanımlıyor.

Ortak yazar Yaqub Chaudhary, “YZ araçları, insan planlarını ve amaçlarını ortaya çıkarmak, çıkarmak, toplamak, kaydetmek, anlamak, tahmin etmek ve nihayetinde manipüle etmek ve metalaştırmak için zaten geliştiriliyor” dedi.

Araştırmaya göre, yeni yapay zeka, bir kullanıcının temposunu, politikasını, kelime dağarcığını, yaşını, cinsiyetini, çevrimiçi geçmişini ve hatta dalkavukluk ve yağcılık tercihlerini hedeflemek için Büyük Dil Modelleri - veya LLM'ler - olarak adlandırılan modellere dayanacaktır.

Bu, sinema gezisi satmak ya da konuşmaları belirli platformlara, reklamcılara, işletmelere ve hatta siyasi kuruluşlara yönlendirmek gibi belirli bir amaca ulaşmak için teklif veren diğer gelişmekte olan yapay zeka teknolojileriyle bağlantılı olacaktır.

Ortak yazar Jonnie Penn uyardı: “Düzenlenmediği sürece, niyet ekonomisi motivasyonlarınızı yeni para birimi olarak değerlendirecektir.”

“İnsanların niyetlerini hedef alan, yönlendiren ve satanlar için altına hücum olacak” diye ekledi.

“Böyle bir pazarın, özgür ve adil seçimler, özgür bir basın ve adil piyasa rekabeti de dahil olmak üzere insani beklentiler üzerindeki olası etkilerini, istenmeyen sonuçlarının kurbanı olmadan önce düşünmeye başlamalıyız.”

Penn, kamuoyunun konuya ilişkin farkındalığının “yanlış yola sapmamamızın anahtarı” olduğunu kaydetti.

Bu yazı SCIENCEALERT’ de yayınlanmıştır.