Google’ın Yeni Yapay Zekası Stres Altında Saldırgan Davranıyor

Terminatör filmlerinde gördüğümüz Skynet yapay zeka sistemi, insanlığın sonunu getirmek için çabalıyordu. Google’ın yeni DeepMind yapay zeka programından gelen sonuçlar ise, geleceğin robotlarını yaparken ne kadar dikkatli olmamız gerektiğini gösteriyor.

Geçen sene yapılan testlerde, Google’ın DeepMind yapay zeka sistemi kendi hafızasından bağımsız olarak öğrenebilme becerisi sergiledi ve dünyanın en iyi Go oyuncularını yendi.

Araştırmacılar, DeepMind’ın iş birliği yapma eğilimini test ederken farklı bir davranışını da gözlemlediler. DeepMind kaybettiğini hissederse, üstünlüğünü garantiye almak için saldırgan stratejiler geliştiriyor.

Google ekibi, iki DeepMind ‘ajanını’ (yapay zeka botu) toplayabildikleri kadar sanal elma toplamaları için birbirlerine karşı yarıştırıyor. Eğer her ikisinin de etrafında yeteri kadar elma varsa her şey sorunsuz devam ediyor. Ancak elmaların sayısı azaldıkça iki ajan da saldırganlaşıyor ve karşı taraftakini oyun dışı bırakmak için lazer ışınlarını kullanıyorlar.

Oyunu aşağıdaki videodan izleyebilirsiniz. Videoda DeepMind ajanları kırmızı ve mavi, sanal elmalar yeşil, lazer ışınları ise sarı renktedirler.

Eğer bir ajan rakibini lazer ışınıyla vurursa, ekstra ödül kazanmıyor. Rakibini bir süreliğine oyun dışı bırakarak daha fazla elma toplayabiliyor.

Araştırmacılar, bu oyunu zeka seviyesi daha düşük ajanlarla test ettiğinde ise, ajanlar lazer ışınlarını kullanmıyor ve eşit sayıda elma topluyorlar.

Ajanların sabotaj, hırs ve saldırganlık özellikleri yalnızca DeepMind’ın çok kompleks ve daha zeki formları test edildiğinde görülebildi.

Rhett Jones’un söylediği gibi, araştırmacılar daha küçük DeepMind ağları kullandıklarında ajanların barış içinde bir arada bulunması daha mümkün. Ancak daha büyük ölçekli ağlarda ajanlar, daha fazla elmaya sahip olabilmek için rakibini sabote ediyorlar.

Ajanlar ne kadar zeki olursa çevrelerinden öğrenebilme yetenekleri de o kadar fazla oluyor ve bu da üstünlüğü ele geçirebilmek için daha saldırgan bir tutum sergilemelerine sebep oluyor.

Joel Z Leibo, Wired dergisinden Matt Burgess’a verdiği röportajda “Bu model, insan davranışının çevre ve öğrenmenin bir ürünü olarak ortaya çıktığını göstermektedir.” dedi.

DeepMind, Wolfpack adlı ikinci bir oyunu test etmeye karar verdi. Bu sefer üç yapay zeka ajanı vardı. Bunların ikisi kurt olarak diğeri de av olarak oyundaydı.

Önceki oyundan farklı olarak, bu oyunda ajanlar iş birliği yapmalıydı çünkü iki kurt da avın yakınındayken, avı hangisi yakalarsa yakalasın her ikisi de ödül alıyordu.

Google ekibi notlarında “Bunun arkasındaki fikir avın tehlikede olmasıdır. Eğer bir kurt yalnız başına avı yakalarsa, avını akbabalara kaptırabilir. Ancak her iki kurt yakaladığında avlarını akbabalara karşı daha iyi koruyabilirler ve daha büyük ödül alırlar.” olarak açıklıyor.

DeepMind ajanları, elma toplama oyunundan saldırganlık ve bencilliğin, o oyun gibi durumlar için en kazançlı yol olduğunu öğrendi. Diğer yandan, Wolfpack oyunu gibi özel durumlarda  ise, iş birliği yapmanın kendisine maksimum kazanç getireceğini de öğrendi.

Bunlar yalnızca basit bilgisayar oyunları olsa da aslında mesaj çok açık. Eğer farklı yapay zeka sistemlerini gerçek hayatta uygulamaya koyarsanız ve görevlerini yerine getirmede bir rekabet olursa, bu topyekün bir savaşa yol açabilir.

En hızlı rotayı bulmaya çalışan sürücüsüz arabaları ve onların görevini yavaşlatan trafik ışıklarını düşünün. Her ikisi de diğerinin görevini hesaba katarak toplum için en güvenli ve verimli sonuca ulaşmalıdır.

Henüz Google ekibinin çalışmalarını yayınlaması ve DeepMind’ın kullanılabilir olması için erken. Ancak ilk sonuçların da gösterdiği gibi robotları ve yapay zeka sistemlerini bizim tasarlamamız, onların da otomatikman bizim ilgi alanlarımıza sahip olacaklarını göstermez.

Bunun yerine, makinelerimizi uygun bir ortamda tasarlamalı ve sistemde hesaba katılmamış küçük bir hatanın, yapay zekaların lazer ışınlarını kullanmalarına sebep olabileceğini öngörmeliyiz.

OpenAI şirketi, Elon Musk’ın tamamen yapay zeka araştırmaları yapılması için desteklediği bir girişimdir. Şirketin kurucularının 2015’te dediği gibi, yapay zeka sınırlarını aştığında nasıl bir sonuçla karşılaşabileceğimizi bilemeyiz :

“Yapay zeka sistemleri bugün oldukça etkileyici ancak yapabilecekleri sınırlı. Yapay zekanın sınırlarını kaldırmaya devam edeceğiz ve sonunda her zihinsel işlevi insan seviyesine ulaşacak. Ancak insan düzeyinde yapay zekanın topluma ne kadar faydalı olacağını anlamak veya yanlış kullanıldığında topluma ne kadar zarar verebileceğini anlamak çok zor.”

Kaynak
Crew, B. Google's New AI Has Learned to Become "Highly Aggressive" in Stressful Situations.