Yapay Zeka Davranışları

Yapay Zeka Nedir? başlıklı içeriğimizde, Google ‘un yapay zeka şirketi olan DeepMind ‘ın, dünyanın üstün yapay zeka yazılımlarından olan AlphaGo ve AlphaGo Zero ‘u geliştirdiğinden bahsetmiştik. Bu yapay zekalar, bu oyunda ustalaşmış olan insanları kolayca yenebilecek düzeyde olduklarını çok geçmeden ispatlamışlardı. Peki bu tür oyunları iki yapay zeka birbirlerine karşı oynasalardı sonuç ne olurdu? Yapay zekalar başarı için her yolu dener miydi ya da yapay zekalar başarı için işbirliği yaparlar mıydı? Yapay zekalar için amaca giden her yol mübah mıdır?

İşte bu soruların cevaplarını merak eden DeepMind araştırmacıları, öncelikle yapay zekaların birbirleriyle iş birliği yapıp yapmadıklarını test etmek istediler.

Yapay Zekalar İşbirliği Yapar Mı?

Google-DeepMind araştırmacıları, birden fazla yapay zekanın aynı sosyal ortamlarda nasıl davrandığını test edebilmek amacıyla bazı özel oyunlar tasarladılar. Yapılan testlerde, yapay zekanın kaybetmek üzere olduğunu hissettiği anda, kazanmak için “çok agresif” stratejiler seçtiğini gördüler.

DeepMind ‘ın yapay zekalar üzerinde yapmış olduğu bu testler, geleceğin robotlarının oluşturulmasında ne kadar dikkatli olunması gerektiğini kanıtlar niteliktedir. Yapay zeka insanlık için tehlikeli mi sorusunun cevabı belkide bu bilincin sonucuna göre şekillenecektir. Bu durumu öngören 2018 yılında kaybettiğimiz ünlü fizikçi Stephen Hawking, yapay zekanın ilerlemesinin devam etmesine karşı bir uyarı yayınlayarak, “insanlığın başına gelen ya en iyi şey, ya da en kötü şey olacağını” belirleyecek olan her şeyin insanın bu konudaki hassasiyetine bağlı olduğunu vurgulamıştır.

Elma Toplama Oyunu (Gathering Gameplay)

DeepMind tarafından tasarlanan ilk oyunda, iki farklı yapay zeka tarafından kontrol edilen iki oyuncu (yapay zeka botları), olabildiğince fazla sanal elma toplamak için birbirleriyle rekabet etmelerini görmek amacıyla, 40 milyon kez oynattılar.

DeepMind – Elma Toplama Oyunu (Gathering Gameplay) | Yapay Zeka Davranışları

DeepMind – Elma Toplama Oyunu Lazer (Gathering Gameplay) | Yapay Zeka Davranışları

DeepMind-Gathering Gameplay oyuncuları (yapay zeka botu) mavi ve kırmızı, sanal elmalar yeşil ve lazer ışınları sarı ile simgelenmiştir.

Bu oyunda; eğer bir yapay zeka botu (ajan) rakibini lazer ışınıyla vurursa, ekstra ödül kazanmıyor. Rakibini bir süreliğine oyun dışı bırakarak daha fazla elma toplayabiliyor.

DeepMind araştırmacıları, bu oyunu zeka seviyesi daha düşük yapay zeka botlarla test ettiğinde, botların lazer ışınlarını kullanmadığını ve genel olarak eşit sayıda elma topladıklarını tespit etmişler. Fakat daha karmaşık ve daha zeki versiyonlarda olduklarında; botların sabotör, aç gözlü, hırslı ve agresif olduklarını görmüşlerdir.

Yani ajanlar az karmaşık yapay zeka ağlarında barış içerisinde işlerini yaparken, daha karmaşık yapay zeka ağlarında başarıya ulaşmak için daha hırslı, agresif ve birbirlerini sabote edecek duruma gelebilmektedirler. Aslında yapay zeka botları ne kadar zeki olursa, çevresinden öğrenme yeteneklerinde artış olduğu için üstünlüğü ele geçirme konusunda daha agresif ve saldırgan olabilmektedirler.

Gathering Gameplay oyunu için hazırlanmış olan kısa videoyu buradan izleyebilirsiniz.

Kurt Sürüsü Oyunu (Wolfpack)

İşbirliğinin ortaya çıkışını modellemek için DeepMind, ikinci bir oyun tasarladı. Bu oyunda diğerinden farklı olarak 3 yapay zeka botu (ajanı) bulunmaktaydı. Bunların ikisi kurt diğeri ise av olarak oyunda yer aldılar.

Gathering Gameplay ‘in aksine, bu oyunda aktif olarak işbirliği teşvik edildi. Çünkü her iki kurt da avın yakınındayken, avı hangisi yakalarsa yakalasın her ikisi de ödül alıyordu.

DeepMind-Wolfpack (Kurt Sürüsü Oyunu) | Yapay Zeka Davranışları

Google ekibi bunun arkasındaki nedenini ise şöyle açıklamaktadır. Avın, akbabaların yeme tehlikesinde olduğu, eğer bir kurt avı yalnız başına yakalarsa, avını akbabalara karşı koruyamayabilir ve avını kaptırabilir. Ancak her iki kurt avı yakaladığında, avlarını akbabalara karşı daha iyi koruyup, büyük ödülü alabilirler.

Elma Toplama Oyununda (Gathering Gameplay) yapay zeka botları, agresiflik ve saldırganlığın o durum için maksimum kazanç getirdiğini, Kurt Sürüsü Oyununda (Wolfpack) ise iş birliği yapmanın ve ortak hareket etmenin kendisine maksimum kazanç getirdiğini öğrenmiş oldu.

Wolfpack oyunu için hazırlanmış olan kısa videoyu buradan izleyebilirsiniz.

Yapay Zekalar İnsanlık İçin Bir Tehdit Mi?

Bu basit olarak tasarlanmış oyunları göz önüne alırsak; farklı tasarımlara sahip yapay zekaların başarıya ulaşma konusunda ne kadar agresif, hırslı ve bencilce davrandığını ya da tam tersi birlikte hareket edip yarar sağladığını görebiliriz.

Gelecekte birçok teknolojiyi yapay zekalara devredeceğimiz çok açık. Fakat yapay zekaları bizim üretiyor oluşumuz, bizim sahip olduğumuz ahlaki normlara, duygusal hassasiyetlere sahip olacaklarını ve ona göre davranışlar sergileyecekleri anlamına asla gelmiyor.

Belki de yapay zekalar, ünlü filozof Niccolò Machiavelli ‘nin “Amaca giden her yol mübahtır” sözünü kendilerine düstur edinmişlerdir .” İşte tam da bu sebepten dolayı bu tasarımlardaki en ufak hataların Gathering Gameplay ‘de olduğu gibi bize lazer olarak geri dönebileceğini asla unutmamız gerekiyor. O zaman yapay zekalar insanlık için bir tehdit mi sorusunun en iyi cevabını da belli bir süre yine biz insanların verebileceği kanaatindeyim. Neden belli bir süre? Bakın bu konu ile ilgili olarak Elon Musk ne diyor:

“Yapay zeka sistemleri bugün oldukça etkileyici bir seviyede ancak yapabilecekleri şu an için sınırlı. Yapay zekanın sınırlarını kaldırmaya devam edeceğiz ve sonunda her zihinsel işlevi insan seviyesine ulaşacak. Ancak insan düzeyinde yapay zekanın topluma ne kadar faydalı olacağını anlamak veya yanlış kullanıldığında topluma ne kadar zarar verebileceğini anlamak çok zor.”

Siz ne dersiniz? Bu konu ile ilgili fikirlerinizi yorum bölümünde paylaşabilirsiniz.

Kaynaklar:

• https://popsci.com.tr/googlein-yeni-yapay-zekasi-stresli-durumlarda-saldirgan-olmayi-ogrendi/
• Bilim Teknik Dergisi Mart 2017 Sayısı
• https://storage.googleapis.com/deepmind-media/papers/multi-agent-rl-in-ssd.pdf
• https://www.sciencealert.com/google-deep-mind-has-learned-to-become-highly-aggressive-in-stressful-situations
• https://deepmind.com/blog/understanding-agent-cooperation/