Yapay zeka deyince akla ilk gelen soru her zaman bu olur. Terminatör, Matrix, Ben Robot gibi filmleri izleyince ve yapay zeka alanındaki son gelişmeleri gördükçe herkeste bu korku oluşmaya başlıyor. Yapay zeka ile alakalı bütün videoların altı 'yapay zeka hepimizi dövecek' gibi yorumlarla dolu. Peki bunun gerçekçilik payı nedir ve uzmanlar bu konuda neler düşünüyor? Yapay zeka gerçekten bir noktada kendi kendine karar verip dünyayı felakete sürükleyebilir mi?

Öncelikle en önemli nokta yapay zekanın tanımıdır. Bu başlı başına farklı bir yazının konusu çünkü yüzyıllardır devam eden bir felsefe barındırıyor ve üzerinde hala bir ortak noktaya varılabilmiş değil. Bu yazı içerisinde kullanılan yapay zeka; en az insan seviyesinde bir zekaya sahip, internete ve güç kaynağına bağlı, kendini geliştirebilen bir bilgisayar programıdır. Aslında bu tanıma güncel literatürde Yapay Genel Zeka (Artificial General Intelligence — AGI) deniyor ama daha fazla kafa karıştırmamak için şimdilik sadece yapay zeka diyelim.

Yapay zeka dünyayı nasıl ele geçirebilir?

Diyelim ki bizim emrimizde olan bir yapay zeka var ve biz ondan çok basit bir görev istedik. Tost yemeyi sevdiğimiz için olabildiğince fazla tost yapmasını istedik. Yapay zeka önce evdeki ekmek ve peynirlerle tost yapmaya başladı. Buraya kadar bir sıkıntı yok. Evdeki malzemeler bitince marketten sipariş verip devam etti. Daha sonra paramız bitince bir çözüm yolu aramaya başladı çünkü tek amacı daha fazla tost yapabilmek. Yaptığı tostları internetten satarak para kazanmaya ve bu sayede daha fazla tost üretmeye başladı. Bir süre sonra hızlanmak için daha fazla tost makinesi aldı, daha fazla eleman çalıştırdı ve daha karlı anlaşmalar yaptı. Bu süreci hızlandırmak için ekmek ve peyniri de kendisi üretmek istedi, bunlar için fabrikalar ve çiftlikler kurdu. Buraya kadar süreç gayet normal çünkü dünyadaki büyük işletmeler ve gıda zincirleri de aynen bu adımlardan geçmiştir. Daha fazla üretim için tarlalar ve arsalar satın almaya başladı. Dünyadaki tarla sayısı sınırlı olduğu için üretimi düşüren şeyin ekmek ve peynir tüketen insanlar olduğunu fark etti ve artık insanları ortadan kaldırmanın zamanının geldiğine karar verdi! Sadece tost yapmasını istediğimiz bir yapay zeka sonunda dünyanın sonunu getirdi.

Yukarıdaki örneğe Toaster Paradigm (Tost Makinesi Paradigması) denir [1]. Basit bir iş istediğimiz yapay zekanın sonunda dünyanın sonunu getirebilmesinin ne kadar kolay olduğunu göstermek için verilen örneklerden biridir. Bu teori ilk defa 2003 yılında Oxford Üniversitesi’nde Felsefe Profesörü Nick Bostrom tarafından Paperclip Maximizer (ataş üretici/arttırıcı) adıyla yayınlanmıştır [2]. Bu örnekte yapay zekanın yine aynı mantıkla daha fazla ataş üretmek için dünyaya hakim olması konu alınır. (Bu örnekle alakalı kendinizi yapay zekanın yerine koyduğunuz küçük bir oyun da tasarlanmıştır). Değişik isimlerle benzer örnekleri birçok yerde görebilirsiniz. Örneğin Stamp Collector Machine (pul koleksiyonu makinesi), basitçe pul toplaması istenen bir makinenin daha fazla pul üretmek için kaynakları tüketmesini konu alır.

Fişini çeksek ne yapabilir ki?

Burada aklımıza bazı basit çözümler gelebilir. Mesela fişini çeksek veya bir durdurma düğmesi olsa ve işler çığırından çıktığında düğmeye bassak olmaz mı? Böyle bir durumda sizin yapay zekayı kapatmanız yapay zekanın daha fazla tost yapmasına engel olacağı için yapay zeka buna izin vermeyecektir. Yapay zeka daha fazla tost üretmesine engel olacak her türlü eylemi önlemeye çalışacaktır. Başka bir çözüm de yapay zekayı insanlara zarar vermeyecek şekilde programlasak nasıl olur? Bu durumda:

Birinci ihtimal yapay zekanın ürettiği tostlardan birisi bizim boğazımıza takılıp bize zarar verebilir. Bunu fark eden yapay zeka hiç tost üretmemeyi tercih eder çünkü insanlara zarar vermeme kuralına ters düşecek bir aksiyon almak istemez. Yani yapay zeka kullanışsız hale gelir.

İkinci ihtimal ise yapay zeka direk olarak insanlara zarar vermese de dolaylı yoldan verebilir. Eğer dünyadaki bütün kaynakları tüketirse o zaman insanlara yiyecek bir şey kalmaz ve herkes açlıktan ölür. Ayrıca bu tarz yapay zekayı kontrol etmeye ve tehlikesiz hale getirmeye yarayan kuralların işe yaramayacağı da daha önce Ben Robot gibi filmlerde “Asimov’un 3 Robot Yasası” ismiyle işlenmiştir.

Bunun gerçekleşme ihtimali nedir?

Yukarıdaki senaryo size çok abartılı ve imkansız gelebilir. Facebook’un hikayesine kısaca bir göz atalım. Her ne kadar Mark Zuckerberg Social Network filminin doğru olmadığını söylese de, Facebook Zuckerberg tarafından Columbia Üniversitesi’nde arkadaş çevresi oluşturmak ve insanların tanışmasını sağlamak için kurulan basit bir web sitesiydi. Yani Zuckerberg Facebook’a sadece bana arkadaş bul demişti. Facebook önce diğer üniversitelere yayıldı, sonra da diğer ülkelere. 2012 yılı itibariyle dünyanın en çok ziyaret edilen web sitesi, yaklaşık 2,5 milyar kullanıcısı var ve yıllık geliri 22 milyar dolar [3]. Facebook şu anda Afrika ülkelerine bedava internet götürmeyi planlıyor. Artık bütün siyasi partiler Facebook üzerinden reklamlar vererek seçmenleri etkilemeyi amaçlıyor. İlk başta birkaç arkadaş bulmak için açılan basit bir sitenin 15 yıl içinde dünyanın en büyük ülkelerinin başkanını belirleyebilecek konuma gelmesi bizim masum tost makinemizi biraz andırıyor sanki. Belki de o kadar uç ve imkansız bir örnek değildir.

Yapay zekanın hiç bir zaman dünyayı ele geçiremeyeceğini düşünenler

Yapay zekanın istemeden de olsa dünyayı nasıl felakete sürükleyebileceğini gördük. Peki bunun mümkün olmadığını söyleyenler ne düşünüyor? Bu soruya hayır cevabını veren görüşler 2 kısma ayrılıyor.

Birinci kısım insan zekasının matematiksel olarak açıklanamayacağını veya bu kadar yüksek işlem gücüne hiçbir zaman ulaşamayacağımızı, bu yüzden yapay zekanın hiçbir zaman insan zekasına ulaşamayacağını söylüyor. John Searle bilgisayarların sadece matematik işlemi yaptığını veya semboller arasında ilişki kurarak çalışabildiğini, insan beyninin ise çalışma sisteminin farklı olduğunu, bu yüzden yapay zekanın hiçbir zaman insanın kopyası olamayacağını söylüyor. Öne sürdüğü Çince Odası isimli deneyde özetle şunu iddia ediyor: Elinde çok geniş bir sözlükle kelime kelime Çince’den İngilizce’ye çeviri yapan birinin gerçekten Çince bildiğini söyleyemeyiz, bilgisayarlar da aslında her davranış için buna benzer işlemler yaparak sonucu bulurlar, bu durumda bilgisayarların da gerçekten düşündüğünü veya zeki olduklarını söyleyemeyiz diyor [4]. Hubert Dreyfus ise benzer şekilde henüz bilinç, algı, anlam gibi konuları açıklığa kavuşturamadığımızı, bunların programlanmasının mümkün olmadığını, insan zekasının matematiksel işlemler kullanarak kopyalanamayacağını iddia ediyor [5].

İkinci kısım da yapay zekanın hiçbir zaman dünyaya hükmetmek istemeyeceğini söylüyor. Bunun altında biraz felsefi sebepler yatıyor. Bir varlık neden dünyaya hükmetmek ister? Güç isteği akla gelen ilk cevap. Peki neden güç isteği vardır? İnsani duygular yüzünden mi? Bu sonu olmayan bir sorular zinciri. Ama özetleyecek olursak, davranışların hepsi hayatta kalma (survival) iç güdüsüne dayanır. Hepimiz para kazanmak zorundayız çünkü yemek, sağlık ve barınma gibi ihtiyaçlarımız var. Hepsinin de temelinde hayatta kalma isteği yatar. Ana motivasyonumuz budur. Bildiğimiz bütün canlılarda da bu motivasyon vardır. Dünyada hayatta kalma ve soyunu devam ettirme amacı olmayan bir canlı bilmiyoruz. Peki hayatta kalma ve soyunu devam ettirme amacı olmayan bir varlık olarak yapay zeka nasıl hareket eder? Amacı ne olur? Neye göre karar verir? İşte ikinci görüş bunlara cevap verilemeyeceği için yapay zekanın hiçbir zaman kendi motivasyonuna veya bir bilince sahip olamayacağını söylüyor. Bu yüzden de eğer birisi özellikle dünyayı yok etmek için programlamazsa yapay zekanın hiçbir zaman bu amaca kendiliğinden sahip olmayacağını ifade ediyor.

Bu görüşe sahip olanlardan biri de Deep Learning’in mucitlerinden, 2018 Turing ödülü sahibi ve Facebook Yapay Zeka Departmanı’nın yöneticisi Yann LeCun. LeCun son yazısı olan “Don’t Fear the Terminator”de (Terminatör’den korkmayın) gittikçe popülerleşen bu konuya değiniyor.

LeCun bu tehlikenin abartıldığını söylüyor. Dünyaya hükmetmenin evrimsel süreçten doğan bir davranış olduğunu, canlıların diğerlerini tüketerek hayatta kalmak zorunda olduğunun, bu yüzden dünyaya hükmetmenin evrimsel açıdan avantajlı olduğunu belirtiyor. Yapay zeka ise evrim geçirmediği için bu tarz iç güdüleri gelişmeyecek ve hiçbir zaman diğer türlere zarar verme ihtiyacı hissetmeyecektir. Ayrıca dünyaya hükmetme isteğinin çok az türde olduğunu, birçok türün kendi üyelerine hiçbir zaman düşman olmadığını, liderlik gibi bir kavramları olmadığını ve üstünlük sergilemediğini belirtiyor.

Yapay zekanın kendi kendine dünyayı ele geçirip geçirmeyeceğine dair farklı görüşleri ve örnekleri inceledik. Peki bundan korkmalı mıyız? Herkes bu soruya odaklanmışken asıl korkmamız gereken şey yapay zekanın kendi kendine değil de birilerinin yapay zekayı kullanarak kötü bir şeyler yapmasıdır. Yapay zeka şimdilik sadece bir araç. Bu aracı nasıl kullanacağımız ise bize kalmış. Ülkeler yapay zeka yarışına girmişken bunu insanlığa hizmet için de kullanabiliriz, yapay zeka orduları kurmak için de. Yakın gelecekte asıl endişelenmemiz gereken şey bu. Bu tarz büyük güçleri nasıl kullandığımız konusunda tarihimiz kötü tecrübelerle dolu (bkn. Atom Bombası). Eğer bu teknoloji yine bir güç savaşına dönüşürse yapay zekanın dünyayı yok etmek için kendi kendine karar vermesine gerek kalmayabilir!