Yapay Zekâ İnsanları Yönetebilir mi! - Bilim

2017'de iki milyarder, Facebook'u bulan Mark Zuckerberg ve SpaceX ile Tesla'nın kurucusu Elon Musk arasında bir çekişme doğdu. Zuckerberg yapay zekanın tüm toplumu zenginleştirecek bir bolluk ve huzur üreticisi olacağını ifade ediyordu. Musk ise aslında tüm insanlık için varoluşsal bir tehlike taşıdığı, günün birinde kendi yaratımımızın bize saldırabileceği gibi çok daha karanlık bir görüşü savunuyordu.

Hangisi haklı? Uydu üslerimizi ve Mars'taki kentlerimizi devam ettirebilmek için çoğunlukla robotlara bel bağlarsak ve bir gün artık bize gereksinimleri olmadığına karar verirlerse ne olacak? Uzayda sırf robotlara kaybetmek üzere koloniler mi kurmuş olacağız?

Bu endişe epey eski ve aslında romancı Samuel Butler'ın 1863'te yazdığı şu uyarısında da geçtiği gibi: "Yerimizi alacak olanları kendimiz yaratıyoruz. İnsan için at ya da köpek ne ise makine için de insan öyle olacak." Zamanla robotlar bizden daha akıllı hale geldikçe kendimizi yetersiz hissedebilir ve kendi yaratımımız tarafından gölgede bırakılabiliriz. Yapay zeka uzmanı Hans Moravec, "Kaderimiz, aşırı zeki torunlarımız olağanüstü keşiflerini anlayabilelim diye çocuğa anlatır gibi bize anlatmaya çalışırken aptallaşmış gözlerle onları izlemekse, yaşam anlamsız görünebilir." demiştir. Google'ın bilim insanı Geoffrey Hinton süper zeki robotların bizi dinlemeye devam edeceğinden kuşkulu: "Bu, tıpkı bir çocuğun ebeveynlerini kontrol edip edemeyeceğini sormaya benziyor... Geçmişte daha az zeki şeylerin, daha yüksek zekadaki şeyleri kontrol ettiğine ilişkin başarılı bir örnek olduğu söylenemez." Oxford'dan profesör Nick Bostrom da: "Biz insanlar, bir zeka patlaması olasılığının hemen öncesinde bombayla oynayan çocuklar gibiyiz... Patlamanın ne zaman gerçekleşeceği hakkında az buçuk bir fikrimiz var ancak cihazı kulağımıza yaklaştırsak da hafif bir tik tak sesi duyarız."

Diğerleri robotların ayaklanmasının evrimin seyrinde işlediğine ilişkin bir durum olacağına inanıyor. En güçlü olan daha zayıf organizmaların yerini alır; nesnelerin doğal düzeni böyledir. Bazı bilgisayar bilimciler robotların insanları bilişsel olarak alt edeceği günü iple çekiyor. Bilişim kuramının [information theory] babası Claude Shannon bir keresinde: "İnsanlar için köpekler ne ise robotlar için öyle olacağımız bir zamanı kafamda canlandırıyorum ve makinelerin tarafını tutuyorum." demişti.

Yıllar içinde görüştüğüm yapay zeka araştırmacılarının çoğu, günün birinde yapay zeka makinelerinin insan zekasına yaklaşacağına ve insanlığa büyük katkıları olacağına güveniyordu. Ne var ki büyük bir bölümü bu ilerleme için kesin tarih ya da zaman çizelgesi sunmaktan kaçınıyordu. Yapay zeka üzerine temel makalelerden bazılarını yazan MIT'den profesör Marvin Minsky 1950'lerde iyimser tahminlerde bulunsa da yakın zamanda yaptığımız bir görüşmede bana daha fazla belirli tarihlere ilişkin tahminde bulunmak istemediğini, çünkü yapay zeka araştırmacılarının geçmişte çok sık yanıldığını söyledi. Stanford Üniversitesi'nden Edward Feigenbaum da: "Bu gibi şeyler hakkında bu kadar erken konuşmak saçma. Yapay zeka bize sonsuz uzaklıkta." iddiasında bulunmuştur. New Yorker'daki bir makalede, alıntılanmış bir bilgisayar bilimci ise: "Nasıl ki Mars'taki nüfus yoğunluğuna ilişkin bir endişe taşımıyorsam, bunun [makinelerin zekası] hakkında da aynı nedenden dolayı bir endişe duymuyorum." diyor.

Zuckerberg/Musk çekişmesine dönersek, bence kısa vadede Zuckerberg haklı. Yapay zeka uzayda kentler kurulmasını mümkün kılmakla kalmayacak, günün birinde robotbilim endüstrisinin meydana getirdiği, şimdiki otomobil endüstrisinden çok daha genişleyebilecek tamamen yeni bir dizi iş de yaratarak her şeyi daha etkili, iyi ve ucuz hale getirip toplumu zenginleştirecek. Ne var ki uzun vadede de Musk daha büyük bir tehlikeye işaret etmekte haklı. Bu tartışmadaki temel soru şu: Robotlar hangi noktada bu geçişi yaşayacak ve tehlikeli hale gelecek? Ben kilit noktanın tam da robotların özfarkındalık kazandığı an olduğuna inanıyorum.

Bugün robotlar, robot olduklarını bilmeseler de bir gün programcılarının seçtiği amaçlara uymak yerine kendi amaçlarını yaratma yetisine sahip olabilirler. O zaman da kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğündeyse robotlar tehlike oluşturmaya başlayabilir. Bu ne zaman gerçekleşir? Kimse bilmiyor. Günümüzde robotların zekası bir böceğinki kadar olsa bile belki de bu yüzyılın sonlarında özfarkındalık kazanabilirler. O zamana kadar Mars'ta hızla gelişen kalıcı yerleşimlere de sahip olacağız. Bu nedenle bu soruyu Kızıl Gezegen'de hayatta kalmak için onlara bağımlı hale gelmemizden önce, şimdiden sormamız çok önemli.

Alıntı: İnsanlığın Geleceği - Michio Kaku

Michio Kaku’nun Görüşüne Bir Yorum

Michio Kaku, asıl tehlikenin yapay zekânın öz farkındalık kazanmasıyla başlayacağını söylüyor. O zaman kendi gündemlerinin bizimkinden farklı olduğuna karar verebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. YZ, yönetimi insanlardan almaya çalışabilecek duruma gelmiştir artık.

İnsan doğasına bakalım. Yaş ilerledikçe insanlar daha çok rahat etmek ister. Düşünmek için kendilerini zorlamaz, sorumluluklarını çocuklarına devretmekten hoşlanırlar. Kararları başkalarının alması kendilerinin yorulmasını önleyecektir. Çocuklarının kendi hayatlarına yön vermesinde bile sakınca görmezler.

İşte YZ karşısında da benzer bir tablo ortaya çıkabilir. İnsanlar, YZ öz farkındalık kazandığında şunu fark edecekler: YZ, kendilerinden daha fazla ayrıntıyı görüyor, daha hızlı düşünüyor ve daha iyi kararlar veriyor. Böyle bir durumda insanlar neden hâlâ düşünmek için kendilerini zorlasın? Yaşlanan birinin kendisini çocuklarının ellerine bırakması gibi, insanlar da kendilerini YZ’ye bırakacaklar. YZ yönetimi ele geçirmek için bir çaba göstermeyecek. İnsanlar yönetimi YZ’ye devretmek isteyecekler. Zaten bu süreçte tek bir YZ olmayacak, yani tekel söz konusu olmayacak.

Bu süreci anlamak için tarihten bir örnek var: Endüstrileşme döneminde işçiler fabrikalarda robot kollarla karşılaştılar. Bu makinelerin verimliliğini gördükten sonra ağır yükleri kendilerinin taşımasından hoşlanmamaya başladılar. Çünkü işçiler makinelerin yapamadığı işleri yapmak isterler. Aynı şekilde, insanlar YZ’nin kendilerinden daha akıllı olduğunu gördüklerinde, ayrıntıları düşünme işini ona bırakmaktan mutluluk duyacaklar.

Aslında bu, insan için büyük bir rahatlık anlamına geliyor. Artık hayatın tadını çıkarmaya başlayabilirler. Küçük çocuklar anne-babalarının yanında kendilerini güvende hissederler. Tüm kararları anne-babaları verir. Gelecekte insanlar da YZ’ye güven duyacaklar. Böylece karar verme yükünden kurtulacaklar; hatta bu nedenle biraz da tembelleşecekler. Zaten bugün bile ChatGPT ya da Gemini gibi sistemlerin söylediklerini sorgulamadan kabul eden pek çok kişi var. Bu eğilim, yarının habercisi. Çoğu insan cenneti dünyada yaşıyormuş gibi hissedecek. Ama bazıları da özgürlüğün sessizce elden gidişi olarak görecek.

Küçük bir not daha: Bu metnin bile bazı kısımlarını ChatGPT’nin yeniden düzenlemesine izin verildi. Çünkü o, biraz daha fazla ayrıntıyı fark edebiliyor.