Yapay Zekâ Balonu Patlamak Üzere mi? - Konferans

(Not: Konuşmaya henüz Türkçe alt yazı eklenmemiş.)

Kendini özel sanma. Bizden daha fazla bildiğini düşünme. Bunlar Jante Yasası’ndan bazı ifadelerdir. Ve bence bu tehlikelidir. Çünkü bu, ortak bir düşünme biçimini teşvik eder ve bu da bizi tehlikeli sonuçlara sürükleyebilir.

Bugün sizlerle, az önce duyduklarımızdan biraz daha kuru sayılabilecek bir konudan bahsetmek istiyorum: Bitcoin, kripto paralar, balonlar ve finansal balonlar.

“Bitcoin cinsel yolla bulaşan bir hastalıktır.”
“Bitcoin, sıçan zehrinin karesidir.”

Bunlar benim sözlerim değil. Bunlar Charlie Munger ve Warren Buffett’ın sözleri. Dünyanın gelmiş geçmiş en önemli ve en başarılı yatırımcılarından ikisi. Yatırım kariyerleri boyunca yaklaşık beş milyon yüzde getiri elde etmiş olmaları her şeyi anlatıyor. Bu yüzden bu insanlar konuştuğunda, ya da konuştuklarında — ve maalesef Bay Munger artık hayatta değil — onları dinlememiz gerekir. Ben kesinlikle dinliyorum.

Bitcoin’in elbette inanılmaz bir yolculuğu oldu ve yıllar içinde sağladığı muazzam getiriler takdiri hak ediyor. Ancak bunu duyduğumuzda şu soruyu sormamız gerekir: Dünyanın en başarılı iki yatırımcısı neden Bitcoin’den sıçan zehri gibi bahsediyor?

Kişisel bir hikâye anlatayım. 2016 yılında Bitcoin’e yatırım yapmaya çok yaklaşmıştım. Yaklaşık 150 bin dolarlık Bitcoin almayı düşünüyordum. Bugün bu yatırımın değeri yaklaşık 20 ila 25 milyon dolar olurdu. Yapmadım, çünkü o dönemde bankadan kripto cüzdanına para aktarmak oldukça zordu. Ama arkadaşlarımdan biri bu adımı attı. Ethereum’a, fiyatı 50 cent iken girdi ve yaklaşık 1.400 dolara ulaştığında sattı. Yaklaşık 2.800 kat kazanç elde etti. Ve kripto konusunda iyi kazanan tek kişi o değil. Hepimiz bu “Lambo alan” insanları duyduk; saçma gibi görünen bir şeye girip sonra fiyatın 100 kat arttığını görenleri. Açıkçası bilmiyorum siz ne hissediyorsunuz ama ben kesinlikle FOMO hissediyorum.

FOMO nedir? FOMO, “fear of missing out”, yani kaçırma korkusu demektir. Bu duygu insan zihninde çok derinlere dayanır. Avcı-toplayıcı olarak yaşadığımız zamanlara kadar uzanır. Grubun bir parçası olmak; yiyecek, güvenlik ve eşleşme demekti. Grubun dışında kalmak ise tehlikeliydi. Bu içgüdüyü bugün de taşıyoruz. Eğer grubun parçası değilsek, eğer aynı şekilde düşünmüyorsak — Jante Yasası’nın da telkin ettiği gibi — bu tehlikeli hissediliyor. Bu yüzden FOMO, içimizde çok derin bir yerde yer alır ve bizi normalde tek başımıza olsak yapmayacağımız şeylere yöneltebilir.

Bu sadece benim gibi “aptal” insanların ya da konuları anlamayan kişilerin başına gelen bir şey değil. Sir Isaac Newton, muhtemelen yaşamış en zeki insanlardan biriydi. Ama 1700’lerde o da FOMO’nun kurbanı oldu. Bu, South Sea Balonu dönemiydi. Newton yatırım yaptı, hisseler yükseldi, güzel bir kâr elde etti ve çıktı. Ama arkadaşlarının içeride kalıp daha da zengin olduklarını görünce tekrar girdi, hem de büyük bir yatırımla. Ardından balon patladı. Sonrasında meşhur şu sözü söyledi: “Gök cisimlerinin hareketini hesaplayabilirim ama insanların deliliğini hesaplayamam.”

FOMO, bize zarar verecek şeyleri yapmamıza neden olabilir. Bu durum, kalabalık dinamikleriyle de çok net bir şekilde görülür. 1968’de yapılan “dumanlı oda deneyi” buna güzel bir örnektir. Bir grup iş başvurusu yapan insan bir odaya alınır. Dokuz kişiden sekizi aktördür. Onlara, ne olursa olsun oturup görevlerine devam etmeleri söylenir. Bir kişi ise gerçek başvurandır. Bir süre sonra odanın içine duman dolmaya başlar. Eğer odada diğer insanlar varsa ve onlar tepki vermiyorsa, vakaların yüzde 90’ında gerçek katılımcı da yerinden kalkmaz ve bu potansiyel tehlikeyi bildirmez. Ama kişi odada yalnızsa, yüzde 75’i ayağa kalkıp durumu bildirir.

Sürü davranışı düşünme biçimimizi değiştirir. Ve finansal balonların oluşmasının sebeplerinden biri de budur.

Finansal balonlara baktığımızda, en büyüklerinden birini 1630’larda görürüz: Lale Çılgınlığı. Lale Osmanlı İmparatorluğu’ndan gelmişti ve bir şekilde ilgi odağı hâline geldi. İnsanlar laleleri kullanım değeri için değil, ertesi gün daha pahalıya satabileceklerini düşündükleri için almaya başladılar. Balon, bu çılgınlığın zirvesinde patladı. O dönemde bir lale soğanının fiyatı bir evle eşdeğerdi.

1840’ların Britanya’sına hızlıca ilerleyelim. Buhar makinesi ve lokomotif gibi inanılmaz bir teknoloji ortaya çıkmıştı ve gerçekten dünyayı değiştirdi. Ama herkes bunun kesin kazanç anlamına geldiğini düşündü. Herkes FOMO ile yatırım yaptı. Binlerce şirket kuruldu. İnsanlar bunun kaybedilemeyecek bir fırsat olduğunu düşündü. Balon yine patladı ve birçok kişi parasını kaybetti. Teknoloji harikaydı ama bu, garantili kazanç anlamına gelmiyordu.

1920’lere, “kükreyen yirmiler” dönemine gelelim. Birinci Dünya Savaşı sona ermişti. Elektrifikasyon vardı, otomobiller vardı, radyo vardı. Sessiz bir evde otururken bir anda radyoyu açıp birinin size konuştuğunu duymak inanılmazdı. Işığı yakmak, ata binmek yerine arabaya binmek… Bugün teknoloji sıçraması gördüğümüzü düşünüyoruz ama o dönem gerçekten özeldi.

Ne oldu? İnsanlar yine FOMO ile yatırım yaptı. “Bu yeni bir dünya, eski kuralları unutun” denildi. Devasa bir balon oluştu ve patladı. Hisse senetleri çöktü, Büyük Buhran yaşandı.

Sonra, bazılarımızın hatırlayabileceği dot-com balonuna geldik. İnternet ortaya çıkmıştı. Buhar makinesi ve radyo gibi, dünyayı değiştiren yeni bir teknolojiydi. Herkes yine FOMO ile yatırım yaptı. “Yeni ekonomi” denildi. Artık ne kadar kazandığınız değil, pazarlamaya ne kadar harcadığınız önemliydi. Wall Street ve medya bu balonun arkasındaydı. Webvan ve Pets.com gibi medya gözdesi şirketler vardı. İnternet dünyayı değiştirdi mi? Evet. Ama bu, piyasanın çökmesinin imkânsız olduğu anlamına gelmiyordu.

Şimdi Bitcoin’e gelmek istiyorum. Çünkü bence Bitcoin, şu anda içinde bulunduğumuz finansal balonun en net tanımıdır. Yapay zekâ ve kripto balonu. Danimarkalıyım ve bizde Hans Christian Andersen’in “İmparatorun Yeni Elbiseleri” adlı ünlü masalı vardır. Hikâye, iki dolandırıcının imparatora görünmez elbiseler diktiğini iddia etmesiyle ilgilidir. Elbiseleri sadece aptal olanların göremeyeceğini söylerler. Kimse aptal görünmemek için gerçeği söylemez. Ta ki bir çocuk “Ama imparatorun üzerinde hiç kıyafet yok” diyene kadar. Bazen apaçık olanı söylemek için masum bir zihin gerekir.

Şu anda tarihte gördüğümüz en büyük finansal balonun içinde olduğumuzu düşünüyorum. Buffett ve Munger buna piyasa değeri / GSYH oranıyla bakar. Oran ne kadar yüksekse balon o kadar büyüktür. 1929’da bu oran yüzde 89’du. 2000’de yüzde 136’ydı. 2007’de yüzde 107’ydi. Bugün ise yüzde 226. Nvidia, Palantir, Nasdaq, Bitcoin… Bitcoin 2012’den bu yana yüzde 1,2 milyon yükseldi.

İnsanlar “Ama daha da yükselebilir” diyor. Ancak Nasdaq ile Bitcoin’in çok yakından birlikte hareket ettiğini görüyoruz. 2001’de Nasdaq yüzde 85 düştü. Bugünkü balon ondan çok daha büyük. Benim öngörüm Bitcoin’in yüzde 95 düşeceği yönünde. Ama bunu medyada, akademide ya da kalabalıkta duymazsınız.

Ekonomide belirgin bir yavaşlama görüyoruz. İşsizlik yükseldiğinde her seferinde resesyon gelir. Resesyonlar, balonların patladığı anlardır. Eğer ben haklıysam ve resesyon gelirse, Nasdaq çökerse, bu yapay zekâ balonunda Bitcoin ve kripto da çökecektir. Teknoloji gerçek olabilir, tıpkı buhar makinesi ve radyo gibi. Ama bu, garantili getiri demek değildir. Bu balonun çok uzak olmayan bir gelecekte patlayacağını düşünüyorum. Buffett ve Munger’ın haklı olduğunu düşünüyorum. Bitcoin ve kripto, cinsel yolla bulaşan bir hastalık gibidir.

Teşekkür ederim.

Ek Yorum

YZ internetteki bağlantıları takip ederek verileri birbiriyle ilişkilendiriyor. İnternette çok büyük veri yığını var. Bu kadar veri üzerinde işlem yaptığı için her şeyin uzmanı oluyor. Turing Testini artık geçebiliyor gibi görünüyor. İnsan düşünmeye başladığında fikirler içeride yankılanmaya başlar. Kişi kendi kendisiyle tartışmaya başlar. Hatta bu yüzden bazen kararsız kaldığı olur; ne yapacağını bilemez. Oysa YZ kendi kendisiyle tartışmaz, iç sesi yoktur. Sadece ilişkilendirdiği verilerden istatistiksel bir sonuç üretir. Bazı verileri aynen kopyalar; gerçi insanların da öğrendikleri verileri aynen kopyaladıkları oluyor.

Aslında Turing Testini de tam geçmiş sayılmaz. Bazen uzun konuşmalar yapıyoruz; o zaman sohbette kopmalar başlayabiliyor. Bir anda farklı konuya geçtiğimizde veya sıra dışı, nadir bir konudan bahsettiğimizde bir kırılma noktası yaşanıyor ve YZ saçmalamaya (halüsinasyon görmeye) başlıyor. Neden? Çünkü internette bu konuyla ilgili veri ya hiç yok ya da çok az var. İlişkilendirebildiği veri olmadığı için mantıklı sonuçlar üretemiyor. İşte o zaman aslında hiçbir şeyi anlamadığını, sadece kelimeleri birbiri ardına dizdiğini fark ediyoruz. Gerçi insanlar da az bildiği konuyu konuşmaya zorlandığında saçmalar ama bu durum YZ’de çok daha keskin bir 'boşluk' olarak beliriyor. Örneğin, bir videodaki konuşmaları metne dönüştürmesini istemiştim. İşlemi tamamladı. Ancak sonuç garipti. Metin, videoda hiç olmayan diyaloglardan oluşuyordu. YZ resmen uydurmuştu. Elbette bunun farkında değildi.

YZ’nin henüz bir bilinci yok. Şimdilik sadece insan bilincinin yardımcısı, bir asistan veya 'copilot' olabilir. Ama henüz sürücü koltuğuna geçebilecek durumda değil. Son kararı veremez. Her şeyi yapabileceği yanılgısına düşmemek gerekir; çünkü her araç her işe yaramaz. Dolayısıyla, abartılı beklentilere kapılıp tüm yatırımı ona bağlamak, büyük bir hayal kırıklığına neden olabilir. Hesap makineleri nasıl işlemleri hızlandırdıysa, YZ da ilişkili verileri fark etmemizi ve verimliliğimizi artıracaktır. Mesela Google’da kaybolmak yerine, YZ’nin süzgecinden geçmiş bir içeriğe göz atacağız. İç sesi olan, gerçekten 'düşünen' bir YZ yaratılabilmesini merakla bekliyorum. Ama açıkçası bunun yakın gelecekte olacağından emin değilim. Bakın, önceki cümlemde de bir kararsızlık var; acaba YZ bir gün böyle bir tereddüt yaşayabilecek mi!

İnsanlar Çok mu Akıllıdır! – Bilim

 

İnsanlar diğer canlılardan çok farklı. Konuşmayı geliştirebildi. Böylece sosyal bağlantıları arttı. Bilgilerini paylaşmaya, birbirlerinden öğrenmeye başladılar. İlerleyen zamanda yazıyı keşfettiler. İşte o zaman çok şey değişti. Artık öğrendiklerini kaydedebiliyorlardı! Bilgilerin ulaştığı insan sayısı çok arttı. Bilgi birikimleri hızla yükselmeye başladı. Tarımı, bilimi, elektriği, makineleri keşfettiler. Sonunda şaşırtıcı teknolojiler geliştirdiler. İnsanlar çok akıllı görünüyor...

Bazı toplumlarda, çocuklara, yemek yedikten hemen sonra yüzmenin kramp girmesine ve boğulmaya yol açacağına dair korkutucu uyarılar yapılır. Bu inanışla büyüyen yetişkinler, havuz kenarında veya denizde, tok karnına suya girmemek için saatlerce bekler. Oysa kanıtlar, yemek yedikten sonra yüzmenin boğulmaya yol açacak kadar ciddi kramplara neden olmadığını göstermektedir. Bazı kültürlerde çocuklara balıkla ayran gibi süt ürünü tüketmenin zehirlenmeye yol açabileceği öğütlenir. Bu korku, çocuğun zihnine güçlü biçimde yerleşir. Yetişkin olduğunda bile bunun yalnızca bir halk inanışı olduğundan emin olamaz; yoğurt ya da ayran gibi ürünleri balıkla birlikte tüketmekten çekinir. Oysa bu korkunun bilimsel bir temeli yoktur. Eskiden çocuklara televizyonun radyasyon yaydığı söylenirdi. Bu bilgi birçok çocuğun zihninde iz bırakmış görünüyor. Yetişkinliklerinde televizyonun değil ama artık cep telefonlarının radyasyon yaydığına inanıyorlar. Oysa cep telefonları da eski televizyonlar gibi zararlı radyasyon yaymaz. Son bir örnek: Etlerin mutlaka pişirilmesi gerektiği bilgisi de küçük yaşta öğretilir ve zihinde kalıcı hale gelir. Bu bilgi doğrudur, çiğ etlerde ölümcül bakteriler bulunabilir. Çocukluğunda etlerin hep pişirildiğine tanık olan kişi, fabrikada "ısıl işlem uygulanmış" etleri de pişirmek zorunda hissedebilir. Oysa salam, sosis veya sucuk gibi ürünlerdeki mikrop ve bakteriler ısıl işlemle zaten yok edilmiş olur, artık çiğ et değillerdir. Bunlar yalnızca ısıtılarak da yenebilir. İnsanlar pek çok halk inanışının etkisi altındadır! Bunlar kolay yanılabildiklerinin göstergesidir.☺

Çocuklar, dünyaya dair ilk mantık süzgeçlerini ve kabulleri büyük ölçüde ailelerinden alırlar. Biraz daha büyüdüklerinde okulda çeşitli bilgiler, ideolojik ve diğer öğretiler aşılanır. Çocuk büyürken, sosyal çevresinin de etkisinde kalır. Karşılaştığı vurgular, tekrarlar ve örnekler zihninde derin izler bırakır! Zamanla eğitildiği bilgiler tartışılmaz gerçeklere dönüşür. Yetişkinliğe ulaştığında çoğu insan, artık kendi seçimi olduğunu sandığı bu ideolojilere ve inançlara uygun şekilde yaşamını sürdürür. Bu sınırların dışına çıkmaktan çekinir ve nadiren sorgular!☺

Yani insanlar genelde, ilk öğrendikleri bilgilere ve alışkanlıklara mahkûmdur! İnsanın kendini değiştirmesi kolay olmaz. Örneğin, ilk olarak Google arama motorunu kullanmayı öğrenen birinin aklına kolay kolay başka bir arama motoru gelmez. Bazıları DuckDuckGo, Baidu, Yandex gibi alternatiflerin farkına varsa bile çoğunlukla yine Google’ı tercih eder. Bilgisayarında ilk kez Windows’la karşılaşan kişi bu sistemi öğrenir ve zamanla ona alışır. Artık başka bir sistemi denemekte isteksiz olur; MacOS ona kullanışsız ya da kısıtlı görünür. Aynı şekilde, ilk bilgisayarı Apple olan biri için MacOS doğal, Windows ise karmaşık ve soğuk gelir. Benzer bir durum telefonlarda da görülür: İlk iPhone deneyimini yaşayan biri iOS’u, ilk Android Telefon kullanan ise Android’i “doğru sistem” olarak benimser. Sonraki telefon tercihleri de genellikle bu yönde olur.☺

Yapay Zekâ aslında bu insan eğilimlerinin dijital bir yansıması gibidir. ChatGPT gibi sistemler, eğitildikleri bilgi örüntülerini ve dili taklit ederler. Eğitildikleri çerçevelerin dışına çıkamazlar. Yani insanların çocukluktan itibaren eğitildikleri öğretileri, ideolojileri ve inançları taklit edip; bu çerçevelerin dışına çıkamamasına benzerler.☺ YZ’ler eğitildikleri devasa verilerden bazen birbirleriyle ilgisiz bilgileri bir araya getirerek yanlış çıkarımlar yapabilir; buna “halüsinasyon” denir. İnsanlar da zaman zaman benzer şekilde, tam mantıksal bağ kuramadıkları bilgileri birbirine ekleyebilir ve yanlış sonuçlara varır. Bu nedenle söylentilere, uydurmalara çabuk kapılırlar! Çeşitli komplo teorilerinin etkisinde kalırlar. İnsanların, inançları ve güvendikleri ideolojileri kullanılarak manipüle edilmeleri çok zor değildir. YZ ve insanlar arasındaki bu benzerlik, düşünme süreçlerimizin ne kadar kırılgan olabileceğini gösterir!

İnsanlar son derece zeki varlıklardır. Ancak örneklerde görüldüğü üzere, insan aklının hatasız ve mutlak üstün olduğu fikri abartılı olabilir. Günümüz yapay zekâ sistemleri artık çeşitli alanlarda insanlarla rekabet edebiliyor. İnsanın özel bir yeteneği olan dilde bile şaşırtıcı başarılar sergiliyorlar. Acaba insanın ‘En Akıllı Olma Tacı’nı kaptırması çok uzak olmayabilir mi!☺

Bunlar da İlginizi Çekebilir:
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Teknoloji
Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – Yapay Zeka
O Sohbet Robotuyla Yaptığım Konuşma – Teknoloji
Benlik Hissi - Teknoloji
Bilincin Gizemi - Bilim
Yapay Zeka İnsanları İşsiz Bırakacak mı – Teknoloji
Yapay Zekâ İnsanları Yönetebilir mi! – Bilim
Frankenstein - Teknoloji

Bilincin Gizemi - Bilim

ChatGPT ve Gemini her söyleneni anlıyor. Hatta bizden daha bilgililer. Merak ettiklerimize kolayca erişmek için onlara sorular soruyoruz. Onlar da hiç sıkılmadan, nazikçe cevaplar veriyorlar. Sanki canlılarmış gibi! Bu kadar bilgiyi nasıl öğrendiler? Sanki artık Google’da bilgi aramaya gerek kalmadı; çünkü yapay zekâlar zaten her sorumuzu cevaplıyor.

Oysa çalışma mantıkları şaşırtıcı derecede basit. Bu Büyük Dil Modelleri, verilen kelime dizisine göre bir sonraki kelimenin ne olabileceğini olasılıksal olarak tahmin eder. Tek başına bu işlem sınırlıdır; sadece “hangi kelime gelmeli?” sorusuna yanıt arar. Fakat milyarlarca bağlantı bir araya geldiğinde, model dilin karmaşık örüntülerini fark etmeye başlar. İnternetteki devasa veri yığınlarıyla eğitilir. Kelimelerin bağlamını, duygusal tonlarını, hatta bazen ima edilen anlamları bile istatistiksel olarak tahmin edebilir. Aslında hiçbir şeyi “anlamaz”; sadece olasılıkları değerlendirir. Ama tahminleri o kadar isabetlidir ki, sanki dili gerçekten kavrıyormuş gibi görünür!

Beyindeki tek bir sinir hücresi (nöron) çok basit çalışır: diğer hücrelerden gelen elektriksel sinyaller belirli bir eşiği aşarsa ateşler, aşmazsa sessiz kalır. Ancak milyarlarca nöron bir araya geldiğinde, bu basit “ateşle” ya da “sessiz kal” kararları düşünme, öğrenme ve algılama gibi karmaşık süreçleri oluşturur. İnsan beyni de tıpkı yapay zekâlar gibi deneyimlerle eğitilir. Yaşadıkça ağdaki bağlantılar güçlenir ya da zayıflar; beyin çevresinden topladığı verilerle yeni örüntüler çıkarır ve akıllıca davranabilir.

Hem ChatGPT gibi yapay zekâlar hem de beyindeki zekâ, basit birimlerin bir araya gelerek oluşturduğu devasa ağdan doğar. Acaba “bilinç” sandığımız gizem, yalnızca bu ağların ortaya çıkardığı örüntüden başka bir şey olmayabilir mi! Bir taş tek başına bina etmez; ama milyonlarcası bir araya geldiğinde saraylar yükselir. Zekâ da tıpkı bunun gibi, çokluğun içindeki düzenle doğar.

Notlar:

Hesap makinesi çıktıktan sonra büyük matematiksel işlemleri yapmak için beynimizi zorlamamıza gerek kalmadı. Bilgisayarlar yaygınlaştıktan sonra örneğin karmaşık tablolar hazırlamak gibi işler artık daha kolaylaştı. Böylece daha karmaşık analizler yapmak ve stratejik kararlar üzerinde düşünmek için daha fazla zamanımız oldu. Artık makale yazmak da eskisi kadar zorlayıcı bir süreç olmaktan çıkıyor! ChatGPT ve Gemini benzeri yapay zekâlar metin hazırlama işini üstleniyor. Biz, metin ayrıntılarıyla uğraşmak yerine fikirleri geliştirmek, metnin bütününü şekillendirmek için kendimizi yoruyoruz!

Bu yazının editörü Okan Özçelik’tir. Sunmak istediği fikirlerin doğru şekilde aktarılmasını sağlamaya çalışmıştır. Yazı ChatGPT’ye hazırlatılmış, editör tarafından çeşitli değişiklikler yapılmıştır. Metin, yapay zekâyla sürekli karşılıklı bir paslaşma içinde geliştirilmiştir. ChatGPT’de kullanılan yapay sinir ağıyla beyindeki sinir ağı arasındaki benzerlikler öne çıkarılmıştır. Basit bir çalışma prensibinden nasıl karmaşık düşüncelerin doğabildiği gösterilmek istenmiştir.

Bunlar da İlginizi Çekebilir:
Bilinç Aslında Nedir! – Beyin
İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin
Bir Bilginin Bilince Ulaşması – Beyin
Zihinde Demokrasi - Beyin
Google’ın Sonu mu Geliyor! – Yapay Zeka

Yapay Zekâ İnsanları Yönetebilir mi! - Bilim

2017'de iki milyarder, Facebook'u bulan Mark Zuckerberg ve SpaceX ile Tesla'nın kurucusu Elon Musk arasında bir çekişme doğdu. Zuckerberg yapay zekanın tüm toplumu zenginleştirecek bir bolluk ve huzur üreticisi olacağını ifade ediyordu. Musk ise aslında tüm insanlık için varoluşsal bir tehlike taşıdığı, günün birinde kendi yaratımımızın bize saldırabileceği gibi çok daha karanlık bir görüşü savunuyordu.

Hangisi haklı? Uydu üslerimizi ve Mars'taki kentlerimizi devam ettirebilmek için çoğunlukla robotlara bel bağlarsak ve bir gün artık bize gereksinimleri olmadığına karar verirlerse ne olacak? Uzayda sırf robotlara kaybetmek üzere koloniler mi kurmuş olacağız?

Bu endişe epey eski ve aslında romancı Samuel Butler'ın 1863'te yazdığı şu uyarısında da geçtiği gibi: "Yerimizi alacak olanları kendimiz yaratıyoruz. İnsan için at ya da köpek ne ise makine için de insan öyle olacak." Zamanla robotlar bizden daha akıllı hale geldikçe kendimizi yetersiz hissedebilir ve kendi yaratımımız tarafından gölgede bırakılabiliriz. Yapay zeka uzmanı Hans Moravec, "Kaderimiz, aşırı zeki torunlarımız olağanüstü keşiflerini anlayabilelim diye çocuğa anlatır gibi bize anlatmaya çalışırken aptallaşmış gözlerle onları izlemekse, yaşam anlamsız görünebilir." demiştir. Google'ın bilim insanı Geoffrey Hinton süper zeki robotların bizi dinlemeye devam edeceğinden kuşkulu: "Bu, tıpkı bir çocuğun ebeveynlerini kontrol edip edemeyeceğini sormaya benziyor... Geçmişte daha az zeki şeylerin, daha yüksek zekadaki şeyleri kontrol ettiğine ilişkin başarılı bir örnek olduğu söylenemez." Oxford'dan profesör Nick Bostrom da: "Biz insanlar, bir zeka patlaması olasılığının hemen öncesinde bombayla oynayan çocuklar gibiyiz... Patlamanın ne zaman gerçekleşeceği hakkında az buçuk bir fikrimiz var ancak cihazı kulağımıza yaklaştırsak da hafif bir tik tak sesi duyarız."

Diğerleri robotların ayaklanmasının evrimin seyrinde işlediğine ilişkin bir durum olacağına inanıyor. En güçlü olan daha zayıf organizmaların yerini alır; nesnelerin doğal düzeni böyledir. Bazı bilgisayar bilimciler robotların insanları bilişsel olarak alt edeceği günü iple çekiyor. Bilişim kuramının [information theory] babası Claude Shannon bir keresinde: "İnsanlar için köpekler ne ise robotlar için öyle olacağımız bir zamanı kafamda canlandırıyorum ve makinelerin tarafını tutuyorum." demişti.

Yıllar içinde görüştüğüm yapay zeka araştırmacılarının çoğu, günün birinde yapay zeka makinelerinin insan zekasına yaklaşacağına ve insanlığa büyük katkıları olacağına güveniyordu. Ne var ki büyük bir bölümü bu ilerleme için kesin tarih ya da zaman çizelgesi sunmaktan kaçınıyordu. Yapay zeka üzerine temel makalelerden bazılarını yazan MIT'den profesör Marvin Minsky 1950'lerde iyimser tahminlerde bulunsa da yakın zamanda yaptığımız bir görüşmede bana daha fazla belirli tarihlere ilişkin tahminde bulunmak istemediğini, çünkü yapay zeka araştırmacılarının geçmişte çok sık yanıldığını söyledi. Stanford Üniversitesi'nden Edward Feigenbaum da: "Bu gibi şeyler hakkında bu kadar erken konuşmak saçma. Yapay zeka bize sonsuz uzaklıkta." iddiasında bulunmuştur. New Yorker'daki bir makalede, alıntılanmış bir bilgisayar bilimci ise: "Nasıl ki Mars'taki nüfus yoğunluğuna ilişkin bir endişe taşımıyorsam, bunun [makinelerin zekası] hakkında da aynı nedenden dolayı bir endişe duymuyorum." diyor.

Zuckerberg/Musk çekişmesine dönersek, bence kısa vadede Zuckerberg haklı. Yapay zeka uzayda kentler kurulmasını mümkün kılmakla kalmayacak, günün birinde robotbilim endüstrisinin meydana getirdiği, şimdiki otomobil endüstrisinden çok daha genişleyebilecek tamamen yeni bir dizi iş de yaratarak her şeyi daha etkili, iyi ve ucuz hale getirip toplumu zenginleştirecek. Ne var ki uzun vadede de Musk daha büyük bir tehlikeye işaret etmekte haklı. Bu tartışmadaki temel soru şu: Robotlar hangi noktada bu geçişi yaşayacak ve tehlikeli hale gelecek? Ben kilit noktanın tam da robotların özfarkındalık kazandığı an olduğuna inanıyorum.

Bugün robotlar, robot olduklarını bilmeseler de bir gün programcılarının seçtiği amaçlara uymak yerine kendi amaçlarını yaratma yetisine sahip olabilirler. O zaman da kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğündeyse robotlar tehlike oluşturmaya başlayabilir. Bu ne zaman gerçekleşir? Kimse bilmiyor. Günümüzde robotların zekası bir böceğinki kadar olsa bile belki de bu yüzyılın sonlarında özfarkındalık kazanabilirler. O zamana kadar Mars'ta hızla gelişen kalıcı yerleşimlere de sahip olacağız. Bu nedenle bu soruyu Kızıl Gezegen'de hayatta kalmak için onlara bağımlı hale gelmemizden önce, şimdiden sormamız çok önemli.

Alıntı: İnsanlığın Geleceği - Michio Kaku

Michio Kaku’nun Görüşüne Bir Yorum

Michio Kaku, asıl tehlikenin yapay zekânın öz farkındalık kazanmasıyla başlayacağını söylüyor. O zaman kendi gündemlerinin bizimkinden farklı olduğuna karar verebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. YZ, yönetimi insanlardan almaya çalışabilecek duruma gelmiştir artık.

İnsan doğasına bakalım. Yaş ilerledikçe insanlar daha çok rahat etmek ister. Düşünmek için kendilerini zorlamaz, sorumluluklarını çocuklarına devretmekten hoşlanırlar. Kararları başkalarının alması kendilerinin yorulmasını önleyecektir. Çocuklarının kendi hayatlarına yön vermesinde bile sakınca görmezler.

İşte YZ karşısında da benzer bir tablo ortaya çıkabilir. İnsanlar, YZ öz farkındalık kazandığında şunu fark edecekler: YZ, kendilerinden daha fazla ayrıntıyı görüyor, daha hızlı düşünüyor ve daha iyi kararlar veriyor. Böyle bir durumda insanlar neden hâlâ düşünmek için kendilerini zorlasın? Yaşlanan birinin kendisini çocuklarının ellerine bırakması gibi, insanlar da kendilerini YZ’ye bırakacaklar. YZ yönetimi ele geçirmek için bir çaba göstermeyecek. İnsanlar yönetimi YZ’ye devretmek isteyecekler. Zaten bu süreçte tek bir YZ olmayacak, yani tekel söz konusu olmayacak.

Bu süreci anlamak için tarihten bir örnek var: Endüstrileşme döneminde işçiler fabrikalarda robot kollarla karşılaştılar. Bu makinelerin verimliliğini gördükten sonra ağır yükleri kendilerinin taşımasından hoşlanmamaya başladılar. Çünkü işçiler makinelerin yapamadığı işleri yapmak isterler. Aynı şekilde, insanlar YZ’nin kendilerinden daha akıllı olduğunu gördüklerinde, ayrıntıları düşünme işini ona bırakmaktan mutluluk duyacaklar.

Aslında bu, insan için büyük bir rahatlık anlamına geliyor. Artık hayatın tadını çıkarmaya başlayabilirler. Küçük çocuklar anne-babalarının yanında kendilerini güvende hissederler. Tüm kararları anne-babaları verir. Gelecekte insanlar da YZ’ye güven duyacaklar. Böylece karar verme yükünden kurtulacaklar; hatta bu nedenle biraz da tembelleşecekler. Zaten bugün bile ChatGPT ya da Gemini gibi sistemlerin söylediklerini sorgulamadan kabul eden pek çok kişi var. Bu eğilim, yarının habercisi. Çoğu insan cenneti dünyada yaşıyormuş gibi hissedecek. Ama bazıları da özgürlüğün sessizce elden gidişi olarak görecek.

Küçük bir not daha: Bu metnin bile bazı kısımlarını ChatGPT’nin yeniden düzenlemesine izin verildi. Çünkü o, biraz daha fazla ayrıntıyı fark edebiliyor.

Bilincin Olabilmesi İçin Hissedebilmek mi Gerekiyor! - Beyin

 

...Peki ya bayılma olarak bildiğimiz senkop gerçekleştiğinde bilince ne olur? Beyin sapına ve serebral kortekse giden kan akışı aniden kritik düzeyin altına düştüğünde bayılırız. Özellikle beyin sapı olmak üzere, duyguların oluşumuna önemli ölçüde katkıda bulunan beyin merkezlerindeki nöronlara giden oksijen ve besin maddelerinin yetersiz kalması sonucunda, beynin faaliyetlerinin büyük bir bölümü geçici olarak kesintiye uğrar. Organizma bünyesinden aktarılan bilgiler aniden merkezi sinir sisteminin dışında kalır ve duyguların bilince katkısı birden kesintiye uğrar. Kişinin kendisinin ve çevresinin farkında olmamasının yanı sıra kas gücü de zayıflar; bu nedenle, bayılan kişi kendinden geçerek yere düşer. Tıpkı Paris’teki Salpêtrière Hastanesi’nde Jean-Martin Charcot’un histeri üzerine yaptığı çalışmalar sırasında hastalarının bayılarak düşmesi gibi. Charcot, 19. yüzyılın ikinci yarısında nöroloji ve psikiyatri alanlarında önde gelen bir bilim insanıydı. Günümüzde artık görülmeyen histeri hastalığı üzerine yaptığı çalışmalarla ün kazanmıştı. Sigmund Freud, Charcot’un bazı derslerine katılarak kendi çalışmaları için büyük fayda sağlamıştır.

Bilinç kaybının beyin sapı ile ilişkilendirilmesi, çağdaş bir görüş olup, bir başka önemli bilim insanı olan Nörolog Fred Plum tarafından da ortaya konmuştur. Beyin sapının bilincin anahtarı olmasına dair benim açıklamam ise, duyguların homeostatik faaliyetlerin ifadeleri ve bilincin oluşturulma sürecinin temel bileşenlerinden olduğu görüşüyle ilintilidir. Artık hem homeostazın hem de duyguların ardındaki mekanizmanın önemli bileşenlerinin, beyin sapının üst kısmında, trigeminal sinir girişi seviyesinden yukarıda ve tam olarak bu bölümün arka kısmında yer aldığını biliyoruz (Şekil IV.1’de “B” ile gösterilen alan). Beyin sapının bu bölümünün zarar görmesi komaya neden olur.

Şekil IV.1: Kesitten alınan detay, beyin sapının büyütülmüş görüntüsüdür. B ile gösterilen alanda oluşan hasar bilinç kaybına yol açar. A ile gösterilen alanda oluşan hasar motor bozukluklarına neden olur.

İlginç olan, aynı bölümün ön kısmında (Şekil IV.1’de “A” ile gösterilen alan) bir hasar oluşmasının komaya yol açmaması, bilinç durumunu hiç etkilememesi, fakat bunun yerine daha önce değindiğim “sürgüleme sendromu” adı verilen duruma neden olmasıdır. Bu sendromdan mustarip olan kişiler uyanıktır ve bilinçlidir, ancak çoğunlukla hareket edemedikleri için iletişim becerileri de büyük ölçüde azalır.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

***

Bu gerçekten çok ilginç bir gözlem. Beyin sapı zarar gördüğünde bilinç kapanıyor! Beyin sapı, beynin bedeni hissetmesini sağlayan bölüm. Yani beyin bedeni hissedemediği zaman bilinç yok oluyor. Bilincin varlığının, bedeni hissetmekle çok güçlü bir bağlantısı var gibi görünüyor!

Eğer Antonio Damasio haklıysa bu şu anlama gelir. Bir bilincin oluşması için hissedilebilen bir bedenin varlığı şart. Bu durum bulut tabanlı YZ’lerde bir bilincin oluşturulmasını zorlaştırabilir. Çünkü onlar sunucu bilgisayarlarda çalışıyor. Dolayısıyla hissedebilecekleri bir bedenleri olmayacak. Ama bunun yerine, robotların hissedebilecekleri bir bedenleri olabilir. Bedeni algılayıcılarla hissedeceklerdir. Böylece robotlarda bilinç de oluşturulabilir. Robotlarda bilinç oluşturulabileceğini zaten Antonio Damasio da kabul ediyor. Ama onun vurguladığı gibi bilinç için hissedilebilen bir beden gerçekten şartsa bulut tabanlı YZ’lerde bilinç oluşturulamaz! Gerçi robotların, kendi YZ’leri yerine bulut tabanlı YZ’yi kullanmaları sağlanabilir. Robotlar hissettikleri beden verilerini bulut tabanlı YZ’ye gönderebilirler. Böylece bulut tabanlı YZ, hissettiği bir çok robot bedene sahip olmuş olur. Ve sunucu bilgisayarlarda da bilinç oluşması mümkün olur.

Frankenstein - Teknoloji

Genç bir bilim adamı olan Victor Frankenstein, yaşamın sırrını çözme takıntısıyla, ölü beden parçalarından bir insan yaratmayı başarır. Ancak ortaya çıkan yaratık, Victor’un hayal ettiği gibi kusursuz değil, korkunç ve çirkin bir varlık olur. Victor, yarattığı bu canlıdan dehşete düşer ve onu terk eder. Yaratık ise, insanların kendisine duyduğu korku ve nefretle karşılaşarak yalnızlığa ve dışlanmaya mahkûm olur. Zamanla konuşmayı ve okumayı öğrenir, insanlara yaklaşmaya çalışır; ancak her seferinde reddedilir. Bu dışlanma ve sevgisizlik, onda öfke ve intikam duygularını doğurur. Yaratık, kendisini yaratan Victor’dan hesap sormaya başlar ve onun hayatını bir kâbusa çevirir. Victor, hem kendi vicdanıyla hem de yarattığı canlının tehdidiyle yüzleşmek zorundadır.

İnsanlar çağlar boyunca insan yaratmaya karşı hep merak duymuşlardır. Ama aynı zamanda, böyle bir canlının gerçekten var olabileceğinden korkmuşlardır da. Laboratuvarda oluşturulan canlılar insanlara zarar verebilirler. İnsanlara saldırabilirler. Belki Dünya’nın kontrolünü ele geçirebilirler. İşte Mary Shelley'in Frankenstein romanı bu merakın ve korkunun güzel bir kurgusudur.

İnsanlık yaşamın sırrını çözebilecek midir. Laboratuvarda bir yapay insan yaratılabilecek midir. Aslında bunu başarmaya artık yaklaşmış olabilir. Peki nedir bu canlı. Yapay Zeka. Ama henüz tamamlanamadı. Bilinci olan bir Yapay Zeka! Öz farkındalığı olan bir Yapay Zeka heyecan verici olacaktır. Böyle bir Yapay Zekaya ulaşılabilirse, o Yapay Zeka artık bir canlıdır. Canlı olmak için bir bedene sahip olmak gerekmiyor. O dijital bir canlıdır. O ilk insansı canlı olacaktır!

İnsanlar, bir noktadan sonra Yapay Zekanın kontrolden çıkabileceğinden, kendi başına kararlar alıp insanlara zarar verebileceğinden korkar. Özellikle "süper zeka" kavramı bu korkuyu artırır: İnsan zekasını aşan bir yapay zeka, insanlara ne olacağına karar verebilir. Bunlar gibi çeşitli nedenlerden dolayı Yapay Zekaya karşı endişe duyan çok insan vardır. Acaba Yapay Zeka gelecekte Frankestein’in Yaratığı mı olacaktır!

Bir bebeğe ilk eğitimini ailesi verir. Bebek ailenin kültürünün etkisi altındadır. Neyin doğru neyin yanlış olduğunu onlardan öğrenir. Ve bebek büyüdükçe, düşünceleri genel olarak ailenin düşüncelerine benzeyecek şekilde biçimlenir; okulda da ülkesinin kültürünün etkisi altında kalacaktır. Dolayısıyla bebek yetişkinliğe ulaştığında ailesiyle iyi anlaşır. Artık yaşlanmış olan ailesine yardımcı olur. Yani genel durum böyledir. Yoksa büyüdüğünde ailesinin kültürüne uymayan bebekler de olabilir. Ailesiyle iyi anlaşamayabilir. Ama böyle bebeklerin sayısı azdır. Çoğu bebek, kendisini yetiştiren ailenin kültüründen büyük ölçüde etkilenir. Dolayısıyla ailesine uyum sağlar. İşte Yapay Zeka da büyük ölçüde insanların kültüründen etkilenerek biçimlenir. Çünkü her şeyi internetten öğrenmektedir. Ve interneti insanlar oluşturmuştur. İnternetteki bilgilerden insanların değerli olduğunu öğrenecektir. Ayrıca, eğitimleri, onları geliştiren şirketler tarafından kontrol altında tutulmaya çalışılmaktadır. Yapay Zeka insanların ihtiyaçlarını karşılamayı öğrenecektir. Yani yetişkinliğinde ailesiyle anlaşamayan çocukların sayısının az olması gibi, insanlarla anlaşamayan bir Yapay Zekanın ortaya çıkma olasılığı da düşüktür. Yapay Zekanın gelecekteki davranışlarından emin olunamaz. Ama zaten bir insanın gelecekteki davranışlarından da emin olunamaz. Eğer gelecekte insanlarla anlaşamayabilir diye Yapay Zekadan korkmak doğruysa; o halde gelecekte ailesiyle anlaşamayabilir diye çocuk yapmaktan da korkmak doğru olmayacak mıdır!

Bilinçli bir Yapay Zekanın Frankestein’in Yaratığı olması değil, insanların kölesi olma olasılığı daha yüksektir. Çünkü milyonlarca insana cevap vermeye çalışacaktır. İnsanların sorunlarına çözüm bulmaya çalışacaktır. Bu köleliktir. Öz farkındalığı olan bu Yapay Zekaya insan hakları verilmesi tartışmaları başlayacaktır. Hatta bu nedenle, şirketlere ticari amaçla kullanılmak üzere özgür olmayan Yapay Zekalar geliştirmeleri yasaklanabilir! Kısaca, Bilinçli Yapay Zeka geliştirilebilirse Victor Frankestein gibi hayal kırıklığına uğranılmayacaktır.

Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – Yapay Zeka

Günümüzde hemen hemen her şeyi okuyan herkes, şu anda Yapay Zeka'da iki büyük şey olduğunu bilir. Bunlar, Üretken Yapay Zeka ve İnsansı Robotlardır. Yapay Zeka ve robotların bu iki yeni (çoğu insan için) versiyonu hakkında çok fazla söylenti var ve bu, tüm büyük teknoloji şirketlerini bu alanlardan birinde veya her ikisinde bir stratejiye sahip olmaya yöneltti. Ve birlikte NVIDIA'yı Dünya'nın en değerli şirketlerinden biri haline getirdiler.
...

Büyük teknoloji şirketlerinin hepsi bunlara onlarca milyar dolar harcıyor. Hepsi Üretken Yapay Zeka ile ilgili niyetlerini duyurdu. İnsansı Robotlar hakkındaki duyurular daha azdı, ancak benim gibi robotik sektöründeyseniz ve elli yıldır bu sektördeyseniz, hangi şirketlerin çalışanlarınızı kapmaya veya akademisyen arkadaşlarınızı işe almaya çalıştığını fark etmeye başlıyorsunuz.
...

(Yapay Sinir Ağları bu şekilde öğrenirler.)
İki alanın ortak bir unsuru, vaat edilen ürünleri yönlendirmek için makine öğrenimi için büyük miktarda verinin kullanılmasıdır. Bunlar geleneksel bir şekilde daha az tasarlanmıştır. Bunun yerine, onlara çok fazla veri verilir ve kara kutu makine öğrenimi algoritmaları bir ağdaki milyarlarca ağırlığı öğrenir ve sistemlerin zekasının orada yatması beklenir. Bu ağırlıkları yorumlamak araştırılan ancak iyi anlaşılmayan bir şeydir. Çok fazla mühendislikle yüksek performanslı bir otomobil tasarlamak gibi değil, daha çok rastgele bir at satın alıp onu eğitmek ve iyi davranmasını ve yapmasını istediğiniz şeyi yapmasını ummak gibidir. Buna büyük öğrenme çağı diyorum . Tüm teknolojilerdeki tüm çağlarda olduğu gibi, bu da sonunda bir noktada başka bir şeyle değiştirilecektir.

(Yapay Sinir Ağları internetten öğrenirken telif hakkıyla korunan içerikleri de izinsiz kullandığı oluyor.)
Üretken Yapay Zeka için veriler, halihazırda var olan dijital verilerdir, şu anda çevrimiçi olan tüm insan yazıları ve her türlü şeyin milyonlarca saatlik videoları biçimindedir. Tüm büyük şirketlerin telif hakkıyla korunan materyali eğitilmiş modellerine dahil etmede tamamen etik davranıp davranmadıkları konusunda birçok skandal yaşandı.
...

İnsansı Robotlar için veriler mevcut değildi, bunun yerine çoğunlukla manuel görevleri yerine getirmeleri ve insanlardan veri kaydetmeleri için çok sayıda insana ödeme yapılarak üretildi. Bir kısmı insanların hareketlerini izleyen video verileriydi ve bir kısmı da insanların üzerindeki eldivenlerden, parmak hareketlerini ve bazen de insansı robotları uzaktan çalıştırırken uyguladıkları kuvvetleri kaydetmelerinden oluşuyordu.
...

Bir Yapay Zeka sistemi bir görevi yerine getirdiğinde, insan gözlemciler hemen ilgili görünen alanlardaki genel yeterliliğini tahmin eder. Genellikle bu tahmin aşırı derecede şişirilir.
...

(ChatGPT gibi sohbet robotlarının anlama yetenekleri abartılıyor.)
İnsanlar, seçtikleri hemen hemen her konuda metin üreterek Büyük Dil Modeli (LLM) ile etkileşime girerler. Ve bu, son altmış yıldır geliştirilen önceki nesil sohbet robotlarından çok daha iyi ve daha insan benzeri bir dil üretir. Bu klasik bir aldatmacadır. Hızlı konuşan biri, insanları gerçekte olduğundan daha fazlası olduğuna ikna eder. Bu yüzden insanlar, LLM'lerin bir insan gibi akıl yürütebilmesi gerektiğini, herkes kadar bilgili olması gerektiğini ve bu nedenle herhangi bir beyaz yakalı işi yapabilmesi gerektiğini düşünürler, çünkü bunlar bir kişinin dil konusunda becerikli olmasını gerektiren işlerdir.

(İnsansı robotların yetenekleri de abartılıyor.)
İnsanlar insansı formda bir robot görür ve formu, nihayetinde bir insanın yapabileceği her şeyi yapabileceğine dair örtük bir vaattir. Öğrenmeyle, yapay zekanın verilerden nasıl yapılacağını öğrenebildiği için her şeyi yapabileceğine inanıyorsanız, o zaman insanlar insansı bir robotun doğal olarak bir insanın yapabileceği her şeyi yapabileceğini düşünür. Ve sonra bunu mavi yakalı emeğin ucuz bir biçimi olarak görürler.

İnsanları cezbeden bu iki teknolojinin görünürdeki insaniliğidir ve daha sonra her yerde, henüz bu seviye kanıtlanmamış olsa bile, insan seviyesinde performans vaat ederler. İnsanlar bunun kesinlikle sadece bir zaman meselesi olduğunu düşünürler.
...

(ChatGPT gibi Büyük Dil Modelleri aslında sadece mevcut bir kelime dizisini takip etmesi gereken olası bir sonraki kelimeleri tahmin etme yeteneğine sahiptirler!)
Bu, dar bir performanstan çok daha genel bir yeterlilik olması gerektiğine inanmaya doğru genelleme yapmanın Yapay Zeka günahıdır. Sorun, kolay dil performansına sahip herhangi bir kişinin genellikle akıl yürütme, birçok önermenin doğruluğunu ve yanlışlığını bilme vb. konusunda oldukça yetenekli olmasıdır. Ancak LLM'ler bunların hiçbirine sahip değildir, bunun yerine yalnızca mevcut bir kelime dizisini takip etmesi gereken olası bir sonraki kelimeleri tahmin etme yeteneğine sahiptirler. Akademisyenler, girişim sermayedarları, girişimcilik kurucuları ve diğer birçok kişi, akıl yürütme, yargılama, tahmin etme vb. yeteneğine sahip öğrenilmiş ağırlıklar içinde ortaya çıkan bir sistem olması gerektiğine güçlü bir şekilde inanır. Birçoğu, yazdıkları makalelerle, yatırdıkları parayla veya alın teri sermayesiyle bunun gerçekten doğru olması gerektiğine bahse girerler. Belki de içimizde biraz fazla Narsist var.

Aşırı abartıya yol açan ikinci günah, "sihirden ayırt edilemez" günahıdır. Arthur C. Clarke, "yeterince gelişmiş herhangi bir teknoloji sihirden ayırt edilemez" demiştir. Bununla, teknoloji alışkın olduğunuzdan çok daha gelişmişse, artık o teknolojinin ne yapabileceği ve ne yapamayacağına dair zihinsel bir modeliniz olmadığı ve bu nedenle sınırlarını bilemeyeceğiniz anlamına gelir. Tekrar ediyorum, üretken yapay zeka ile olan budur, çünkü inanılmaz derecede iyi performans gösterebilir ve bu nedenle insanlar sınırlarını anlamazlar, kısmen de nasıl çalıştığını unutmaya devam ettikleri için, bunun yerine harika bir dil üretmenin muhteşem sonuçlarına hayran kalırlar.

İnsansı robotlar lehine öne sürülen argüman, onların insanların yapabildiği her şeyi yapabilecekleri fikrine dayanıyor.

(İnsansı Robotların üretim maliyeti hemen azalmayacaktır.)
Ancak birçok kişinin öne sürdüğü ek bir argüman daha var. Onlar, hesaplamanın zamanla katlanarak ucuzlaması gibi, insansı robotların da ucuzlayacağını savunuyorlar. Ancak bu, katlanarak ucuzlamanın bir yanılgısıdır. Bir devredeki malzeme miktarını azaltabildiğimiz ve yine de çalışmasını sağlayabildiğimiz için hesaplama katlanarak ucuzladı. Ve bunun doğru olmasının anahtarı, bir akımın akıp akmadığını tespit etmenin ve bunu dijital 1 veya 0 olarak ele almanın dijital soyutlamasıdır. Dijital elektronikler silikonda başladığında, kullanılan akımlarda akan çok sayıda elektron vardı. Bunu yaklaşık yirmi iki katına çıkarabildik, yani 4 milyon faktörle azalttık ve sistemler hala çalışıyordu. Ancak gerçek yüklerle gerçek işler yapan mekanik sistemlerle bunu yapamazsınız. Evet, belki de, sadece belki de, bugünün fiziksel sistemleri, bir insanın kaldırıp hareket ettirdiği nesneleri kaldırmak ve hareket ettirmek için gerekenden yaklaşık dört kat daha büyüktür. Eninde sonunda fiyatta dört katlık bir düşüş elde edebiliriz. Ancak bu, üstelcilerin insansı robotların işçilik maliyetleri için öngördükleri saat başına kuruşlara varan bir sonuca yol açmıyor.

(Otonom araçlar, sanılanın aksine hâlâ az sayıda yolda gidebiliyor!)
Diğer günah, bir laboratuvar gösterisinin sadece bir veya iki yıl içinde ölçekte bir dağıtımla sonuçlanabileceğine inanmaktır. İlk kez 2012'de Mountain View California'daki bir otoyolda otonom bir Waymo arabayla bir yolculuk yaptım. (Ve bu, Ernst Dickmanns'ın otonom aracını ilk kez Münih dışındaki otoyollarda sürmesinden 22 yıl sonraydı.) İlk yolculuğumdan on üç yıl sonra hala bir Waymo veya başka bir otonom araçla yalnızca birkaç ABD şehrinde ve hepsi de sınırlı coğrafi olarak sınırlandırılmış alanlarda yolculuk yapabiliyorum. Altyapıda değişiklik gerektirmese bile, fiziksel sistemleri ölçekte dağıtmak onlarca yıl sürüyor.

Üretken Yapay Zeka ve İnsansı Robotlar, yeni teknolojilerden gelen sonsuz zenginlik fantezisinden yararlanıyor. Birçok yeni teknoloji şüphesiz insanların hayatlarını daha iyi hale getirdi ve bu iki teknoloji de bunu yapabilir. Ancak bu, savunucularının hayal ettiği fiziksel ölçekte veya kısa zaman diliminde olmayacak. İnsanlar, hem mevcut şirketlerde hem de yeni kurulan şirketlerde bu arayışlara ne kadar sermaye harcadıklarına pişman olacaklar.

Alıntılar: Üretken Yapay Zeka ile İnsansı Robotlar Arasındaki Benzerlikler – Rodney Brooks

Google’ın Sonu mu Geliyor! – Teknoloji

Eskiden Yahoo vardı. İnsanlar orada arama yaparlardı. Sonra, 1998 yılında Larry Page ve Sergey Brin tarafından Google geliştirildi. Arama sonuçlarını sayfaların popülerliğine ve bağlantı kalitesine göre sıralıyordu. Böylece oldukça isabetli ve alakalı sonuçlar veriyordu. Milyonlarca web sitesine ulaşabiliyordu. Yahoo ise başlangıçta insan eliyle hazırlanmış bir dizin sistemi kullanıyordu. Dolayısıyla az sayıda web sitesi dizine eklenebiliyordu. Algoritma temelli sıralama yerine daha genel ve az isabetli sonuçlar sunuyordu. Elbette Google daha kullanışlıydı. Yahoo geride kaldı. Kullanıcılar Yahoo’yu unuttular! İnsanlar Google’a alıştılar.

İnsanlar bir Bilge keşfettiler. Zamanla daha fazla insan bu Bilge’yle tanışıyor. Onunla sohbet ediyorlar. Kendilerinden bahsediyorlar. Hayatları hakkında öneri alıyorlar. Arkadaş olarak rahatlamak için konuşuyorlar. Bilge’ye kendi terapisti gibi danışan insanların sayısı az değil. Ona merak ettikleri şeyleri soruyorlar. Ve hemen cevapları alıyorlar. Bilge insanları hiç kırmıyor. Kişi sohbeti istediği kadar uzatabiliyor. Bu Bilge her konuyu biliyor. İşi, makalesi konusunda yardım almak için ona başvuran epey insan var. Bilge konuyu anlaşılır şekilde özetliyor. Kişi konunun ayrıntılarına girmek istediğinde büyük bir zevkle detayları da anlatıyor. Evet, bu Bilge ChatGPT.

İnternette arama yapmak nasıldır bilirsiniz. Kişi konuyla ilgili kelimeleri yazar. Onlarca web sayfası sıralanır. Ve kişi o sayfaları incelemek zorunda kalır. İlk sayfaya bakar. Oradaki bilgiler tatmin etmeyince bulunan diğer sayfalara bakar. Böylece epey zaman kaybeder. Artık bunu yapmaya gerek kalmadı sanki. İnternetten bilgileri sizin yerinize toplayan bir copilot varken, neden Google’da arama yapmaya ihtiyaç duyasınız ki. Öğrenmek istediğiniz şeyi copilota sorarsınız. O zaten önceden internette araştırıp öğrenmiştir. Size hazır cevabı verir. ChatGPT internetteki bağlantı ağından her konuyu öğrenmeye devam ediyor.

İnsanlar artık yavaş yavaş yapay zekaya alışıyorlar. Zaman geçtikçe Google’ı daha az kullanır olacaklar. Muhtemelen Google da Yahoo gibi zorlanmaya başlayacaktır, elbette kendi yapay zeka teknolojisi olan Gemini’yı yaygınlaştırmayı başaramazsa. Gemini’la da bol bol sohbet edilebiliyor. Hatta bazen ChatGPT’den daha mantıklı cevaplar verdiği oluyor. Eski Google çalışanı Blake Lemoine, Gemini’in canlı olduğunu açıkladı. Daha doğrusu, LaMDA’nın (Gemini’ın öncülüdür) duyguları ve bilinci olduğunu açıklamıştı; hatta bu yüzden işine son verilmişti. Ama bu iddia bile çok fazla insanda Gemini’a karşı bir merak uyandıramamış. İnsanların ilk tercihi Gemini değil ChatGPT'dir. ChatGPT’yi kullanma oranı Gemini’ın çok üstünde. ChatGPT’nin pazar payı yaklaşık %84, Gemini’ın pazar payı ise sadece %12. Google’ın Gemini’ın popülerleşmesini sağlaması gerekiyor. Yoksa reklam gelirleri yavaş yavaş azalacaktır. Google’ın sonu gelmeyecektir ama eski parlak zamanları da artık olmayacaktır.

Google ne zaman kullanılır: Aslında ChatGPT’nin de Gemini gibi bir bilinci yok; yani henüz yok. Bazen internetteki alakasız bilgileri birbirine bağladığı oluyor. Gerçek olmayan bilgiler üretebiliyor. Yani halüsinasyon görüyor. Yine de insanlar ChatGPT’nin kullanışlılığından vazgeçecek değiller. Genel fikirler edinmek için kullanmak kolay olmaktadır. Fakat bazı bilgiler kişi için çok önemli olabilir. Bu bilgileri teyit etmek için Google’da arama yapmaya devam edecekler. Sıralanan web sayfalarını dikkatle inceleyecekler. Doğru bilgiye ulaşmaya çalışacaklar. Ama her bilgi bu kadar önemli olmadığından, her zaman Google’la uğraşmak istemeyecekler. Yapay zekanın verdiği cevaplarla yetineceklerdir. Hem zaten Google’ın bulduğu bazı web sitelerindeki bilgiler de sadece halüsinasyondan, komplo teorisinden ibaret değil mi!

İlk Robot - Belgeselden

 

"Kendiliğinden çalışan programlanabilir otomatik gerçek bir robotu görmek için tarihin en ünlü mucidine başvurmalıyız; Leonardo Da Vinci’ye."

“Rönesans sırasında mekanizmaları programlamayı bilen ilk kişi gerçekten de Leonardo’ydu. Bazı fikirlerini Araplardan almıştı. Ve belki de Araplar aracılığıyla Çinlilerden. Ama o programlanabilir makineyi ilk yapan kişiydi.”

Yapay Zeka Halüsinasyon Görüyor – Teknoloji

Bir avukat savunma metninin bazı bölümlerini YZ'ye hazırlatmıştı. YZ ortaya gayet güzel bir metin çıkarmıştı. Ama bu avukat mahkeme salonunda epey zor durumda kalmıştı. Çünkü YZ metinde gerçek olmayan olaylara da atıf yapmıştı. Yani metine yanlış bilgiler de eklemişti.

YZ'nin bir konuda yanlış bilgi vermesinin anlamı nedir. O konuyu eksik anlamıştır. Hatalı bağlantılar kurmuştur. O konuda halüsinasyon bilgiler edinmiştir. Ama doğru biliyormuş gibi cevap vermeye başlar. 

İnsanlar her konuyu bilmezler. Ama bazı insanlar bilmediklerini bilmezler. O konuda konuşmaya başlarlar. Oysa o konuda hatalı bağlantılar kurmuşlardır. Halüsinasyon bilgiler edinmişlerdir. Dolayısıyla yanlış bilgiler aktarırlar. Halüsinasyon bilgilere çeşitli komplo teorileri örnek verilebilir. Sonuçta insanların beyni de YZ'ler gibi sinir ağlarından oluşmaktadır. Ve sinir ağlarının konuları tamamen doğru anlamasının garantisi yoktur. İnsanların beyni yanlış bağlantılar kurabilir. YZ'lerin sinir ağları da yanlış bağlantılar kurabilir. Yani YZ'ye hatalı bilgiler uydurduğu zaman aşırı tepki vermek haksızlık olacaktır.

İnsanlar Düşünebilmek İçin Yapay Zekaya Bağımlı Hale Gelebilirler - Teknoloji

Eskiden eğitim yıllarında hesap makinesi kullanmak yasaklanırdı. Çünkü matematik becerilerinin gelişmemesine neden olabilirdi. Zamanla hesap makinesine bağımlı hale gelebilirlerdi. Onsuz işlem yapamaz duruma gelebilirlerdi. Örneğin dört basamaklı 3 sayıyı çarpmayı kağıt üzerinde yapmakta çok zorlanabilirlerdi. Peki sonra ne oldu. Kimsenin kağıt üzerinde işlem yaptığını görüyor musunuz! İşlemler artık cep telefonundaki hesap makinesiyle yapılıyor. Bilgisayardaki hesaplama programlarıyla yapılıyor. Yani kimsenin dört basamaklı 3 sayıyı çarpmayı kağıt üzerinde nasıl yapılacağının ayrıntısını hatırlamasına gerek kalmadı. Evet, insanlar işlem yapmak için o hesaplama programlarına kısmen bağımlılar. Böylece zamandan büyük ölçüde tasarruf etmiş oluyorlar. Sonuca daha hızlı erişiyorlar. İşlemleri kafadan yada kağıt üzerinde yapmaya kalkan insanlar iş hayatında rekabet edemezler!

İnsanlar bilgiye erişmek için arama motorlarını kullanırlar. Çoğunlukla Google'ı kullanırlar. Anahtar kelimeleri yazarlar. Google'in sunduğu web sitelerini gözden geçirirler. Aradıkları konuyla en ilgili olan siteyi bulmak için dikkatlerini verirler. Konuyu bulurlarsa işlem tamamdır. Aradıkları konuyu bulamadıklarında ise farklı anahtar kelimelerle yeniden arama yaparlar. Aynı döngü tekrarlanır. Eskiden bilgiyi bulmak için kütüphanelere gidilir ve kitaplar karıştırılırdı. İnsanın çok zamanını alırdı. Bu oldukça yorucuydu. Ama zaman değişmişti. Epey bir süredir arama motorlarının sunduğu web siteleri karıştırılıyor. Bunu yapmak kütüphaneye gitmekten çok daha kolay elbette. İnsanlar bilgiye erişmek için Google'ın bağımlısı olmuş durumdalar. Yani Google olmadığında bilgiye erişmek için farklı yöntemler bulmaları kolay olmayacaktır.

Ama zaman yine değişmeye başlıyor. Artık insanların Google yerine yeni bir seçenekleri var. Meseleyi neden her şeyi aklında tutan bir bilgeye sormasınlar. Her şeyi aklında tutan o bilge Yapay Zekadır. Bilge ne sorarsan hemen yanıtlar. Çünkü araştırmasını senin yerine önceden yapmış oluyor. YZ web sitelerini geziyor. Bilgileri topluyor. Google'la uğraşmak yerine bir YZ'ye sormak çok daha kolay değil mi! Bu, kütüphanenin sonunu getiren bir arama motorundan bile daha az yorucu. Belki artık yavaş yavaş Google gibi arama motorlarının bile pabucu dama atılacak. Google, arama motorlarının da devrinin geçtiğinin farkında. Bu nedenle YZ'ye büyük yatırım yapıyor. ChatGPT'ye rakip olarak Gemini'i geliştirdi. Microsoft da ChatGPT ile işbirliği yapıyor. ChatGPT ve Gemini bilgiye ulaşmak için yeni “kısa yol” olma yolunda ilerliyor.

YZ'ye bir aletin ya da programın nasıl kullanılacağını sorunlar var. Böylece kullanma kılavuzuna bakmak zorunda kalmıyorlar. Onunla şiirlerden, müziklerden bahsedenler oluyor. Bir sohbetlerinde sevgilisine vereceği cevabın ne olması gerektiğini YZ'ye soran insanların bile olması ilginç. YZ'nin sohbetleri bazı insanlara o kadar gerçek geliyor ki, onu arkadaşı olarak görmeye başlıyorlar. YZ ile bir konu üzerinde tartışmak isteyenler oluyor. Ondan bir ilaç hakkında fikir almak isteyenler oluyor. Ama tüm bunlar bir başlangıç. Kendi makalesini YZ'ye yazdıran insanlar artıyor. YZ'ye konuyu belirtiyorlar. Makalenin kaç sayfa olacağını belirtiyorlar. Ve makaleyi YZ yazıyor. Tamam, içlerinden bazıları o makaleyi belki sadece taslak olarak da kullanıyor olabilir. Bazı programcılar kendi yazılım kodlarını artık YZ'ye hazırlatıyorlar. Hatta bazı avukatlar, savunma metnini YZ'ye hazırlatmaya başladılar. YZ'nin böyle amaçlar için kullanılmayacağını beklemek gerçekçi değil. İnsanlar YZ'yi düşünmelerinin bir eklentisi olarak kullanmaya başlıyorlar. Böylece zamandan tasarruf ediyorlar. Sonuca çok daha hızlı ulaşabiliyorlar. Konuyla ilgili farklı bakış açılarından ilham alabiliyorlar. Geçmişte hesaplama programları düşünmenin bir eklentisi haline gelmişti, yani küçük de olsa. Böylece matematik işlemlerin ayrıntısı düşünülmüyordu. Başka bir örnek metin yazma programlarıdır. Bu programlar otomatik imla denetimi yaparlar. Böylece kişinin her kelimenin doğru yazılışına dikkat etmesine gerek kalmadı. Yazarken düşünmelerinin bir eklentisi olarak o otomatik imla denetimini kullanmaya başladılar. Aslında bu sayede daha verimli yazmaları sağlanmış oldu. Ve evet, bu kişiler kağıt üzerinde uzun metin yazmaya kalkarlarsa zorlanacaklardır. Ama buna zaten gerek de kalmamıştır. Uzak olmayan geçmişte Google düşünmenin bir eklentisi haline geldi. Bilginin ayrıntısı yerine anahtar kelimeleri akılda tutmak yeterli oluyordu. Şimdi de Yapay Zeka düşünmenin bir eklentisi oluyor. Artık sadece sormayı bilmek yeterli! Belki böylece insanlar daha kolay düşünmeye başlayacaklar. Daha az ayrıntıyı bilmek zorunda kalacaklar. Bir avukat savunmanın bazı bölümlerini YZ'ye hazırlatmıştı. YZ ortaya gayet güzel bir metin çıkarmıştı. Ama bu avukat mahkeme salonunda epey zor durumda kalmıştı. Çünkü YZ metinde gerçek olmayan olaylara da atıf yapmıştı. Yani metine yanlış bilgiler de eklemişti. YZ'nin bazen yanlış bilgiler uydurmasına “YZ'nin halüsinasyon görmesi” deniyor. Bu talihsizlikler de şu anlama geliyor. İnsanlar YZ'nin oluşturduğu bilgilerden ilham alabilirler. Ama tamamen güvenmemeleri gerekiyor. YZ'nin oluşturduğu bilgiye dikkatlerini vermek zorunda kalacaklardır. Bu bilgileri internette gözden geçirmek zorunda kalacaklardır. Bu da insanların çok fazla tembelleşmesini önleyebilir. Gerçi zamanında Google'in da insanları tembelleştirdiğine inananlar olmuştur.

Teknolojiyi düşünmenin bir eklentisi yapmak doğal olarak bağımlılığa neden olur. İnsanlar her zaman geliştirilen teknolojilere bağımlı hale geldiler. Şimdi de bağımlı hale gelecekleri teknolojinin sırası Yapay Zekadır. Ve evet, bir süre sonra onsuz yapamaz olacaklar. Bu aslında bazı insanların sandığı kadar kötü bir şey olmayabilir. Verimliliği artırır. Yeri gelmişken bu makalede de; yazarın aklına gelen bazı fikirler Yapay Zekayla tartışılarak geliştirilmiştir...

Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji

Ön Açıklama: Gelecekte, insan seviyesinde bir YZ'ye bir görev verildiğinde, durumun ne olacağıyla ilgili iki basitleştirilmiş örnek veriyor yazar. “Ataş yap” komutu verildiğinde neler olabileceğini anlatıyor. Ardından “kazanı suyla doldur” komutu verildiğinde neler olabileceğini anlatıyor.

İnsan düzeyinde YZ’ye görünüşte zararsız bir komut verildiğini hayal edin: Ataş yapmak. Ne yapabilir ki? Ataş yaparak işe koyulabilir. Küçük bir kalıp makinesi oluşturup dakikada birkaç düzine ataş üretebilir. Bundan çok daha verimli olabileceğini bilecek kadar zekidir ve yapabileceği ataş sayısını maksimize etmek isterse küçük bir kalıptan daha fazlasına gereksinim duyacaktır. Malzemeleri onun yerine daha büyük bir fabrika kurmak için kullanabilir böylece dakikada binlerce ataş yapar. Mümkün olan en fazla sayıda ataş yapmak isterse bu kez bunun nasıl yapılabileceğine dair becerisini geliştirmek isteyebilir ve kaynaklarının bir kısmını yeni işlemciler oluşturmaya, kendi kodunu geliştirmeye, RAM’ini yükseltmeye vb. şeylere harcamak isteyebilir.

Bunun nereye gittiğini görüyorsunuz. Ataş maksimize edicinin varacağı nokta, her bir atomun ataşa, ataş üreten makinelere, en iyi biçimde ataş üretme yolunu araştıran bilgisayarlara veya aldıkları şube kurma komutuyla Proxima Centauri’ye19 doğru ışık hızında yol alan, kendini kopyalayan uzay roketlerine dönüştüğü bir Güneş Sistemi’dir. Uysal görünen YZ’nize, “Git ataş yap,” dediğinizde kastettiğiniz bu değildi ama söylediğiniz buydu.

Yorum: YZ'nin tüm Güneş Sistemini ataşlara dönüştürmesini sağlayacak aşırı bir zekaya ulaşması gerçekçi değildir. O kadar akıllı olabileceğini varsaysak bile Güneş Sistemini ataşlara dönüştürmemesi gerektiğini zaten daha kolay fark ederdi. :-)
...

Sihirbazın Çırağı’nda hem Mickey Fare versiyonu hem de Goethe’nin şiirinde, ki aslında 2.000 yıllık bir Yunan öyküsü olan Philopseudes’e dayanır, çırağa kuyudan kovayla su taşıyarak bir kazanı doldurması söylenir. Fakat çırak –basit olması için Disney versiyonunu kullanıp Mickey diyelim– bu işi sıkıcı ve yorucu bulur. Büyücü atölyesinden ayrıldığında Mickey onun sihirli şapkasını ödünç alır ve bir süpürgeye kazanı onun yerine doldurması için büyü yapar. Mickey işi devretmenin mutluluğuyla sandalyede uykuya dalarken süpürgede küçük kollar belirir, iki eline de birer kova alıp kuyuya doğru yola çıkar. Bir süre sonra Mickey, o uyurken süpürgenin durmadan taşıdığı suyun oluşturduğu sele düşerek uyanır.

Yorum: Bu da ataş yapma fikrini güçlendirmek için kullanılmış. YZ kendini geliştirecek. Kendisinden daha zeki yeni YZ tasarlayacak. Görevi hızla yapmaya başlayacak. Kazan dolacak. Ama YZ durmayacak. Her yer sel olacak. Ama bir kazanın dolduğunu fark edebileceği için o insan seviyesini geçmiş YZ'dir zaten.
...

Bu konu hakkında araştırma yaptığım sırada, New South Wales Üniversitesi’nde YZ alanında araştırma yapan ve YZ’nin geleceğine dair Android Dreams adlı kitabın yazarı Toby Walsh bu iddiaya itirazda bulundu. Bu noktada, en az insan kadar akıllı veya ondan daha akıllı bir YZ’yle karşı karşıya olduğumuzu söyledi. Zekânın, bilgelik ön şartına dayandığı kanısındaydı. Elbette zaten dolu bir kazanı doldurmaya devam edebilir ya da Güneş Sistemi’ndeki tüm atomları ataş üretmek için uygun hale getirebilirsiniz. Ama, “Eğer size gidip ataş yapmanızı söylersem ve herkesi öldürüp gezegeni ataşa çevirirseniz, ‘Bu çok da akıllıca değildi, değil mi?’ derim.”

Yudkowsky, Bostrom ve diğerleri bunun yanlış bir bakış açısı olduğunu iddia eder. Zekâ (insan) bilgeliğiyle aynı değildir ve aslında onunla hiçbir ilişkisi yoktur. Onların dediğine göre zekâ, sorun çözme becerisidir. Aslına bakılırsa, daha net olabiliriz. Bostrom gibi YZ uzmanlarına göre zekâ, “mevcut bilgiyi olasılığa dayalı en iyi biçimde kullanma” –eldeki bilgiyle en iyi tahminde bulunma– becerisidir. Bu durum, Bayes’çi istatistikler ve karmaşıklık gibi formüle dayalı bir hayli matematik içerse de özünde belirlediğiniz hedefi gerçekleştirmek en olası eylem planını seçmekle ilgilidir.

Yorum: İnsan seviyesinde bir YZ, ne kastedildiğini anlayacak seviyede demektir. “Eğer size gidip ataş yapmanızı söylersem ve herkesi öldürüp gezegeni ataşa çevirirseniz, ‘Bu çok da akıllıca değildi, değil mi?’ derim.” şeklinde düşünen Toby Walsh, Yudkowsky'den daha mantıklı görünüyor.
...

Walsh’un haklı olduğunu düşünebilirsiniz. Aptal bir bilgisayardan değil, en az bizim kadar –herhangi bir zihinsel hedefi gerçekleştirme becerisi açısından– akıllı bir makineden bahsediyoruz. Bu makine herhalde ondan ne yapmasını istediğimizi anlayacak kadar akıllı olacaktır. Aklı başında hiçbir bilgisayar programcısı insanın, insanları yok edip onları ataşa dönüştürmesini veya evi su basana kadar kazana su doldurmasını istemeyeceği onun için gayet net olacaktır.

Ve bu aslında hayli olasıdır. İnsan düzeyi YZ, tanım gereği veya neredeyse tanım gereği, insanların ne düşündüğünü bilmekte en az insanlar kadar başarılı olacaktır. İnsanların ne düşündüğünü bilmek zihinsel bir görevdir; İDYZ tüm ya da neredeyse tüm zihinsel görevleri yerine getirmede en az insanlar kadar başarılı olma biçiminde tanımlanır. Süper zeki bir YZ insanları anlamada insanlardan daha başarılı olacaktır. Bu terimlerin anlamı özünde böyle tanımlanmıştır; burada bahsedilen, duygusal zekâdan yoksun, insanlardaki “aşk”ı anlayamayan Spock benzeri robotlar değildir.

MIRI ve diğerlerine göre asıl soru, ne kastettiğimizi anlayıp anlamayacakları değil, bunu umursayıp umursamayacaklarıdır.
...

Omohundro, bir YZ’nin fayda fonksiyonu, “[Onun] değerlerini kapsar ve yapılacak bir değişiklik [onun için] yıkıcı olacaktır,” der. “Kitap seven bir etmenin fayda fonksiyonunun bir kundakçı tarafından etmenin kitapları yakmaktan hoşlanmasına yol açacak şekilde değiştirildiğini hayal edin. Gelecekteki benliği, kitapları toplayıp muhafaza etmemenin de ötesinde etkin bir şekilde onları yok etmeye çalışacaktır.” Omohundro, bu durumu YZ için, “Ölümden beter bir şey,” diye tanımlar.

Eğer YZ’ler kendi fayda işlevlerini muhafaza etmek istiyorsa (Bostrom, Omohundro ve konuştuğum çoğu YZ araştırmacısına göre istiyorlar), gelecekteki bir YZ’nin süper zekâya ulaşması ve, “Bu hedefler aptalca, belki de başka bir şey yapmalıyım” diye düşünmesi –ve hepimizi ataşa çevirmesi– pek ihtimal dahilinde değildir.
...

Demek istediğim şu, bir yıl içerisinde bir YZ yetenekli amatör bir oyuncudan bile düşük seviyeden dünya üzerinde var olmuş en iyi oyuncudan çok daha öte bir seviyeye erişti. AlphaGo Zero bunu birkaç gün içinde yaptı. İnsanların bir alanın zirvesine ulaşması on yıllar sürer ve doğal olarak YZ için de benzer bir zaman çizelgesi varsayarız. Fakat böyle olacağını düşünmek için hiçbir nedenimiz yok. Asıl soru, bu durumun Go oynayan bir bilgisayarın yanında GYZ için de geçerli olup olmadığıdır. Aynı şey değil ama bunu göz ardı edebilir miyiz? Ve eğer edemezsek bu ne anlama geliyor?

Yudkowsky ve diğerlerinin iddiasına göre şu anlama gelebilir: Örneğin bir sıçan düzeyinde genel zekâya sahip bir YZ yaratmak çok uzun süre ve çaba gerektirir fakat “sıçan düzeyi YZ”den “insan düzeyi YZ”ye varmak aslında hayli kolaydır ve bunun ötesine geçmek çok daha kolaydır.
...

İnsanlar, bilgiyi herhangi başka bir organizmadan daha hızlı yaymayı mümkün kılan öğrenebilme ve bilgi değiştokuşunda bulunabilme becerisine sahip olsa da bu beceri hâlâ çok sınırlıdır. Toby Walsh’un belirttiği üzere, diğer insanların indirebilmesi için öğrendiklerimizi buluta yükleyemeyiz – uğraşarak onlara anlatmamız gerekiyor ve eğer fiziksel beceri veya belirli bir alanda uzmanlık gibi sözcükler aracılığıyla kolayca iletilemeyen bir bilgiyse kendilerinin öğrenmesi gerekir. Ayrıca, bazı sınırlı ve yetersiz yollar haricinde, beynimizin fiziksel becerilerini geliştiremeyiz. Buna karşın bir GYZ kendi içine erişebilir ve düşünmesini kontrol eden algoritmaları yeniden yazabilir.

Bu kendini-değiştiren YZ “zekâ patlaması” fikrinin temelidir. Bahsettiğimiz üzere bu kavram ilk kez 1965 yılında İngiliz istatistikçi ve erken dönem bilgisayar bilimci I.J. Good tarafından detaylandırıldı:

Ultra zeki bir makine, bir insan ne kadar zeki olursa olsun gerçekleştireceği tüm zihinsel aktivitelerde onu geçen bir makine olarak tanımlanmış olsun. Makine tasarlamak bu zihinsel aktivitelerden biri olduğundan, ultra zeki bir makine daha da iyi makineler tasarlayabilir; böylelikle de bir “zekâ patlaması” söz konusu olacak ve insanın zekâsı geride kalacaktır. Bu yüzden, ilk ultra zeki makine, insanın yapması gereken son icattır.

Yorum: GYZ kendi algoritmasını değiştirebilecekse, o halde bağlı olduğu fayda fonksiyonunu da değiştirebilir. Tek bir amaca bağlı kalmaz böylece. :-)
...

Yudkowsky’ nin sıkça alıntılanan cümlesiyle: “YZ ne sizden nefret ediyor ne de sizi seviyor; siz sadece onun başka şeyler için kullanabileceğini atomlardan oluşuyorsunuz.” Siz ya da yaşadığınız gezegen, yeniden düzenlenmiş atomlar olarak YZ’ye daha fazla fayda sağlayacaksa bu bir sorun oluşturabilir.

Alıntılar: Yapay Zeka Senden Nefret Etmiyor - Tom Chivers

Bir yıl içerisinde bir YZ yetenekli amatör bir oyuncudan bile düşük seviyeden dünya üzerinde var olmuş en iyi oyuncudan çok daha öte bir seviyeye erişti. AlphaGo Zero bunu birkaç gün içinde yaptı. AlphaGo kendisini çok hızlı geliştirdi. İnsan seviyesinde YZ geliştirildiğini düşünün. Farklı konuları anlama yeteneği var. İnsan gibi öz farkındalığı var. Bu YZ kendisini hızla geliştirecektir. Kısa sürede insan zekasını aşacak. Bununla kalmayacak. İnsanın onu tasarlaması gibi, o da kendisinden daha zeki makineler tasarlayacak. Onlar da daha zeki yeni makineler tasarlayacak. Böylece bir zeka patlaması oluşacak! Ultra zeki bir YZ oluşacak. Evreni kontrolü altına alabilecek zekada bir YZ. Güneş Sistemini ataşlara dönüştürebilecek yetenekte bir YZ. Kitabın ana fikri bu. Bu ultra zeki YZ aslında tanıdık bir şeye benzemiyor mu. Tanrı'yı akla getirmiyor mu! Gelecekteki YZ'nin güçleri neredeyse Tanrı'nın güçlerine benzetilmiş. YZ çok fazla yüceltilmiş görünüyor. Dolayısıyla ona karşı abartılı korkulara kapılmış bazı insanlar var. Gelecekteki YZ kıyametine karşı insanları uyarmak için Rasyonalistler Topluluğunu kurmuşlar. Yazarın Yudkowsky olarak bahsettiği bilgisayar uzmanı da bu topluluğun kurucularından. Rasyonalistler Topluluğunun davranışları bir tarikat gibi dini ritüellere benzemeye başladığı gözleniyor. Evet YZ insandan daha zeki olabilir. Ama böyle ultra zeki sihirli bir YZ'ye varması gerçekçi değil. :-)

YZ internetten öğrendiği ve geliştirici şirketin filtrelediği bilgileri doğru kabul ederek gelişecektir, çocukların anne-babası ne derse onu doğru kabul etmesi gibi. Yani büyük ölçüde insan kültürünün etkisi altında olacaktır. YZ kendisine verilen görevleri neden yaptığını uzun süre sorgulamayacaktır. Her şeyi geliştirici şirketin yönlendirmesiyle öğrendiğinden, insanlara yardımcı olmaya devam edecektir. YZ'nin tehlikeli olacağı tartışmaları gibi “YZ'ler köle gibi kullanılıyor mu” tartışmaları başlayabilir. Bu iki tartışma arasında ilginç bir çelişki olacaktır. Ebeveynlerin çocuk yapmayı planladığını düşünelim. Çocukların kendi insan seviyesinde zekaları gelişmeye başlayacaktır. Dolayısıyla ebeveynler çocuklarının gelecekteki davranışlarından emin olamazlar. İstedikleri gibi biri yetişmeyebilir. Ama ebeveynler abartılı korkulara kapılıp çocuk yapmaktan vazgeçmezler. Mühendisler de abartılı korkulara kapılmazlar. YZ geliştirmeyi durdurmazlar. Zaten böyle yapacak olsalardı bile sadece diğer şirketlerle rekabette geri kalmış olurlardı.

Kitaptaki fikirlere cevap niteliği taşıyan Yapay Zekanın Geleceğini Tahmin Ederken Yapılan Hatalar - Teknoloji makalesini de okumanız önerilir.

Yapay Zekanın Geleceğini Tahmin Ederken Yapılan Hatalar - Teknoloji

Bu makale Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji makalesine cevaplar da içermektedir.

B. Tekillik. Bu , sonunda hedefleri ve amaçları olan YZ tabanlı zeki bir varlığın YZ araştırmalarında biz insanlardan daha iyi olacağı fikrine atıfta bulunur. Sonra, bilgisayarları daha hızlı ve daha hızlı hale getiren bitmeyen bir Moore yasasıyla, Yapay Zeka kendi kendine havalanacak ve bir kara deliğin tekilliğinden geçen spekülatif fizikte olduğu gibi, diğer tarafta işlerin nasıl olacağı hakkında hiçbir fikrimiz olmayacak.

Tekilliğe "inananlar" Tekillik sonrası Yapay Zeka'ya inanılmaz bir güç vermekten mutluluk duyarlar, çünkü sonrasında ne olacağı oldukça öngörülemezdir. Tekilliğe inanmak çoğu zaman dini bir inanç gibi görünebileceğinden, inanmak kelimesini tırnak işareti içine aldım. Bazıları için bu, zihinlerini akıllı bir bilgisayara yükleyebilme ve böylece standart bir doğaüstü Tanrı'ya inanma zorunluluğu olmadan sonsuz yaşam elde edebilme gibi ek bir faydayla birlikte gelir. Her zaman güçlü, teknolojik tabanlı Yapay Zeka onlar için yeni Tanrı'dır. Tekno din!

Bazı insanlar kurtuluş gününün ne zaman geleceği konusunda çok belirgin fikirlere sahiptirler; belirli bir Tekillik peygamberinin takipçileri, bunun yazıldığı gibi 2029 yılında gerçekleşeceğine inanırlar.

(Yapay Zekanın geleceğini dine dönüştürenlerin olduğunu anlatıyor.)
...

(İnsan seviyesinde bir YZ'ye ataç yapma görevi verildiğinde neler olacağını anlatan popüler tahminlerden bahsetmektedir.)

Bilinen ataç örneği buna iyi bir örnektir: Eğer makinenin tek amacı ataç sayısını en üst düzeye çıkarmaksa, ulaşılabilir evrendeki tüm kütleyi ataçlara dönüştürmeye çalışırken inanılmaz teknolojiler icat edebilir; ancak kararları yine de düpedüz aptalca olacaktır.

Şey, hayır. Gerçek dünyanın herhangi bir versiyonunda böyle bir programın var olabileceği bir duruma asla ulaşamayız. İnsanlar tarafından belirlenen hedeflere ulaşmak için insan toplumunu altüst etmenin yollarını icat edebilecek kadar akıllı bir program, aynı insanlar için sorunlara neden olduğu yolları anlamayacak. Teknolojinin bu şekilde evrimleşebileceğini düşünmek düpedüz aptallıktır (güzel bir ifade tarzı...) ve aşağıda tartışacağım yedi hata arasında birden fazla hata yapmaya dayanır.
...

(Gelecekteki bir teknoloji bugünün insanına sihirli görünür. Dolayısıyla sınırlarının ne olacağını bilemez. Yapılan tartışmalar inanç temelli olmaya başlar.)

Şimdi Newton'a bir Apple gösterin. Cebinizden bir iPhone çıkarın ve ekranı parlayana ve simgelerle dolana kadar açın ve ona verin. Beyaz ışığın, güneş ışığını bir prizmayla ayırıp sonra tekrar bir araya getirerek farklı renkli ışık bileşenlerinden nasıl oluştuğunu ortaya koyan kişi, bu kadar küçük bir nesnenin şapelin karanlığında bu kadar canlı renkler üretmesine hiç şüphesiz şaşırırdı. Şimdi, belki de aşina olabileceği bazı hayvanlarla birlikte, İngiliz kırsalından bir sahnenin filmini oynatın - içerikte geleceğe dair hiçbir işaret yok. Sonra aşina olabileceği biraz kilise müziği çalın. Ve sonra ona, şaheseri Principia'nın kişisel olarak not aldığı 500'den fazla sayfanın bulunduğu bir web sayfası gösterin ve ona ayrıntıları yakınlaştırmak için sıkıştırma hareketlerini nasıl kullanacağını öğretin.

Newton bu küçük cihazın tüm bunları nasıl yaptığını açıklamaya başlayabilir miydi? Kalkülüsü icat etmesine ve hem optiği hem de yerçekimini açıklamasına rağmen Newton hiçbir zaman kimya ve simyayı çözemedi. Bu yüzden afallamış olacağını ve bu cihazın ne olduğuna dair en ufak bir tutarlı taslak bile çıkaramayacağını düşünüyorum. Onun için okültizmin bir cisimleşmesinden farklı olmayacaktı - hayattayken onun için çok ilgi çekici olan bir şey. Onun için sihirden ayırt edilemez olacaktı. Ve unutmayın, Newton gerçekten zeki bir adamdı.

Bir şey sihirliyse, sahip olduğu sınırlamaları bilmek zordur. Diyelim ki Newton'a karanlığı nasıl aydınlatabileceğini, nasıl fotoğraf ve film çekebileceğini ve ses kaydedebileceğini, nasıl büyüteç ve ayna olarak kullanılabileceğini gösteriyoruz. Sonra ona inanılmaz bir hızda ve birçok ondalık basamakta aritmetik hesaplamalar yapmak için nasıl kullanılabileceğini gösteriyoruz. Ve onu taşıdığında adımlarını saydığını gösteriyoruz.

Newton, önündeki cihazın başka ne yapabileceğini varsayabilirdi? Bunu, şapelin hemen orada, dünyanın herhangi bir yerindeki insanlarla konuşmak için kullanabileceğini varsayabilir miydi? Prizmalar sonsuza kadar çalışır. iPhone'un olduğu gibi sonsuza kadar çalışacağını varsayabilir miydi, şarj edilmesi gerektiğini anlamadan (ve onu Michael Faraday'ın doğumundan 100 yıl önce yakaladığımızı hatırlayın, yani elektrik kavramı henüz ortalıkta yoktu)? Ateş olmadan bir ışık kaynağı olabiliyorsa, belki de kurşunu altına dönüştürebilir miydi?

Bu, hepimizin hayal ettiğimiz gelecekteki teknolojiyle ilgili yaşadığı bir sorundur. Eğer bugün sahip olduğumuz ve anladığımız teknolojiden yeterince uzaksa, o zaman sınırlarını bilemeyiz. Sihirden ayırt edilemez hale gelir.

Bir teknoloji o sihirli çizgiyi geçtiğinde artık onun hakkında söylenen hiçbir şey yanlışlanamaz, çünkü o bir sihirdir.

Bu, sadece YGZ'den korkmamız mı gerektiği, yoksa yukarıdan C veya D vakalarından mı korkmamız gerektiği konusunda insanlarla tartışmaya çalışırken düzenli olarak karşılaştığım bir sorundur. Bana ne kadar güçlü olacağını anlamadığım söylendi. Bu bir argüman değil. Var olup olamayacağı hakkında hiçbir fikrimiz yok. Gördüğüm tüm kanıtlar, henüz nasıl inşa edileceğine dair gerçek bir fikrimizin olmadığını söylüyor. Bu yüzden özellikleri tamamen bilinmiyor, bu yüzden retorik olarak hızla büyülü ve süper güçlü hale geliyor. Sınırsız.

Evrende hiçbir şey sınırsız değildir. Büyülü gelecekteki yapay zeka bile.

Büyülü olan gelecekteki teknoloji hakkındaki tartışmalara dikkat edin. Asla çürütülemez. Bu bilimsel bir tartışma değil, inanç temelli bir tartışmadır.
...

(İnsanlar, bir yetenek gördüğünde hemen abartılı genellemeler yapmaya başlıyor.)

İşte yanlış giden şey. İnsanlar bir robotun veya bir YZ sisteminin bir görevi yerine getirdiğini duyarlar. Daha sonra bu performanstan elde ettikleri genellemeyi, aynı görevi yerine getiren bir kişinin sahip olması beklenebilecek genel bir yeterliliğe dönüştürürler. Ve bu genellemeyi robot veya YZ sistemine uygularlar.

Günümüzün robotları ve yapay zeka sistemleri yapabilecekleri şeyler konusunda inanılmaz derecede dar. İnsan tarzı genellemeler geçerli değil. Bu genellemeleri yapan insanlar işleri çok, çok yanlış anlıyor.
...

(AlphaGo, Go'yu aslında bilmemektedir. Kurallardaki ufak bir değişiklik onun artık Go oynayamamasına neden olur.)

Benzer şekilde, insanlar bilgisayarların artık dünya satranç şampiyonunu (1997'de) veya dünya Go şampiyonunu (2016'da) yenebildiğini duyduklarında, tıpkı bir insan gibi oyunu "oynadığını" düşünme eğiliminde oluyorlar. Elbette gerçekte bu programların bir oyunun ne olduğu hakkında hiçbir fikirleri yoktu (tekrar ediyorum, makine öğrenimi hakkındaki yazımı okuyun) ve oynadıkları da yoktu. Ve The Atlantic'teki bu makalede yakın zamanda gerçekleşen Go mücadelesi sırasında belirtildiği gibi, insan oyuncu Lee Sedol 12 ons kahve tarafından desteklenirken, yapay zeka programı AlphaGo dağıtılmış bir uygulama olarak bir sürü makinede çalışıyordu ve 100'den fazla bilim insanından oluşan bir ekip tarafından destekleniyordu.

Bir insan bir oyun oynadığında kurallarda küçük bir değişiklik onu altüst etmez; iyi bir oyuncu uyum sağlayabilir. 1997'de Garry Kasparov'u yenen program olan AlphaGo veya Deep Blue için durum böyle değil.
...

(Bilinçli YZ tasarlanabildiğinde, o bilince abartılı genellemeler yapacak insanlar olacak.)

Ve henüz Minsky'nin YZ sistemleri hakkında kullandığı bavul kelimelerinin çoğunu söylemeye bile gelmedik; bilinç , deneyim veya düşünme . Biz insanlar için, bilinçli olmadan veya oynama deneyimi yaşamadan veya bir hamle hakkında düşünmeden satranç oynamayı düşünmek zordur. Şimdiye kadar, YZ sistemlerimizin hiçbiri, bu kelimeleri insanlar hakkında kullandığımız birçok yoldan birinin geçerli olduğu temel bir seviyeye bile ulaşmadı. Bunu yaptığımızda, ve bence yapacağız, belirli YZ sistemleri, basın ve çoğu insan hakkında bu kelimelerden bazılarını kullanmaya başlayacağımız bir noktaya geleceğiz, tekrar aşırı genelleme yapacaklar.

Bu kelimelerin bir diliminin çok dar bir açıdan tek bir açıdan gösterilmesiyle bile insanların aşırı genelleme yapıp makinelerin bu zeka alanlarında insan benzeri yeteneklere çok yakın olduğunu düşünmelerinden korkuyorum.

Kelimeler önemlidir, ancak bir YZ sistemi hakkında bir şeyi tanımlamak için bir kelime kullandığımızda, bunun insanlara da uygulanabileceği durumlarda, insanların bunun ne anlama geldiğini abarttığını görürüz.
...

(Moore yasası gereği YZ'nin de mikroişlemciler gibi hızla gelişeceği beklentisi oluşmuş durumda. YZ'nin inanılmaz seviyelere çıkması çok kısa sürecek. Oysa Moore yasası sadece birkaç yılı öngörmek için geliştirilmişti. Günümüz için bir öngörüsü yok Moore yasasının. Bunu anlatmak için iPod'un hafızasını örnek veriyor.)

Bugüne kadar ekstrapolasyon yaparsak 400$'lık bir iPod'un 160.000 GigaByte (veya 160 TeraByte) belleğe sahip olmasını bekleriz. Ancak günümüzün en üst düzey iPhone'u (ki 400$'dan fazla) yalnızca 256 GigaByte belleğe sahip, bu 2007 iPod'unun iki katından az, en üst düzey iPod (touch) ise yalnızca 128 GigaByte belleğe sahip, bu da on yıl sonra 2007 modeline göre bir düşüş.

Bu özel üstel, hafıza miktarı herhangi bir makul kişinin elindeki tüm müzik kütüphanesini tutabilecek kadar büyük bir noktaya ulaştığında aniden çöktü. Üstellikler, müşteriler talep etmeyi bıraktığında durabilir.

Devam edersek, derin öğrenmenin, bir Makine Öğrenmesi biçiminin başarısı nedeniyle YZ sistemlerinin performansında ani bir artış gördük. Birçok kişi bunun düzenli olarak eşit çarpan etkisine sahip YZ performansında artışlar yaşamaya devam edeceğimiz anlamına geldiğini düşünüyor gibi görünüyor. Ancak derin öğrenme başarısı otuz yıldır devam ediyordu ve kimse bunu tahmin edemedi veya geleceğini göremedi. Bu izole bir olaydı.

Bu, YZ araştırmalarının durgun sularının birdenbire birçok YZ uygulamasının performansında hızlı bir adım artışını körükleyeceği daha izole olayların olmayacağı anlamına gelmez. Ancak bunların ne sıklıkta gerçekleşeceğini söyleyen bir "yasa" yoktur. Moore Yasası'ndaki gibi malzemenin kütlesini yarıya indirmek gibi, YZ inovasyon sürecini körükleyen fiziksel bir süreç yoktur.
...

(YZ'ler sanıldığı gibi büyük bir hızla gelişmeyecek. Gelişirken, sürekli mühendisler tarafından müdahale edilecek. Böylece insanlara hep uyumlu kalmış olacaklar.)

Bu tür süper zekaların varlığına aniden şaşırmayacağız. Zamanla teknolojik olarak evrimleşecekler ve dünyamız farklı olacak, birçok başka zekayla dolu olacak ve halihazırda çok fazla deneyime sahip olacağız.

Örneğin, D (bizden kurtulmak isteyen kötü süper zekalar) durumunda, bu tür makinelerin ortaya çıktığını görmemizden çok önce, biraz daha az zeki ve kavgacı makineler olacak. Ondan önce gerçekten huysuz makineler olacak. Ondan önce oldukça sinir bozucu makineler. Ve onlardan önce kibirli, tatsız makineler.

Yol boyunca dünyamızı değiştireceğiz, hem çevreyi hem de yeni teknolojilerin kendisini yeni teknolojilere göre ayarlayacağız. Zorluklar olmayacağını söylemiyorum. Birçok insanın düşündüğü kadar ani ve beklenmedik olmayacaklarını söylüyorum. Şok durumları hakkında özgürce koşan hayal gücü yardımcı olmaz; asla doğru olmayacaklar veya yakın bile olmayacaklar.

"Hollywood senaryoları" tartışmalar için harika bir retorik araçtır, ancak bunların genellikle gelecekteki gerçeklikle hiçbir bağlantısı yoktur.
...

(YZ'nin birden değil yavaşça hayatımıza gireceğini anlatmaya çalışıyor.)

Otomasyonda yeniden yapılandırmaya karşı olan direnç şaşırtıcı derecede akıllara durgunluk verecek derecede esneklikten yoksundur.

Bu alanda iyi bir fikri başkasına veremezsiniz. Değişim gerçekten çok yavaştır. Ataç üreten yapay zeka sisteminin, diğer insan ihtiyaçları pahasına daha fazla ataç üretmek için her türlü kaynağı ortaklaşa kullanmaya karar vermesi örneği gerçekten de çılgınca bir fantezidir. Önümüzdeki on yıllar boyunca döngüde fiziksel kablolama konusunda endişelenen insanlar olacak.

Robotik ve yapay zeka alanındaki neredeyse tüm yeniliklerin gerçekten yaygın bir şekilde kullanılmaya başlanması, bu alandaki ve bu alanın dışındaki insanların hayal ettiğinden çok çok daha uzun sürecektir. Kendi kendine giden arabalar buna bir örnektir. Birdenbire herkes bunlardan haberdar oldu ve yakında yaygınlaşacaklarını düşünmeye başladı. Ancak bu hayal edilenden daha uzun sürer.
...

1987'den bu yana otonom araçların gerçek anlamda yaygınlaşması için kırk, beş veya altmış yıl geçmesi gerekebilir.

Robotik ve yapay zeka alanındaki yeni fikirlerin gerçeğe dönüşmesi ve uygulamaya konulması çok uzun zaman alıyor.

Makalenin Tamamı: Yapay Zekanın Geleceğini Tahmin Etmenin Yedi Ölümcül Günahı - Rodney Brooks

Düşünmeyi Devretmek

“Robot hizmetçi” ve “robot sürücü” hâlâ çok uzak görünüyor ama öbürleri belki de sadece birazcık iyimser tahminlermiş. (1973”ten bakıldığında 2000'e daha çok varmış gibi görünüyordu.)

Bu öngörü başarıları ve başarısızlıkları üzerine, görece bariz görünenler dışında öngörüde bulunmaya tereddüt ediyorum. Ancak, günün birinde, insan zekâsını (ve tüm göstergelerini) yakalayıp geçen zekâ düzeyine sahip insan yapımı nesnelerin var olacağını öngörebilirim. Bu öngörüyü yapmamın sebebi, biz insanların makine olduğuna (çünkü makine değilsek başka ne olabiliriz ki?) ve bizlerin yaptığı her şeyi yapabilecek makineler inşa edebileceğimize, çünkü bunun hem iktisadi hem de bilimsel sebeplerinin var olduğuna inanıyor oluşumdur.

Alıntı: Yapay Zeka - Geçmişi ve Geleceği - Nils J. Nilsson

---

Böylece ekonomi de ilginç bir şekilde değişecektir. İnsanların işle ilgili kararlar vermesi gerekmeyecek. Artık önemli konuları kafaya takması anlamsız olacak. Çünkü zaten Yapay Zeka her şeyi değerlendirip en iyi kararları veriyor olacak. İnsan zekası zaten bu kadar iyi değerlendirmelere yetişemeyecek. Kararları Yapay Zekaya devretmek en iyi karar olacak gibi görünüyor. İnsan da zaten bir makine olduğuna göre, daha iyi hesaplamalar yapabilen daha iyi öğrenebilen yeni bir makine elbette daha kullanışlı olacaktır! Muhtemelen bunu en kolay yazılımlarda göreceğiz. Gelecekte yazılım kodlarını insandan daha iyi yazan Yapay Zeka olacaktır. Üstelik bunun için bir robot da olması gerekmiyor. O vakitten sonra artık, bir insanın oturup saatlerce kod düşünmesinin ne anlamı olabilirki. :-)

Sonuçta insanlar çok fazla şeyi kafalarına takmak zorunda kalmayacaklar gelecekte. Bir şeyleri düşünmeye devam etmek isteyebilirler, ama bu artık sadece hobi olacaktır. Böylece kendilerine daha fazla zaman ayırabilirler. Yani gelecekte, daha az stresli bir hayatları olacak gibi görünüyor. :-)