OkanNotlar

Ön Açıklama: Gelecekte, insan seviyesinde bir YZ'ye bir görev verildiğinde, durumun ne olacağıyla ilgili iki basitleştirilmiş örnek veriyor yazar. “Ataş yap” komutu verildiğinde neler olabileceğini anlatıyor. Ardından “kazanı suyla doldur” komutu verildiğinde neler olabileceğini anlatıyor. İnsan düzeyinde YZ’ye görünüşte zararsız bir komut verildiğini hayal edin: Ataş yapmak. Ne yapabilir ki? Ataş yaparak işe koyulabilir. Küçük bir kalıp makinesi oluşturup dakikada birkaç düzine ataş üretebilir. Bundan çok daha verimli olabileceğini bilecek kadar zekidir ve yapabileceği ataş sayısını maksimize etmek isterse küçük bir kalıptan daha fazlasına gereksinim duyacaktır. Malzemeleri onun yerine daha büyük bir fabrika kurmak için kullanabilir böylece dakikada binlerce ataş yapar. Mümkün olan en fazla sayıda ataş yapmak isterse bu kez bunun nasıl yapılabileceğine dair becerisini geliştirmek isteyebilir ve kaynaklarının bir kısmını yeni işlemciler oluşturmaya, kendi kodunu geliştirmeye, RAM’...

Bu makale  Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji makalesine cevaplar da içermektedir. B. Tekillik. Bu , sonunda hedefleri ve amaçları olan YZ tabanlı zeki bir varlığın YZ araştırmalarında biz insanlardan daha iyi olacağı fikrine atıfta bulunur. Sonra, bilgisayarları daha hızlı ve daha hızlı hale getiren bitmeyen bir Moore yasasıyla, Yapay Zeka kendi kendine havalanacak ve bir kara deliğin tekilliğinden geçen spekülatif fizikte olduğu gibi, diğer tarafta işlerin nasıl olacağı hakkında hiçbir fikrimiz olmayacak. Tekilliğe "inananlar" Tekillik sonrası Yapay Zeka'ya inanılmaz bir güç vermekten mutluluk duyarlar, çünkü sonrasında ne olacağı oldukça öngörülemezdir. Tekilliğe inanmak çoğu zaman dini bir inanç gibi görünebileceğinden, inanmak kelimesini tırnak işareti içine aldım. Bazıları için bu, zihinlerini akıllı bir bilgisayara yükleyebilme ve böylece standart bir doğaüstü Tanrı'ya inanma zorunluluğu olmadan sonsuz yaşam elde edebilme gibi ek bir faydayla...