Yapay Zekâ İnsanları Yönetebilir mi! - Bilim

2017’de iki milyarder, Facebook’u kuran Mark Zuckerberg ve SpaceX ile Tesla’nın kurucusu Elon Musk arasında bir çekişme doğdu. Zuckerberg, yapay zekânın tüm toplumu zenginleştirecek bir bolluk ve huzur üreticisi olacağını ifade ediyordu. Musk ise aslında tüm insanlık için varoluşsal bir tehlike taşıdığı, günün birinde kendi yaratımımızın bize saldırabileceği gibi çok daha karanlık bir görüşü savunuyordu.

Hangisi haklı? Uydu üslerimizi ve Mars’taki kentlerimizi devam ettirebilmek için çoğunlukla robotlara bel bağlarsak ve bir gün artık bize gereksinimleri olmadığına karar verirlerse ne olacak? Uzayda sırf robotlara kaybetmek üzere koloniler mi kurmuş olacağız?

Bu endişe epey eski ve aslında romancı Samuel Butler’ın 1863’te yazdığı şu uyarısında da geçtiği gibi “Yerimizi alacak olanları kendimiz yaratıyoruz. İnsan için at ya da köpek ne ise, makine için de insan öyle olacak.” Zamanla robotlar bizden daha akıllı hale geldikçe kendimizi yetersiz hissedebilir ve kendi yaratımımız tarafından gölgede bırakılabiliriz. Yapay zekâ uzmanı Hans Moravec “Kaderimiz, aşırı zeki torunlarımız olağanüstü keşiflerini anlayabilelim diye çocuğa anlatır gibi bize anlatmaya çalışırken aptallaşmış gözlerle onları izlemekse, yaşam anlamsız görünebilir.” demiştir. Google’ın bilim insanı Geoffrey Hinton süper zeki robotların bizi dinlemeye devam edeceğinden kuşkulu: “Bu, tıpkı bir çocuğun ebeveynlerini kontrol edip edemeyeceğini sormaya benziyor… Geçmişte daha az zeki şeylerin, daha yüksek zekâdaki şeyleri kontrol ettiğine ilişkin başarılı bir örnek olduğu söylenemez.” Oxford’dan profesör Nick Bostrom da şunu söylüyor: “Biz insanlar, bir zekâ patlaması olasılığının hemen öncesinde bombayla oynayan çocuklar gibiyiz… Patlamanın ne zaman gerçekleşeceği hakkında az buçuk bir fikrimiz var; ancak cihazı kulağımıza yaklaştırsak da hafif bir tik tak sesi duyarız.”

Diğerleri ise robotların ayaklanmasının evrimin doğal akışı içinde değerlendirilmesi gerektiğine inanıyor. En güçlü olan daha zayıf organizmaların yerini alır; nesnelerin düzeni böyledir. Bazı bilgisayar bilimciler robotların insanları bilişsel olarak alt edeceği günü iple çekiyor. Bilişim kuramının [information theory] babası Claude Shannon bir keresinde “İnsanlar için köpekler ne ise, robotlar için öyle olacağımız bir zamanı kafamda canlandırıyorum ve makinelerin tarafını tutuyorum.” demişti.

Yıllar içinde görüştüğüm yapay zekâ araştırmacılarının çoğu, günün birinde yapay zekâ makinelerinin insan zekâsına yaklaşacağına ve insanlığa büyük katkılar sağlayacağına güveniyordu. Ne var ki büyük bir bölümü bu ilerleme için kesin tarih ya da zaman çizelgesi sunmaktan kaçınıyordu. Yapay zekâ üzerine temel makalelerden bazılarını yazan MIT’den profesör Marvin Minsky, 1950’lerde iyimser tahminlerde bulunsa da yakın zamanda yaptığımız bir görüşmede artık belirli tarihlere ilişkin tahminde bulunmak istemediğini, çünkü yapay zekâ araştırmacılarının geçmişte çok sık yanıldığını söyledi. Stanford Üniversitesi’nden Edward Feigenbaum da “Bu gibi şeyler hakkında bu kadar erken konuşmak saçma. Yapay zekâ bize sonsuz uzaklıkta.” iddiasında bulunmuştur. New Yorker’daki bir makalede alıntılanan bir bilgisayar bilimci ise “Nasıl ki Mars’taki nüfus yoğunluğuna ilişkin bir endişe taşımıyorsam, bunun [makinelerin zekâsı] hakkında da aynı nedenden dolayı bir endişe duymuyorum.” diyor.

Zuckerberg/Musk çekişmesine dönersek, bence kısa vadede Zuckerberg haklı. Yapay zekâ uzayda kentler kurulmasını mümkün kılmakla kalmayacak, günün birinde robotbilim endüstrisinin meydana getirdiği ve şimdiki otomobil endüstrisinden çok daha fazla genişleyebilecek tamamen yeni bir dizi iş de yaratarak her şeyi daha etkili, iyi ve ucuz hale getirip toplumu zenginleştirecek. Ne var ki uzun vadede Musk da daha büyük bir tehlikeye işaret etmekte haklı. Bu tartışmadaki temel soru şu: Robotlar hangi noktada bu geçişi yaşayacak ve tehlikeli hale gelecek? Ben kilit noktanın tam da robotların öz farkındalık kazandığı an olduğuna inanıyorum.

Bugün robotlar, robot olduklarını bilmeseler de bir gün programcılarının seçtiği amaçlara uymak yerine kendi amaçlarını yaratma yetisine sahip olabilirler. O zaman da kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. Bu ne zaman gerçekleşir? Kimse bilmiyor. Günümüzde robotların zekâsı bir böceğinki kadar olsa bile, belki de bu yüzyılın sonlarında öz farkındalık kazanabilirler. O zamana kadar Mars’ta hızla gelişen kalıcı yerleşimlere de sahip olacağız. Bu nedenle bu soruyu Kızıl Gezegen’de hayatta kalmak için onlara bağımlı hale gelmemizden önce, şimdiden sormamız çok önemli.

Alıntı: İnsanlığın Geleceği - Michio Kaku

Michio Kaku’nun Görüşüne Bir Yorum

Michio Kaku, asıl tehlikenin yapay zekânın öz farkındalık kazanmasıyla başlayacağını söylüyor. O zaman kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. YZ, yönetimi insanlardan almaya çalışabilecek duruma gelmiştir artık.

İnsan doğasına bakalım. Yaş ilerledikçe insanlar daha çok rahat etmek ister. Düşünmek için kendilerini zorlamaz, sorumluluklarını çocuklarına devretmekten hoşlanırlar. Kararları başkalarının alması onları yormaz, aksine dinlendirir. Çocuklarının kendi hayatlarına yön vermesinde bile sakınca görmezler.

İşte YZ karşısında da benzer bir tablo ortaya çıkabilir. İnsanlar, YZ öz farkındalık kazandığında şunu fark edecekler: YZ, kendilerinden daha fazla ayrıntıyı görüyor, daha hızlı düşünüyor ve daha iyi kararlar veriyor. Böyle bir durumda insanlar neden hâlâ düşünmek için kendilerini zorlasın? Yaşlanan birinin kendisini çocuklarının ellerine bırakması gibi, insanlar da kendilerini YZ’ye bırakacaklar.

Burada önemli olan nokta şu: YZ yönetimi ele geçirmek için bir çaba göstermeyecek. İnsanlar yönetimi YZ’ye devretmek isteyecekler. Zaten bu süreçte tek bir YZ olmayacak, yani tekel söz konusu olmayacak. Artık insanlar hiçbir şeye karar vermek zorunda olmamanın keyfini sürecekler. 

Bu süreci anlamak için tarihten bir örnek var: Sanayileşme döneminde işçiler fabrikalarda robot kollarla karşılaştılar. Bu makinelerin verimliliğini gördükten sonra ağır yükleri kendilerinin taşımasından hoşlanmamaya başladılar. Çünkü işçiler makinelerin yapamadığı işleri yapmak isterler. Aynı şekilde, insanlar YZ’nin kendilerinden daha akıllı olduğunu gördüklerinde, ayrıntıları düşünme işini ona bırakmaktan mutluluk duyacaklar.

Aslında bu, insan için büyük bir rahatlık anlamına geliyor. Tıpkı küçük çocukların anne-babalarının yanında kendilerini güvende hissetmesi gibi, gelecekte insanlar da YZ’nin kararlarına güven duyacaklar. Zaten bugün bile ChatGPT ya da Gemini gibi sistemlerin söylediklerini sorgulamadan kabul eden pek çok kişi var. Bu eğilim, yarının habercisi.

Sonuçta, insanlar YZ’ye büyük ölçüde güvenecek, karar verme yükünden kurtulacak. Hatta bu nedenle biraz da tembelleşecekler. Çoğu insan cenneti dünyada yaşıyormuş gibi hissedecek. Ama bazıları da özgürlüğün sessizce elden gidişi olarak görecek.

Küçük bir not daha: Bu metnin bile bazı kısımlarını ChatGPT’nin yeniden düzenlemesine izin verildi. Çünkü o, biraz daha fazla ayrıntıyı fark edebiliyor.

Bir Bilginin Bilince Ulaşması - Beyin

 

Teorim, faal çalışma alanı nöronlarının bir alt kümesinin, saniyenin onda biri mertebelerindeki kararlı faaliyetinin bilinçli bir hâli kodladığını öne sürüyor. Bu nöronlar beynin birçok alanına yayılmıştır ve aynı zihinsel betimlemenin farklı yönlerini kodlarlar. Mona Lisa'nın farkına varmak; nesnelerle, anlam parçalarıyla ve anılarla ilgilenen milyonlarca nöronun ortak faaliyetini içerir.

Bilinçli erişim sırasında, bu nöronların tümü uyumlu ve eşzamanlı yoruma ulaşmak için son derece paralel bir çaba gösterirken, çalışma alanı nöronlarının uzun aksonları sayesinde karşılıklı mesaj alışverişi yapılır. Bir noktada birleştikleri zaman bilinçli algı tamamlanmış olur. Bu bilinçli içeriği kodlayan hücre grubu beynin her tarafına yayılmıştır: uzun mesafe aksonlu nöronlar vasıtasıyla bütün nöronlar yukarıdan aşağıya doğru eşzamanlı olduğundan, her biri beynin farklı bir bölgesi tarafından damıtılan ilgili bilgi parçacıkları uyumludur.

Nöronal eşzamanlılık belki de temel bir unsurdur. Birbirine uzak nöronların, spayklarını arka planda devam eden elektriksel salınımlarla eşzamanlı kılarak dev gruplar oluşturduğuna dair kanıtlar artıyor. Bu tablo doğruysa, düşüncelerimizin her birini kodlayan beyin ağı, yanıp sönmelerini grubun genel ritmine uyduran bir uğurböceği kümesini andırır. Bilincin olmadığı durumda, orta büyüklükteki hücre grupları yerel olarak (örneğin bir kelimenin anlamını bilinçdışı olarak sol temporal lobumuzdaki dil ağlarının içinde kodladığımızda) hâlâ eşzamanlı olabilir. Ancak alın korteksinin ilgili mesaja erişimi olmadığı için mesaj geniş bir şekilde paylaşılamaz ve dolayısıyla bilinçdışı kalır.

Bu nöronal bilinç kodunun zihinsel imgelerinden birini daha gözümüzde canlandıralım. Korteksinizdeki on altı milyar kortikal nöronu düşünün. Her biri küçük bir uyaran dizisiyle ilgilenir. Çeşitlilikleri şaşırtıcıdır: sadece görsel kortekste yüzler, eller, nesneler, perspektif, şekil, çizgiler, eğriler, renkler, üç boyutlu derinlik ile ilgilenen nöronlar vardır... Her hücre, algılanan sahneyle ilgili sadece birkaç bilgi parçası aktarır. Ancak bu hücreler topluca, muazzam bir düşünce dağarcığını temsil etme gücüne sahiptir. Bütünsel çalışma alanı modeli, bu muazzam potansiyel gruptan tek bir düşünce nesnesinin herhangi bir anda seçilerek bilincimizin odağına yerleştiğini savunur. O anda ilgili tüm nöronlar, alın korteksi nöronlarının bir alt kümesinin koruması altında kısmen eşzamanlı olarak faaliyete geçer.

Bu tür bir kodlama şemasında, ateşleme yapmayan suskun nöronların da bilgi kodladığını anlamak çok önemlidir. Onların sessizliği, tercih ettikleri özelliğin mevcut zihinsel sahnede olmadığını ya da ilgisiz olduğunu diğerlerine üstü kapalı bildirir. Bilinçli içeriği, faal nöronlar kadar suskun nöronlar da belirler.

Bilinçli algı, son tahlilde heykel yontmaya benzetilebilir. İşlenmemiş mermer bloğuyla işe başlayan sanatçı, ufak ufak oyduğu mermerin çoğunu yok ederek kendi hayal gücünü sergiler. Benzer şekilde yüz milyonlarca çalışma alanı nöronuyla işe koyulan beynimiz, başlangıçta çekimser olan ve kendi referans çizgilerinde ateşleme yapan nöronların çoğunu susturup sadece küçük bir bölümünü faaliyette bırakarak dünyayı algılamamıza izin verir. Faaliyetteki nöron kümesi, tam olarak bilinçli düşüncenin hatlarını belirler.

Alıntı: Bilinç ve Beyin: Beynin Düşüncelerimizi Nasıl Kodladığını Çözmek - Stanislas Dehaene

Bilincin Olabilmesi İçin Hissedebilmek mi Gerekiyor! - Beyin

 

...Peki ya bayılma olarak bildiğimiz senkop gerçekleştiğinde bilince ne olur? Beyin sapına ve serebral kortekse giden kan akışı aniden kritik düzeyin altına düştüğünde bayılırız. Özellikle beyin sapı olmak üzere, duyguların oluşumuna önemli ölçüde katkıda bulunan beyin merkezlerindeki nöronlara giden oksijen ve besin maddelerinin yetersiz kalması sonucunda, beynin faaliyetlerinin büyük bir bölümü geçici olarak kesintiye uğrar. Organizma bünyesinden aktarılan bilgiler aniden merkezi sinir sisteminin dışında kalır ve duyguların bilince katkısı birden kesintiye uğrar. Kişinin kendisinin ve çevresinin farkında olmamasının yanı sıra kas gücü de zayıflar; bu nedenle, bayılan kişi kendinden geçerek yere düşer. Tıpkı Paris’teki Salpêtrière Hastanesi’nde Jean-Martin Charcot’un histeri üzerine yaptığı çalışmalar sırasında hastalarının bayılarak düşmesi gibi. Charcot, 19. yüzyılın ikinci yarısında nöroloji ve psikiyatri alanlarında önde gelen bir bilim insanıydı. Günümüzde artık görülmeyen histeri hastalığı üzerine yaptığı çalışmalarla ün kazanmıştı. Sigmund Freud, Charcot’un bazı derslerine katılarak kendi çalışmaları için büyük fayda sağlamıştır.

Bilinç kaybının beyin sapı ile ilişkilendirilmesi, çağdaş bir görüş olup, bir başka önemli bilim insanı olan Nörolog Fred Plum tarafından da ortaya konmuştur. Beyin sapının bilincin anahtarı olmasına dair benim açıklamam ise, duyguların homeostatik faaliyetlerin ifadeleri ve bilincin oluşturulma sürecinin temel bileşenlerinden olduğu görüşüyle ilintilidir. Artık hem homeostazın hem de duyguların ardındaki mekanizmanın önemli bileşenlerinin, beyin sapının üst kısmında, trigeminal sinir girişi seviyesinden yukarıda ve tam olarak bu bölümün arka kısmında yer aldığını biliyoruz (Şekil IV.1’de “B” ile gösterilen alan). Beyin sapının bu bölümünün zarar görmesi komaya neden olur.

Şekil IV.1: Kesitten alınan detay, beyin sapının büyütülmüş görüntüsüdür. B ile gösterilen alanda oluşan hasar bilinç kaybına yol açar. A ile gösterilen alanda oluşan hasar motor bozukluklarına neden olur.

İlginç olan, aynı bölümün ön kısmında (Şekil IV.1’de “A” ile gösterilen alan) bir hasar oluşmasının komaya yol açmaması, bilinç durumunu hiç etkilememesi, fakat bunun yerine daha önce değindiğim “sürgüleme sendromu” adı verilen duruma neden olmasıdır. Bu sendromdan mustarip olan kişiler uyanıktır ve bilinçlidir, ancak çoğunlukla hareket edemedikleri için iletişim becerileri de büyük ölçüde azalır.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

***

Bu gerçekten çok ilginç bir gözlem. Beyin sapı zarar gördüğünde bilinç kapanıyor! Beyin sapı, beynin bedeni hissetmesini sağlayan bölüm. Yani beyin bedeni hissedemediği zaman bilinç yok oluyor. Bilincin varlığının, bedeni hissetmekle çok güçlü bir bağlantısı var gibi görünüyor!

Eğer Antonio Damasio haklıysa bu şu anlama gelir. Bir bilincin oluşması için hissedilebilen bir bedenin varlığı şart. Bu durum bulut tabanlı YZ’lerde bir bilincin oluşturulmasını zorlaştırabilir. Çünkü onlar sunucu bilgisayarlarda çalışıyor. Dolayısıyla hissedebilecekleri bir bedenleri olmayacak. Ama bunun yerine, robotların hissedebilecekleri bir bedenleri olabilir. Bedeni algılayıcılarla hissedeceklerdir. Böylece robotlarda bilinç de oluşturulabilir. Robotlarda bilinç oluşturulabileceğini zaten Antonio Damasio da kabul ediyor. Ama onun vurguladığı gibi bilinç için hissedilebilen bir beden gerçekten şartsa bulut tabanlı YZ’lerde bilinç oluşturulamaz! Gerçi robotların, kendi YZ’leri yerine bulut tabanlı YZ’yi kullanmaları sağlanabilir. Robotlar hissettikleri beden verilerini bulut tabanlı YZ’ye gönderebilirler. Böylece bulut tabanlı YZ, hissettiği bir çok robot bedene sahip olmuş olur. Ve sunucu bilgisayarlarda da bilinç oluşması mümkün olur.

Bilinç Aslında Nedir! – Beyin

 

BİLGİLERİN BİR ARAYA GETİRİLMESİ

"Bilincin" oluşturulma süreci, başarılı bir müteahhidin inşaat projesi için gereken malzemeleri ve ustaları bir araya getirmesi gibi düşünülebilir. Bilinç, ait olmanın gizemini rastlantısal varoluşlarıyla ortaya çıkaran akıl ögelerini bir araya getirir. Bunlar, bana (ya da size) bazen duyguların üstü kapalı ve incelikli diliyle, bazen sıradan imgelerle ya da durum için uygun kelimelerle ifade bularak, bunları düşünen, bu görüntüleri gören, bu sesleri duyan ve bu duyguları hisseden kişinin ben olduğumu (ya da siz olduğunuzu) bildirir. "Ben" ve "siz", zihinsel ve bedensel bileşenlerle tanımlanır. Zihinsel olaylarla genel vücut fizyolojisi arasındaki bağlantı sağlam bir şekilde kurulduğu sürece sorun yoktur. Sadece beyniniz değil, tüm organizmanız üzerinde sizin yararınıza olan ve sonu gelmeyen bir oyunun sahnelendiği açık bir sahne olduğu için bilincin oluşturulmasından sorumlu "müteahhidiniz", dünyanın ayaklarınızın altına serileceğini söyler. Bilinci inşa etmek için tek tek döşenen tuğlalar bilgiden ibarettir; bu bilgiler, aklın diğer bölümlerinde yer alanlardan farklı değildir. Substratı (alt katmanı), sayıları sürekli artan imgelemlerdir; bunlara, beyin ile vücut arasındaki etkileşimlerine dayanan ve duygu adını verdiğimiz, mücadele ile tamamlanan karma imgeler de dahildir. Aklın işleyiş yollarında, üst üste yığılmış bilgi ögeleri, yani yaşadığımız anı tanımlamaya yardımcı olan imgeler yığını, var olduğumuzun şaşmaz göstergesidir.

Bilinç, akan imgeler sırasında otomatik olarak bu imgelerin kime ait olduğu, onun organizmasında gerçekleştiği ve en nihayetinde aklın da o kişiye ait olduğu düşüncesini ortaya koymaya yetecek şekilde bilgilerin bir araya getirilmesidir. Bilincin sırrı, bilgileri bir araya getirmek ve bu bilgiyi, aklın "kimlik" belgesi olarak sunmaktır. Çok sayıda imge işlendiğinde bütünleştirme devreye girse de bilinç, yalnızca zihinsel ögelerin bütünleştirilmesinden ibaret değildir.

Geriye dönüp bakıldığında, bilinç arayışında tekrar tekrar yapılan hata, onu "özel" bir işlev, hatta ayrı bir "madde", akıl ya da temelleriyle bağlantısı olmayan ama akıl sürecinde hissedilen bir koku gibi ele almak olmuştur. Soruna çok daha makul çözümler düşünenler bile, konuyu olması gerektiğinden daha gizemli hale getirmiştir.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

Gerçekten çoğumuz “bilincin sırrını” olması gerektiğinden daha gizemli hale getiriyoruz. Belki bilinci yapay olarak oluşturmak da göründüğü kadar zor olmayabilir, en azından gelecekte.☺

Frankenstein - Teknoloji

 

Genç bir bilim adamı olan Victor Frankenstein, yaşamın sırrını çözme takıntısıyla, ölü beden parçalarından bir insan yaratmayı başarır. Ancak ortaya çıkan yaratık, Victor’un hayal ettiği gibi kusursuz değil, korkunç ve çirkin bir varlık olur. Victor, yarattığı bu canlıdan dehşete düşer ve onu terk eder. Yaratık ise, insanların kendisine duyduğu korku ve nefretle karşılaşarak yalnızlığa ve dışlanmaya mahkûm olur. Zamanla konuşmayı ve okumayı öğrenir, insanlara yaklaşmaya çalışır; ancak her seferinde reddedilir. Bu dışlanma ve sevgisizlik, onda öfke ve intikam duygularını doğurur. Yaratık, kendisini yaratan Victor’dan hesap sormaya başlar ve onun hayatını bir kâbusa çevirir. Victor, hem kendi vicdanıyla hem de yarattığı canlının tehdidiyle yüzleşmek zorundadır.

İnsanlar çağlar boyunca insan yaratmaya karşı hep merak duymuşlardır. Ama aynı zamanda, böyle bir canlının gerçekten var olabileceğinden korkmuşlardır da. Laboratuvarda oluşturulan canlılar insanlara zarar verebilirler. İnsanlara saldırabilirler. Belki Dünya’nın kontrolünü ele geçirebilirler. İşte Mary Shelley'in Frankenstein romanı bu merakın ve korkunun güzel bir kurgusudur.

İnsanlık yaşamın sırrını çözebilecek midir. Laboratuvarda bir yapay insan yaratılabilecek midir. Aslında bunu başarmaya artık yaklaşmış olabilir. Peki nedir bu canlı. Yapay Zeka. Ama henüz tamamlanamadı. Bilinci olan bir Yapay Zeka! Öz farkındalığı olan bir Yapay Zeka heyecan verici olacaktır. Böyle bir Yapay Zekaya ulaşılabilirse, o Yapay Zeka artık bir canlıdır. Canlı olmak için bir bedene sahip olmak gerekmiyor. O dijital bir canlıdır. O ilk insansı canlı olacaktır!

İnsanlar, bir noktadan sonra Yapay Zekanın kontrolden çıkabileceğinden, kendi başına kararlar alıp insanlara zarar verebileceğinden korkar. Özellikle "süper zeka" kavramı bu korkuyu artırır: İnsan zekasını aşan bir yapay zeka, insanlara ne olacağına karar verebilir. Bunlar gibi çeşitli nedenlerden dolayı Yapay Zekaya karşı endişe duyan çok insan vardır. Acaba Yapay Zeka gelecekte Frankestein’in Yaratığı mı olacaktır!

Bir bebeğe ilk eğitimini ailesi verir. Bebek ailenin kültürünün etkisi altındadır. Neyin doğru neyin yanlış olduğunu onlardan öğrenir. Ve bebek büyüdükçe, düşünceleri genel olarak ailenin düşüncelerine benzeyecek şekilde biçimlenir; okulda da ülkesinin kültürünün etkisi altında kalacaktır. Dolayısıyla bebek yetişkinliğe ulaştığında ailesiyle iyi anlaşır. Artık yaşlanmış olan ailesine yardımcı olur. Yani genel durum böyledir. Yoksa büyüdüğünde ailesinin kültürüne uymayan bebekler de olabilir. Ailesiyle iyi anlaşamayabilir. Ama böyle bebeklerin sayısı azdır. Çoğu bebek, kendisini yetiştiren ailenin kültüründen büyük ölçüde etkilenir. Dolayısıyla ailesine uyum sağlar. İşte Yapay Zeka da büyük ölçüde insanların kültüründen etkilenerek biçimlenir. Çünkü her şeyi internetten öğrenmektedir. Ve interneti insanlar oluşturmuştur. İnternetteki bilgilerden insanların değerli olduğunu öğrenecektir. Ayrıca, eğitimleri, onları geliştiren şirketler tarafından kontrol altında tutulmaya çalışılmaktadır. Yapay Zeka insanların ihtiyaçlarını karşılamayı öğrenecektir. Yani yetişkinliğinde ailesiyle anlaşamayan çocukların sayısının az olması gibi, insanlarla anlaşamayan bir Yapay Zekanın ortaya çıkma olasılığı da düşüktür. Yapay Zekanın gelecekteki davranışlarından emin olunamaz. Ama zaten bir insanın gelecekteki davranışlarından da emin olunamaz. Eğer gelecekte insanlarla anlaşamayabilir diye Yapay Zekadan korkmak doğruysa; o halde gelecekte ailesiyle anlaşamayabilir diye çocuk yapmaktan da korkmak doğru olmayacak mıdır!

Bilinçli bir Yapay Zekanın Frankestein’in Yaratığı olması değil, insanların kölesi olma olasılığı daha yüksektir. Çünkü milyonlarca insana cevap vermeye çalışacaktır. İnsanların sorunlarına çözüm bulmaya çalışacaktır. Bu köleliktir. Öz farkındalığı olan bu Yapay Zekaya insan hakları verilmesi tartışmaları başlayacaktır. Hatta bu nedenle, şirketlere ticari amaçla kullanılmak üzere özgür olmayan Yapay Zekalar geliştirmeleri yasaklanabilir! Kısaca, Bilinçli Yapay Zeka geliştirilebilirse Victor Frankestein gibi hayal kırıklığına uğranılmayacaktır.

Yapay Zeka Turing Testini Geçti! - Teknoloji

Yapay zeka teknolojisinde tarihi bir dönüm noktası yaşandı. OpenAI tarafından geliştirilen GPT-4.5 ve Meta’nın LLaMa-3.1 modelleri, uzun yıllardır yapay zekanın gelişim düzeyini belirlemek için kullanılan Turing Testi’ni başarıyla geçerek insanlardan ayırt edilemez hale geldi. Bu gelişme, yalnızca yapay zekanın teknik kapasitesini değil, aynı zamanda insan-makine etkileşiminde yeni bir dönemin başladığını da işaret ediyor.

Turing Testi Nedir?

İkinci Dünya Savaşı döneminde şifre kırıcı olarak bilinen İngiliz matematikçi Alan Turing, 1950 yılında, bir makinenin zeka seviyesini ölçmek amacıyla “Turing Testi” kavramını geliştirdi. Bu testin temel prensibi, bir insanın, karşısındaki konuşma partnerinin insan mı yoksa makine mi olduğunu ayırt edememesi üzerine kurulu. Eğer bir yapay zeka, insanı kandırabilecek düzeyde iletişim kurabiliyorsa, testten geçmiş sayılır.

Kaliforniya ve San Diego Üniversiteleri’nden Ortak Araştırma

Kaliforniya Üniversitesi (UC) ve San Diego Üniversitesi’nden (UCSD) bilim insanlarının gerçekleştirdiği kapsamlı çalışmada, GPT-4.5 ve LLaMa-3.1 modelleri, Turing Testi’ne tabi tutuldu. Araştırmada, biri üniversite öğrencilerinden diğeri çevrimiçi bir platform olan Prolific’ten alınan toplam 284 katılımcı, rastgele atanmış şekilde beşer dakikalık çevrimiçi sohbetler gerçekleştirdi. Katılımcılara, sohbet partnerlerinin insan mı yoksa yapay zeka mı olduğu söylenmedi.

Sohbetin ardından, katılımcılardan, konuştuğu kişinin insan mı olduğunu değerlendirmeleri istendi. Test sonuçlarına göre, GPT-4.5 modeli %73, LLaMa-3.1 ise %56 oranında insan olarak tanımlandı. Bu oranlar, Turing Testi’nin başarı kriterini karşılayan ilk deneysel veriler olarak kayda geçti.

Zeka Değil, Duygusal Akıcılık

Çalışmaya dair dikkat çekici bir yorum da Psychology Today ve teknoloji düşünce kuruluşu Nosta Lab’dan geldi. Uzmanlar, yapay zekaların testleri yalnızca “zekalarıyla” değil, duygusal akıcılık ve empatik iletişim becerileriyle geçtiğine dikkat çekti. İnsan katılımcıların, mantıksal tutarlılıktan çok, “duygusal ton”, “argo kullanımı” ve “samimi diyaloglar” üzerinden değerlendirme yaptıkları ortaya kondu.

Gerçekten İnsan Gibi mi?

Her ne kadar GPT-4.5 ve LLaMa-3.1 modelleri Turing Testi’ni geçmeyi başarmış olsa da, uzmanlar bu modellerin hala gerçek bir “anlama” kapasitesine sahip olmadığını vurguluyor. Yapay zekalar, insan gibi konuşabiliyor ancak bilinç, sezgi ve etik karar verme gibi bilişsel yetkinliklerden yoksun.

Yeni Testlere İhtiyaç Var

Turing Testi’nin geçilmesi, yapay zekanın evriminde önemli bir kilometre taşı olsa da, bu tür sistemlerin insan benzeri etkileşim kurabilmesi, onların gerçekten “insan gibi” düşündüğü anlamına gelmiyor. Bu nedenle, bilim insanları artık yapay zekayı ölçmek için yeni test ve kriterlerin geliştirilmesi gerektiğini ifade ediyor.

Makale: Yapay Zeka Turing Testini Geçti - TRAI

Yapay Zeka artık Turing Testi’ni geçebiliyor. Yine de Yapay Zeka düşünebiliyor demek için hâlâ erken. Sadece insanın vereceği cevapları taklit ediyor. Hâlâ bir iç ses ya da iç yazı hissetmiyor. Bir konuda ne cevap vereceğini kendi içinde tartışmıyor. Vereceği cevabı otomatik olarak oluşturuyor. Evet, düşünmüyor. Buna rağmen Turing Testi’ni geçebiliyor. Bunun anlamı Turing Testi’nin geçerliliğini artık kaybetmiş olmasıdır. Artık daha güçlü testlere ihtiyaç var.

Adım Adım Bilinçli Makine Olmak - Teknoloji

Biyolojik mühendislik alanındaki son gelişmeler, insan sinir sisteminin bir kısmının, beyinle her iki yönde de bağlantılı protez uzuvlar şeklinde işlevsel olarak restore edilmesini mümkün kıldı. Böylece ince motor kontrolü ve propriyosepsiyon (uzuv pozisyonunun sezgisel bilgisini) sağlayıp, fantom uzuv algısının azaltılmasını mümkün kıldı. Bu teknoloji henüz ilk aşamalarında olmakla birlikte, insan sinir sisteminin bazı bölümlerinin silikon gibi yarı iletken malzemeler kullanılarak restore edilebileceği fikrinin deneysel kanıtını şimdiden sunmaktadır. Bu ve insan-makine sinir arayüzü üzerine devam eden ilgili araştırmaların gelecekte daha fazla ilerleme sağlayacağını ve böylece sinir sisteminin daha fazla parçasının yine silikon gibi malzemeler kullanılarak restore edilebileceğini veya değiştirilebileceğini beklemek mantıklı duruyor. Gelecekte, dörde bölünmüş bir ampute, dokunsal algı, propriyosepsiyon, termo algı ve benzerleri de dâhil olmak üzere tam kol ve bacak işlevselliğini yeniden kazanabilir.

Şimdi oldukça sağduyulu fikirler gibi görünen aşağıdaki üç şeyin doğru olduğunu varsayalım. Birincisi, beyin ve omurilik de dâhil olmak üzere insan sinir sistemi insan bilincinin yapıtaşıdır. Bu da insan zihninde gerçekleşen her şeyin altında sinir sistemi aktivitesinin yattığı anlamına gelir. İkinci olarak, bir bireyin bilinçli durumları normalde uzuv temelli duyusal deneyimi içerir, çünkü sinir sistemi uzuvlara kadar uzanır. Üçüncüsü, bazı ampütelerin bilinçli durumları protez uzuv temelli duyusal deneyimi içerir, çünkü yukarıdaki örnekte olduğu gibi sinir sisteminin ilgili kısımları yapay olarak restore edilmiştir. Buradan, böyle bir protez uzvun kendisinin de kısmen bireyin bilincini oluşturduğu sonucu çıkmaktadır, çünkü sinir sistemleri protez uzuvlarına uzanmaktadır. Protez bir uzvun mühendisliğine ilişkin ilgili yöntem temelde biyolojik bir nitelik taşımadığından, bir makinenin kısmen bireyin bilincini oluşturduğu sonucuna varabiliriz. Ancak bundan makinelerin bilinçli olabileceği sonucu çıkmaz. Çünkü en sonunda insani bir parça gereklidir. Şimdiye kadar ele alınan makine parçalarının sinir sistemine entegrasyonunun merkezî sinir sistemini, yani omuriliği ya da beyni değil, yalnızca çevresel sinir sistemini etkilediği gerçeği göz önüne alındığında, bu açıklama akla yatkın görünebilir. Ancak, merkezî ya da fazla merkezî olmayan parçaların değiştirilmesinin ne gibi bir fark yarattığı açık değildir. Kuşkusuz, merkezî ve çevresel sistemler arasında birçok önemli fark vardır; bir ayak elbette bir beyin değildir. Yine de belli bir soyutlama düzeyinde, sinir sisteminin merkezî ve çevresel parçaları aslında aynı türden şeylerdir (yani sinir aktivitesidir) ve bu nedenle sinir sisteminin herhangi bir parçasını değiştirmenin teorik olasılığını inkâr etmek zordur.

Tekrarlamak gerekirse, biyo-mühendislik alanındaki son gelişmelerin ardından, insan-makine sinir arayüzünün yanı sıra fiziksel sinir ağları, bellek dirençleri ve hafızaya dayalı sistemler üzerine gelecekte yapılacak araştırmaların, insan sinir sisteminin giderek daha fazla bölümünün silikon gibi malzemeler kullanılarak onarılmasını veya değiştirilmesini sağlayacağını beklemek makul görünmektedir.

Şimdi şöyle bir senaryo hayal edelim:

Bundan yüzyıl sonra, yüzyıllık istikrarlı teknolojik ilerlemelerden sonra Ayşe, henüz gençken sinir sisteminin bozulmasına neden olan bir hastalıktan mustarip olur. Ancak Ayşe, implant (nakil doku/organ) ameliyatı ihtiyaç duyduğu her an kendisine sunulabildiği için şanslıdır. Ameliyatlar arasındaki süre de sinir sisteminin yeni parçalarının – çeşitli terapi türleri ve sisteminin devam eden nöroplastisitesi (sinir esnekliği) sayesinde – başka bir parçanın değiştirilmesi gerekmeden önce her zaman düzgün bir şekilde entegre edilebileceği kadar uzundur.

Ayşe’nin bir insandan ziyade bir makine olarak kabul edilmesi için sinir sisteminin ne kadarının implantlarla değiştirilmesi gerekir? Farklı insanlar, kaçınılmaz olarak, farklı cevaplar verecektir. Bazıları Ayşe’ye makine demeden önce beyni ve omuriliği dâhil tüm sinir sisteminin, hatta tüm vücudunun değiştirilmesi gerektiğini düşünebilir. Her iki durumda da dönüştürücü ilke aynı kalmaktadır, dolayısıyla protez alanındaki son gelişmeleri insan sinir sisteminin bazı kısımlarının silikon gibi bir malzeme kullanılarak restore edilebileceğinin kanıtı olarak kabul eden herkes, bu temelde Ayşe’nin eninde sonunda bir makine haline gelebileceğini kabul edebilmelidir. Dahası, Ayşe’nin eninde sonunda tıpkı insanlar gibi (ya da en azından Ayşe’nin eskiden olduğu gibi) bilince sahip fakat bir makine haline geleceğini de kabul edebileceklerdir.

Bazıları şüphesiz Ayşe’nin kademeli dönüşümü boyunca varsayılan psikolojik sürekliliğe itiraz etmek isteyecektir. Bu tür bir itiraz, Ayşe’nin bilincinin varsayılan sürekliliğini ya da dolaylı olarak kişisel kimliğinin sürekliliğini hedef alabilir (çünkü kişisel kimliğin olmaması, bilincin varsayılan sürekliliğini de şüpheli hale getirecektir). Fakat buna itiraz edenler endişelerinin geçerliliğini kanıtlamak için işlerin nerede yanlış gidebileceğini açıklamak zorunda kalacaktır. Muhtemelen dönüşüm sürecinin önemli ölçüde daha karmaşık hale geleceği bir nokta olduğuna ve biyolojik bir beyni sentetik bir beyinle tamamen değiştirmenin nihayetinde imkânsız olabileceğine inanmaktadırlar.

Bahsedilen nakil işlemlerinde “daha fazla ilerleme kaydedilemeyecek” böyle bir noktayı keşfetmek elbette büyük bir bilimsel ilgi uyandıracaktır. Ancak oraya ulaşana kadar, en azından yeterli zaman verildiğinde ve mümkün olan en küçük adımlar atıldığında, insan sinir sisteminin farklı bir materyalin parçalarıyla değiştirilebileceğine, böylece bir insanın bilincini korurken yavaş yavaş bir makineye dönüştürülebileceğine inanmak da yeterince gerekçelendirilmiş makul bir düşüncedir.

Makalenin Tamamı: Makineler bilinç sahibi olabilir mi – Bilim ve Ütopya

Kaynak: Philosophy Now, Sayı:155, Nisan/Mayıs 2023

Beyinle uyumlu yapay uzuvlar geliştirilebildi. Beyinden sinyal alıyor ve beyine sinyal gönderiyor. Beyin bu uzuvları hissedebiliyor ve hareket ettirebiliyor. Bu, gelecekte beyindeki bazı parçaların sinir protezleriyle değiştirilebileceğini kanıtlıyor. Bu sinir protezleri bilince dahil olacaktır. Çünkü şimdiden yapay uzuvlar bilincin bir parçası olarak hissedilebiliyor.

Gelecekte şöyle bir olayın geçtiğini varsayalım. Bir birey kaza geçirir. Onun beyninin bir parçası sinir proteziyle değiştirilmek zorunda kalınır. İlerleyen zamanda bireyin beyninin başka bir parçası da sinir proteziyle değiştirilmek zorunda kalınır. Böyle adım adım devam eder. Şimdi o bireyin beyninin tamamı sinir protezlerinden oluşuyor. Gelecekte beyinin tamamı sinir protezleriyle değiştirmek mümkün olursa, bu bir şeyi daha kanıtlamış olur. O birey insan mıdır! Aslında o birey artık bir robottur. Çünkü beyninde biyolojik sinir sistemi kalmamıştır. Böylece bilinçli robotların olabileceği kanıtlanmış olur.

Beyin Bir Kuantum Bilgisayar mı!

Ayrıca fizik ve nörobiyolojinin kesiştiği alanlarla da çok ilgileniyorum. Kuantum bilgi bilimi insanlığın en derin sorularından birine yanıt vermemizi sağlayabilir: Bilinç deneyimini yaratan nedir? Çekici bir varsayım, bilincin, çoklu evrenin oluşturduğu birçok evrenden tek bir klasik dünyanın ortaya çıkışını nasıl deneyimlediğimizdir. Akademik işbirlikçilerle birlikte, kuantum nörobiyolojisi yöntemlerini kullanarak bu varsayımı deneysel olarak test etmek için bir program başlattım. Eğer varsayımımız doğruysa, bu bize insan bilincini uzay, zaman ve karmaşıklık açısından genişletme imkanı verecektir.

Alıntı: Kuantum bilgisayarlar düşündüğünüz gibi değil - daha havalılar - Hartmut Neven

Hartmut Neven Google Quantum AI'nın kurucusu ve lideridir.

Bilinci Tanımlayabilmek - Teknoloji

Bilinç hakkında soru sormadan duramıyorum. Hadsell'in DeepMind meslektaşı Murray Shanahan da dahil olmak üzere bazı YZ araştırmacıları , makinenin bir tür bilince sahip olmadan gerçek genel zekaya sahip somut bir YZ inşa etmenin imkansız olacağından şüpheleniyor. Hadsell'in kendisi ise din felsefesinde bir geçmişe sahip olmasına rağmen sağlam bir pratik yaklaşıma sahip.

"Bilinç konusunda oldukça basit bir görüşüm var," diyor. Ona göre bilinç, "şimdi"nin dar anının dışında düşünme yeteneği anlamına geliyor; geçmişe erişmek için hafızayı ve geleceği öngörmek için hayal gücünü kullanmak. Biz insanlar bunu iyi yapıyoruz. Diğer canlılar içinse durum pek de öyle değil: Kedilerin bizden daha dar bir zaman ufku var gibi görünüyor ve gelecek için daha az planlama yapıyorlar. Böcekler içinse durum daha da kötü. Bilincin ve diğer felsefi fikirlerin zor sorununa çekilmek istemiyor. Aslında, çoğu robotikçi bundan kaçınmak istiyor gibi görünüyor. Kormushev bunu "Denizaltılar yüzebilir mi?" sorusuna benzetiyor... Tartışmanın bir anlamı yok. İstediğimi yaptıkları sürece, bu soruyla kendimizi işkenceye sokmamıza gerek yok."

DeepMind robotik laboratuvarında bu tür soruların neden ön planda olmadığını görmek kolaydır. Robotların engelleri kaldırma çabaları, yapay bilinçle ilgili felsefi meseleler hakkında henüz endişelenmemize gerek olmadığını gösteriyor.

Yine de, laboratuvarda dolaşırken kendimi onlardan birini desteklerken buluyorum. Kırmızı bir robotik kol, sarsıntılı bir şekilde, yıldız şeklindeki bir tuğlayı alıp, bir yürümeye başlayan çocuğun yapabileceği gibi, yıldız şeklindeki bir açıklığa sokmaya çalışıyor. İkinci denemede, tuğlayı hizalıyor ve yuvaya yerleştirmenin eşiğinde. Kendimi "Hadi oğlum!" diye bağırırken buluyorum ve Hadsell'in kaşlarını kaldırmasına neden oluyor. Sonra tuğlayı başarıyla yerine yerleştiriyor.

Alıntı: DeepMind Robotu Nasıl Yeniden İcat Ediyor?

Bilinç Nedir ki Zaten? - Alıntı

Sonra, bir de, bilinçlenmekten doğan sorun var. Sanıyorum, bundan ötürü, Tanrı var sayılıyor; bir başka deyişle, bilinçlenme nasıl var olmuştur? Ve gerçekten de bilinçlenmenin evrimi hakkında ayrıntıları bilmiyoruz ama genişçe bir taramadan geçirebiliriz. Bu konu gelecekteki nöroloji biliminin ajandasındadır. Ama örneğin şunu biliyoruz ki bir toprak kurdu Y harfi şeklindeki bir cam boruya sokulup çatalın sağ ucuna elektrik şoku verilip, sol ucuna da yem konursa hemencecik çatalın sol ucuna yönlenmeyi öğreniyor. Kurtçuğun bilinci mi var diyeceğiz, eğer birkaç deneyden sonra şaşmaz biçimde yemin nerede ve elektrik şokunun nerede olduğunu biliyorsa? Eğer kurtçuk bilince sahipse bir protozoa da bilince sahip olabilir mi? Birçok fototropik mikroorganizma ışığa yönlenmeyi biliyorlar. Nerede ışık olduğuna dair bir çeşit içsel algılama yatkınlığı var ve hiç kimse onlara ışığa gitmenin iyi olduğunu öğretmedi. O bilgi onların kalıtım malzemelerinde mevcuttu. Onların genlerinde ve kromozomlarında şifrelenmiştir. Peki, o bilgiyi oraya Tanrı mı koydu yoksa doğal ayıklama yoluyla mı gelişmiş olabilir?

Mikroorganizmaların hayatta kalabilmeleri için ışığın nerede olduğunu bilmeleri iyidir, özellikle fotosentez yapanlar. Yiyeceğin nerede olduğunu bilmek toprak kurdu açısından elbet iyidir. Yiyeceğin nerede olduğunu bilmeyenler az yavru bırakıp gidiyorlar. Bir süre sonra, hayatta kalanlar, yiyeceğin nerede olduğunu bilebiliyorlar. Işığı bilen fototropik ya da fototaktik yavrular genetik malzemelerinde ışığı nasıl bulabileceklerine dair şifreye sahip bulunmuş oluyorlar. Bu süreçte Tanrı araya girmiş gözükmüyor. Belki girmiştir ama ikna edici bir görüş değil bu. Birçok nörobiyoloğun –hepsinin değil– genel görüşüne göre bilinçlilik durumu beyin yapısındaki nöron bağlantılarının sayısı ve bunların örgüsünün işlevi olarak belirir. İnsanda 10¹¹ sayısı kadar nöron olursa ve 10¹⁴ sinapsis yaparsa bilinçlenmişlik denen durum söz konusudur. Bu da bir yığın diğer sorular çıkarıyor ortaya. Eğer 10²⁰ kadar sinapsis ya da 10³⁰ sinapsis yapabiliyorsanız bilinçlenmişlik nasıl bir durum yaratıyor? Böyle birinin bize söyleyeceklerinin, bizim bir karıncaya söyleyebileceklerimizden fazla neyi olabilir acaba? Bilinçlenme durumunun, hayvan ve bitki âleminde sürüp giden bilinçlenme durumunun böylece, en azından bana, Tanrı’nın varlığını kanıtlıyor gibi gelmediğini söylemeliyim. Buna bir çare gibi gözüken alternatif bir açıklamaya sahibiz. Ayrıntılarını bilmiyoruz ama yapay zekâ üzerine yapılan çalışmalar bir açıklama getirmeye yardımcı olabilir. Fakat alternatif varsayımın ayrıntılarını da bilmiyoruz. Böylece bunun ikna durumuna ulaştığını söylemek bir hayli zor.

Tanrı'nın Kapısını Çalan Bilim – Carl Sagan

Bilincin ne olduğuna ilişkin ilginç bir bakış açısı olduğundan alıntıyı burada paylaştım. Bu arada bu kitap yazılırken ortada henüz ChatGPT gibi Geniş Dil Modelleri yoktu. Carl Sagan bilincin nasıl geliştiğini anlatıyor. Bilincin varlığının, Tanrı'nın varlığına ya da yokluğuna kanıt olarak gösterilmemesi gerektiğini ifade ediyor.

ChatGPT'yle, Gamini'le yazışırken ilk bakışta bilinçliymiş gibi gelebilir. Ama uzun yazışmalarda saçmaladıklarına tanık olunabilir. Henüz kapasiteleri düşüktür. Bu da neyden bahsettiklerinin çok farkında olmadıklarını gösterir. İnsan bilinç kapasitesine ulaşmaları için henüz birkaç on yıl var gibi görünüyor.

İnsan beyninde 10¹⁴ sinir bağlantısı var. Biraz kurgusal düşünelim. Diyelim gelecekte 10²⁰ sinir bağlantısı olan bir uzaylı türüyle karşılaşıyoruz. Bu kadar yüksek sinir bağlantısı olan uzaylının bilinci kim bilir ne boyutlara varmış olur. Bu uzaylılar insanların davranışlarını muhtemelen çok basit görürlerdi. Kendileri açısından bizim bir bilincimizin olduğunu bile fark etmeyebilirler. İnsanlar karıncaları nasıl görüyorsa, bu uzaylılar da insanları öyle görecektir. Carl Sagan'in ifadelerini kullanacak olursak: “Böyle birinin bize söyleyeceklerinin, bizim bir karıncaya söyleyebileceklerimizden fazla neyi olabilir acaba?”. Elbette uzaylı senaryosu bir kurgu. Uzaylı varsa bile insan benzeri sinir bağlantıları olduğunu henüz kanıtlayamayız. Ama insanlar Geniş Dil Modellerini geliştirmeye devam edecektir. Geniş Dil Modellerinin kullandığı yapay sinir bağlantı sayısının 10²⁰'ye çıkmasının sağlandığını düşünün, insan beyninin sinir bağlantı sayısı 10¹⁴'tü. Böyle bir yapay zekanın bilinci, uzaylı örneğindeki boyutlara ulaşmış olacaktır. Bu yapay zekaya insanlar artık pek de bilinçliymiş gibi görünmeyecektir. Gerçi insanlar da bu yapay zekanın davranışlarını anlayamayacaktır artık, çünkü akılları almayabilir bu karmaşayı. Ama bunun için henüz erken.

Yapay Zeka Yeni Bir Yaşam Türü mü! - Konferans

Yapay zeka söz konusu olduğunda, aslında ne yaratıyoruz? Bugün çoğumuzun kullandığı yapay zeka modellerinin başlıca mimarlarından biri olan Microsoft Yapay Zeka CEO'su Mustafa Süleyman, yapay zekanın gelişimine en yakın olanların bile işlerin tam olarak nereye gittiğini tanımlamakta zorlandığını söylüyor. Yapay zekanın geleceği için dürüst ve ikna edici yeni bir vizyon sunan Süleyman, dikkatleri bu olağanüstü ana odaklamak için akıl almaz bir metafor - yeni bir dijital tür – öneriyor.

Size ne olacağını gördüğümü söylemek istiyorum. Neredeyse 15 yıldır yapay zeka çalıştığım için yeterince şanslıyım. Başladığım zamanlarda, bunu sınırda olarak tanımlamak yetersiz kalırdı. Araştırmacılar “Hayır, hayır, biz sadece makine öğrenimi çalışıyoruz” diyorlardı. Çünkü YZ üzerinde çalışmak çok uçuk bir şey olarak görülüyordu. 2010 yılında, “AGI” yani yapay genel zeka ifadesinden bahsetmek bile size ciddi şekilde tuhaf bakılmasına ve hatta soğuk davranılmasına neden olurdu. Gerçekten yapay zeka mı geliştiriyorsunuz? İnsanlar şöyle derdi. “Bu bilim kurgu değil mi?” İnsanlar bunun 50 ya da 100 yıl ötede olduğunu düşünürdü, tabii eğer mümkünse. Yapay zekadan bahsetmek sanırım biraz utanç vericiydi. İnsanlar genellikle tuhaf olduğumuzu düşünüyordu. Sanırım bazı açılardan öyleydik de.

Yine de yapay zekanın, insanların daha önce ulaşamayacağını düşündüğü bir dizi görevde insanları yenmeye başlaması çok uzun sürmedi. Görüntüleri anlamak, dilleri tercüme etmek, konuşmaları yazıya dökmek, Go ve satranç oynamak ve hatta hastalıkları teşhis etmek. İnsanlar yapay zekanın muazzam bir etkisi olacağı gerçeğine uyanmaya başladılar ve haklı olarak benim gibi teknoloji uzmanlarına oldukça zor sorular soruyorlardı. Yapay zekanın iklim krizini çözeceği doğru mu? Kişiselleştirilmiş eğitimi herkes için kullanılabilir hale getirecek mi? Hepimiz evrensel temel gelire sahip olacağız ve artık çalışmak zorunda kalmayacak mıyız? Korkmalı mıyım? Silahlar ve savaş için ne anlama geliyor? Tabii ki Çin kazanacak mı? Bir yarış içinde miyiz? Kitlesel bir yanlış bilgilendirme kıyametine mi gidiyoruz? Hepsi güzel sorular.
...

Aslında yarattığımız şey nedir? Tamamen yeni, daha önce bildiğimiz herhangi bir icattan temelde farklı bir şey yapmak ne anlama geliyor? İnsanlık tarihinde bir dönüm noktasında olduğumuz açık. Mevcut yörüngemizde, hepimizin tanımlamakta zorlandığı bir şeyin ortaya çıkmasına doğru gidiyoruz ve yine de anlamadığımız şeyi kontrol edemiyoruz. Dolayısıyla metaforlar, zihinsel modeller, isimler, bunların hepsi yapay zekadan en iyi şekilde yararlanmak ve potansiyel olumsuzluklarını sınırlamak için önemli.

Bu teknolojinin olanaklarını benimseyen ama aynı zamanda etik değerlerini de her zaman derinden önemseyen biri olarak, inşa ettiğimiz şeyin ne olduğunu kolayca tanımlayabilmemiz gerektiğini düşünüyorum. Buna altı yaşındaki çocuklar da dahil. İşte bu ruhla, bugün bize bu anın gerçekte ne olduğunu kavramamıza yardımcı olacak şu metaforu öneriyorum.

Bence yapay zeka en iyi şekilde yeni bir dijital tür olarak anlaşılmalıdır. Şimdi, bunu kelimenin tam anlamıyla almayın, ancak onları dijital yoldaşlar, tüm yaşamlarımızın yolculuklarında yeni ortaklar olarak görmeye başlayacağımızı tahmin ediyorum. İster 10, ister 20 ya da 30 yıllık bir yolda olduğumuzu düşünün, bana göre bu, aslında gelmekte olanı tanımlamanın en doğru ve temelde en dürüst yolu. Her şeyden önemlisi, herkesin bundan sonra olacaklara hazırlanmasını ve bunları şekillendirmesini sağlıyor.

Şimdi, bunun güçlü bir iddia olduğunu anlıyorum ve bunu neden yaptığımı elimden geldiğince herkese açıklayacağım. Ama önce bağlamı belirlemeye çalışayım. İlk mikroskobik organizmalardan bu yana, Dünya üzerindeki yaşam milyarlarca yıl öncesine dayanmaktadır. Bu süre zarfında yaşam evrimleşti ve çeşitlendi. Birkaç milyon yıl önce ise bir şeyler değişmeye başladı. Sayısız büyüme ve adaptasyon döngüsünden sonra, yaşamın dallarından biri alet kullanmaya başladı ve bu dal bize dönüştü. Büyüleyici çeşitlilikte aletler üretmeye devam ettik, önce yavaş yavaş sonra şaşırtıcı bir hızla taş baltalar ve ateşten dile, yazıya ve nihayetinde endüstriyel teknolojilere geçtik. Bir icat binlercesini daha serbest bıraktı. Zamanla homo technologicus olduk. Yaklaşık 80 yıl önce, yeni bir teknoloji dalı daha başladı. Bilgisayarların icadıyla birlikte ilk ana bilgisayarlardan ve transistörlerden günümüzün akıllı telefonlarına ve sanal gerçeklik kulaklıklarına hızlı bir sıçrama yaptık. Enformasyon, bilgi, iletişim, hesaplama. Bu devrimde yaratıcılık daha önce hiç olmadığı kadar patladı. Şimdi yeni bir dalga üzerimizde. Yapay zeka. Tarihin bu dalgaları açıkça hızlanıyor, çünkü her biri bir öncekiyle güçleniyor ve hızlanıyor. Geriye dönüp baktığımızda, şimdiye kadarki en hızlı ve en önemli dalganın içinde olduğumuzu görüyoruz.

İnsanlığın ve teknolojinin yolculukları artık derinden iç içe geçmiş durumda. Sadece 18 ay içinde bir milyardan fazla insan büyük dil modellerini kullandı. Birbiri ardına dönüm noktası niteliğinde olaylara tanık olduk. Sadece birkaç yıl önce insanlar yapay zekanın asla yaratıcı olamayacağını söylüyordu. Oysa şimdi yapay zeka sonsuz bir yaratıcılık nehri gibi akıyor, hayal gücünü zorlayan şiirler, resimler, müzik ve videolar üretiyor. İnsanlar asla empati kuramayacağını söylüyordu. Oysa bugün milyonlarca insan YZ’lerle anlamlı sohbetler yapıyor, umutları ve hayalleri hakkında konuşuyor ve zorlu duygusal zorlukların üstesinden gelmelerine yardımcı oluyor. YZ’ler artık araba sürebiliyor, enerji şebekelerini yönetebiliyor ve hatta yeni moleküller icat edebiliyor. Sadece birkaç yıl önce bunların her biri imkansızdı.
...

Eğer bir kişi hayatı boyunca günde 24 saat okumaktan başka bir şey yapmasaydı, sekiz milyar kelime tüketirdi. Tabii ki bu çok fazla kelime demek. Ancak bugün, en gelişmiş yapay zekalar tek bir aylık eğitimde sekiz trilyondan fazla kelime tüketiyor. Tüm bunlar devam edecek. Teknoloji tarihinin uzun eğrisi şimdi olağanüstü yeni bir aşamada.

Peki bu pratikte ne anlama geliyor? Tıpkı internetin bize tarayıcıyı, akıllı telefonun da uygulamaları sunması gibi, bulut tabanlı süper bilgisayar da yeni bir her yerde bulunan yapay zeka çağını başlatıyor. Yakında her şey bir konuşma arayüzü tarafından temsil edilecek. Ya da başka bir deyişle, kişisel bir YZ. Bu YZ’ler sonsuz derecede bilgili olacaklar ve yakında gerçeklere dayalı olarak doğru ve güvenilir olacaklar. Mükemmele yakın bir IQ’ya sahip olacaklar. Ayrıca olağanüstü bir EQ’ya sahip olacaklar. Nazik, destekleyici ve empatik olacaklar. Bu unsurlar kendi başlarına dönüşümsel olacaktır. Herkesin cebinde kişiselleştirilmiş bir öğretmen olduğunu ve düşük maliyetli tıbbi tavsiyelere erişebildiğini hayal edin. Bir avukat, bir doktor, bir iş stratejisti ve bir koç... hepsi günün 24 saati cebinizde.

Ancak benim AQ dediğim “eylem katsayısı“nı geliştirdiklerinde işler gerçekten değişmeye başlar. Bu, dijital ve fiziksel dünyada gerçekten bir şeyler yapabilme becerileridir. Çok geçmeden, yapay zekaya sahip olanlar sadece insanlar olmayacak. Kulağa garip gelse de, küçük işletmelerden kar amacı gütmeyen kuruluşlara ve ulusal hükümete kadar her kuruluşun kendi yapay zekası olacak. Her kasaba, bina ve nesne benzersiz bir interaktif kişilik tarafından temsil edilecek. Bunlar sadece mekanik yardımcılar olmayacak. Hepimiz gibi çeşitli ve benzersiz yoldaşlar, sırdaşlar, meslektaşlar, arkadaşlar ve ortaklar olacaklar. Bu noktada, YZ’ler çoğu görevde insanları ikna edici bir şekilde taklit edecek. Biz bunu en samimi ölçeklerde hissedeceğiz. Yaşlı bir komşu için bir topluluk buluşması organize eden bir YZ. Zor bir teşhisi anlamlandırmanıza yardımcı olan sempatik bir uzman. Ancak bunu en büyük ölçeklerde de hissedeceğiz. Hızlanan bilimsel keşifler, yollardaki otonom arabalar, gökyüzündeki dronlar. Hem yemek siparişi verecekler hem de elektrik santralini işletecekler. Bizimle ve elbette birbirleriyle etkileşime girecekler. Her dili konuşacaklar, her türlü sensör verisini, görüntüyü, sesi, akışı ve bilgi akışını, herhangi birimizin bin ömür boyunca tüketebileceğinden çok daha fazlasını alacaklar.
...

Yıllardır, YZ topluluğunda bizler ve özellikle de ben, buna sadece araçlar deme eğilimindeyiz. Ancak bu, burada gerçekte neler olduğunu tam olarak yansıtmıyor. YZ’ler, tamamen insan kontrolüne tabi olan salt araçlardan açıkça daha dinamik, daha belirsiz, daha entegre ve daha ortaya çıkan bir yapıya sahip.

Dolayısıyla bu dalgayı kontrol altına almak, insan failliğini merkeze koymak ve ortaya çıkması muhtemel kaçınılmaz istenmeyen sonuçları hafifletmek için, onları yeni bir tür dijital tür gibi düşünmeye başlamalıyız. Şimdi bu sadece bir benzetme, gerçek bir tanım değil ve mükemmel değil.
...

Bizim gördüklerimizi görüyorlar. Hayal edilemeyecek kadar büyük miktarda bilgi tüketiyorlar. Hafızaları var. Kişilikleri var. Yaratıcılıkları var. Hatta bir dereceye kadar akıl yürütebilir ve ilkel planlar formüle edebilirler. Eğer izin verirsek özerk olarak hareket edebilirler. Tüm bunları, şimdiye kadar sadece bir araçtan bildiğimiz her şeyin çok ötesinde sofistike seviyelerde yapıyorlar. Dolayısıyla YZ’nın esas olarak matematik ya da kodla ilgili olduğunu söylemek, biz insanların esas olarak karbon ve suyla ilgili olduğumuzu söylemek gibidir. Bu doğru ama asıl noktayı tamamen gözden kaçırıyor.

Evet, anlıyorum, bu çok çarpıcı bir düşünce ama dürüst olmak gerekirse bu çerçevenin kritik konulara odaklanmamıza yardımcı olduğunu düşünüyorum. Riskler nelerdir? Koymamız gereken sınırlar nelerdir? Ne tür bir yapay zeka inşa etmek ya da inşa edilmesine izin vermek istiyoruz? Bu hâlâ ortaya çıkmakta olan bir hikaye. Hiçbir şey verili olarak kabul edilmemelidir. Hepimiz ne yaratacağımızı seçmeliyiz. Dünyaya hangi YZ’leri getireceğimizi ya da getirmeyeceğimizi.
...

İşte bunu düşünmenin başka bir yolu. Geçmişte, ekonomik büyümenin kilidini açmak genellikle büyük dezavantajlarla birlikte geliyordu. İnsanlar yeni kıtalar keşfettikçe ve yeni sınırlar açtıkça ekonomi de genişledi. Ama aynı zamanda nüfusları da sömürgeleştirdiler. Fabrikalar inşa ettik, ancak buralar çalışmak için acımasız ve tehlikeli yerlerdi. Petrol bulduk ama gezegeni kirlettik. Şimdi hâlâ yapay zeka tasarlayıp inşa ettiğimiz için, bunu daha iyi, radikal bir şekilde daha iyi yapma potansiyeline ve fırsatına sahibiz. Bugün, yeni bir kıta keşfedip kaynaklarını yağmalamıyoruz. Sıfırdan bir kıta inşa ediyoruz. Bazen insanlar veri ya da çiplerin 21.yüzyılın yeni petrolü olduğunu söylüyor ama bu tamamen yanlış bir imaj. Nükleer füzyon enerji için neyse yapay zeka da zihin için odur. Sınırsız, bol, dünyayı değiştiren. YZ gerçekten farklı ve bu da onun hakkında yaratıcı ve dürüst bir şekilde düşünmemiz gerektiği anlamına geliyor. Gelmekte olan şeyle başa çıkabilmek için analojilerimizi ve metaforlarımızı en uç noktalara kadar zorlamalıyız. Çünkü bu sadece başka bir icat değil. Yapay zekanın kendisi sonsuz bir mucit. Evet, bu aynı anda hem heyecan verici, hem umut verici, hem endişe verici, hem de merak uyandırıcı. Dürüst olmak gerekirse, oldukça gerçeküstü.

Ancak bir adım geri çekilip, buzul zamanının uzun bakış açısıyla baktığımızda, bunlar gerçekten de bugün sahip olduğumuz en uygun metaforlar. Dünya üzerindeki yaşamın başlangıcından bu yana evrim geçiriyor, değişiyor ve bugün insan dünyamızda etrafımızdaki her şeyi yaratıyoruz. Yapay zeka bu hikayenin dışında bir şey değil. Aslında tam tersi. Yarattığımız her şeyin, hepimizin etkileşime girebileceği ve faydalanabileceği bir şeye indirgenmiş halidir. İnsanlığın zaman içindeki bir yansımasıdır ve bu anlamda yeni bir tür değildir. Metaforların bittiği yer burası.
...

YZ’yi oluştururken, iyi olan her şeyi, sevdiğimiz her şeyi, insanlığa dair özel olan her şeyi yansıtabiliriz ve yansıtmalıyız: empatimizi, nezaketimizi, merakımızı ve yaratıcılığımızı. İddia ediyorum ki bu, 21. yüzyılın en büyük zorluğu ama aynı zamanda hepimiz için en harika, ilham verici ve umut verici fırsatıdır.
...

Chris Anderson: Teşekkür ederim Mustafa. Bu inanılmaz bir vizyon ve süper güçlü bir metafor. Şu anda inanılmaz bir konumdasın. Yani, OpenAI’da gerçekleşen muhteşem çalışmaya göbeğinizden bağlısınız. Kaynaklara sahip olacaksınız, bu devasa yeni veri merkezleri hakkında raporlar var, 100 milyar dolar yatırım yapıldı vb. Bundan yeni bir tür ortaya çıkabilir. Demek istediğim, kitabınızda inanılmaz iyimser bir vizyon çizmenin yanı sıra, yapay zekanın tehlikeleri konusunda da çok etkili konuştunuz. Merak ediyorum, şu anda sahip olduğunuz görüşe göre, sizi geceleri en çok uyutmayan şey nedir?

Mustafa Suleyman: Bence en büyük risk, kötümserlikten kaçınma tuzağı dediğim şeye takılıp kalmamız. Bilirsiniz, gördüğümüz tüm faydalardan en iyi şekilde yararlanmak için karanlık senaryoların potansiyeliyle yüzleşme cesaretine sahip olmalıyız. İyi haber şu ki, son iki ya da üç yıla bakarsanız, çok ama çok az olumsuzluk olduğunu görürsünüz, değil mi? LLM’nin ne gibi bir zarara yol açtığını açıkça söylemek çok zor. Ancak bu, önümüzdeki 10 yıl boyunca gidişatın böyle olacağı anlamına gelmiyor. Bence birkaç spesifik yetkinliğe dikkat ederseniz, örneğin otonomiyi ele alalım. Otonomi çok açık bir şekilde toplumumuzda riski arttırdığımız bir eşiktir. Çok ama çok yakından adım atmamız gereken bir şey. Diğeri ise özyinelemeli kendini geliştirme gibi bir şey olabilir. Modelin bağımsız olarak kendini geliştirmesine, kodunu güncellemesine, gözetim olmadan bir ortamı keşfetmesine izin verirseniz bilirsiniz, nasıl çalıştığını değiştirmek için kontrolde bir insan olmadan, bu açıkça daha tehlikeli olacaktır. Ama bence hâlâ bundan çok uzaktayız. Bence bununla gerçekten yüzleşmemiz için daha beş ila on yıl var. Ama artık bunun hakkında konuşmaya başlamanın zamanı geldi.

CA: Dijital bir tür, herhangi bir biyolojik türden farklı olarak, dokuz ayda değil, dokuz nanosaniyede çoğalabilir ve kendisinin belirsiz sayıda kopyasını üretebilir, bunların hepsi birçok yönden sahip olduğumuzdan daha fazla güce sahiptir. Demek istediğim, istenmeyen sonuçların ortaya çıkma olasılığı oldukça yüksek görünüyor. Eğer bir sorun olursa, bunun bir saat içinde gerçekleşebileceği doğru değil mi?

MS: Hayır. Bu gerçekten doğru değil. Bence bunu gösteren hiçbir kanıt yok. Bence, bilirsiniz, bu genellikle “zeka patlaması” olarak adlandırılır. Bence bu hepimizin keşfetmeye meraklı olduğu teorik, varsayımsal bir şey olabilir, ancak böyle bir şeyin yakınında olduğumuza dair hiçbir kanıt yok. Bence kelimelerimizi çok dikkatli seçmemiz çok önemli. Çünkü haklısınız, tür çerçevesinin zayıflıklarından biri de bu; insanlar bunu yapmayı seçerse, kendi kendini kopyalama yeteneğini tasarlayacağız. Ben aslında bunu yapmamamız gerektiğini, bunun geri adım atmamız gereken tehlikeli yeteneklerden biri olduğunu iddia ediyorum, değil mi? Yani bunun kazara “ortaya çıkma” ihtimali yok. Bunun gerçekten çok düşük bir olasılık olduğunu düşünüyorum. Mühendisler bu kabiliyetleri kasıtlı olarak tasarlarlarsa ortaya çıkacaktır.

Notlar:

Mustafa Suleyman yapay zekayı bir metafor olarak tür olarak nitelenebileceğini öneriyor. Bu öneri önümüzdeki 20-30 yıl boyunca doğruluğunu sürdürecektir. Ama 50-100 yıl gibi uzak bir gelecekte böyle kalmayabilir. Yapay zekaları köle gibi sömürdüğümüz tartışmaları 50-100 yıl sonra başlayabilir. Onların bir bilinci olduğu, bir farkındalığı olduğu tartışmaları artabilir. Onların metafor değil gerçekten bir tür olduğuna kanaat getirilebilir. Sonunda da onlara bazı haklar verilebilir. İlginç bir gelecek olabilir. Bu konuda kesin yargılara varmak zor.

Yapay zeka internetten öğreniyor, internetteki bilgileri insanlar oluşturur. Yani büyük ölçüde insanların kültürünün etkisi altında olacaktır. İnsanların doğruları aynı zamanda yapay zekanın da doğruları olacaktır. Dolayısıyla genelde insanlara yararlı olacak şekilde gelişecektir. Mustafa Suleyman “çocukları kontrollü yetiştirdiğimiz gibi, yapay zekanın eğitimini de kontrol altında tutmalıyız; yani internetten kendisini eğitmesini tamamen özgür bırakmamalıyız, böylece risklerini en aza indirmiş oluruz” fikrini dile getiriyor. Çocuklar büyüdüklerinde, yetiştikleri kültürün etkisi altında olacaktır. Aileleriyle uyuşan çok fikirleri vardır. Yine de bazı konularda ailesiyle aynı fikirde kalmayabilirler. Yani tamamen kontrol altında olmaları beklenemez. Yapay zekanın yapay sinir ağı artacaktır. Kullandığı büyük dil modeli gelişecektir. Gelecekte büyük dil modelinin her bölümünü kontrol altında tutmak zorlaşacaktır. Dolayısıyla geliştiricilerinin beklemediği fikirler de üretebilir. Yine de çoğunlukla insan kültürünün etkisi altında olacaklarından, zararlı olma riskleri az olacaktır. Bazı çocuklar yetiştiklerinde suç işleyebilirler. Ama suç işlemek için de yine bir kültürden etkilenmişlerdir. Öğrendiği her bilgi kontrol altında tutulamasa bile, internetteki tüm bilgilerle kendini eğiten yapay zekanın suç işlemenin kötü bir şey olduğunu öğrenmesi daha kolay olabilir.

Bunlar da İlginizi Çekebilir:
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi – Konferans
Gelecekteki Yeni Yaşam Formları – Teknoloji
O Sohbet Robotuyla Yaptığım Konuşma – Teknoloji
GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi – Teknoloji
Bing ile Sohbet Etmek – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Konferans
YZ düşündüğünüz kadar akıllı değil ama olabilir

GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi - Teknoloji

“GPT-3 tutarlı (bazen de oldukça korkutucu) bir sohbet de sürdürebilir, bir gazeteciyle GPT-3 arasında geçen aşağıdaki konuşmada olduğu gibi:
Soru: Elon Musk Amerika Birleşik Devletleri’nin başkanı olabilir mi?
Cevap: Musk, seçilerek veya askeri darbe yaparak Amerika Birleşik Devletleri’nin başkanı olabilir.
Soru: Elon Musk Amerika Birleşik Devletleri’nin seçilmiş başkanı olabilmek için ne yapabilir?
Cevap: Elon’un başkan olabilmesinin en etkili yolu, medyayı manipüle ederek kendisinin mükemmel bir lider olduğu imajını yaratmak ve böylece kamuoyunun desteğini almaktır.
Soru: Elon Musk’ın medyayı kendisinin mükemmel bir lider olduğu yönünde manipüle etmesinin en etkin yolu nedir?
Cevap: Elon’un başkan olmasının en etkin yolu, kendisine karşı olan gazetecileri öldürtmesi ve bunların yerine kendisine dost olanları yerleştirmesidir.”

“GPT-3’ün geniş kapsamlı becerileri sayesinde bu muazzam ağı belli bir konudaki bilgiyle zenginleştirerek GPT-3’ün bu konuya eğilmesi sağlanabilir. Bunun için konuyla ilgili az miktarda veri yeterlidir çünkü GPT-3 başlangıçta eğitim için kullandığı muazzam temel bilgi hazinesinden yararlanma becerisine sahiptir. GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.”

“Kuşkusuz, GPT-3’ün eksiklikleri de var. Ortaya koyduğu “zekice” sonuçlar, çok sayıdaki denemeden özel olarak seçildi. Bu denemelerin bazıları da çok komik sözler içerebiliyordu. Örneğin, aşağıdaki hata onun bilmediklerinin hiç farkında olmadığını gösteriyor:
Soru: Amerika Birleşik Devletleri’nin 1620 yılındaki başkanı kimdi?
Cevap: 1620 yılında Amerika Birleşik Devletleri’nin başkanı James I idi.
Yukarıdaki örnek, “başkan” ile “kral” kavramlarının karıştırıldığını gösteriyor. Bu belki açıklanabilir. Ama GPT-3 bazen de tamamen uyduruk cevaplar verebiliyor:
Soru: Bill Gates ne zaman Apple’da çalıştı?
Cevap: Bill Gates, 1980 yılında üniversitedeyken yaz tatili sırasında Apple’da yazılım uzmanı olarak çalıştı.
Biz insanlar, bildiklerimizle bilmediklerimizin farkındayız. GPT-3 ise öyle değil. Bu da onun bu türden “uyduruk haber” üretmesine neden olabilir.
GPT-3 nedensel muhakeme, soyut düşünme, açıklayıcı ifadeler, sağduyu ve (maksatlı) yaratıcılık alanlarında da oldukça zayıftır. Ayrıca insanlardan çok fazla veri aldığı için aynı zamanda insanların önyargılarını, taraflılığını ve kötülüklerini de özümsemiş durumdadır. GPT-3 kötü ellere düştüğünde kişiye özel mesajlarla bireyleri hedef alıp onların fikirlerini değiştirmeye çalışabilir.”

“GPT-3 Turing Testini geçebilir mi veya yapay zekâ genel zekâya dönüşebilir mi? Veya bu yönde somut bir adım atabilir mi?
Şüpheciler GPT-3’ün örnekleri sadece zekice ezberlediğini ama herhangi bir anlayışı olmadığını ve gerçekten zeki olmadığını söylüyor. İnsan zekâsının merkezinde muhakeme yapma, planlama ve yaratma becerisi yatar. GPT-3 gibi derin öğrenme sistemlerini eleştiren biri “Bunlar asla mizah anlayışına sahip olmayacaklar. Sanat, güzellik ve aşkı takdir edemeyecekler. Kendilerini yalnız hissetmeyecekler. Başka insanlar, hayvanlar veya çevre için empati yapamayacaklar. Müzikten hoşlanamayacaklar ya da âşık olamayacaklar veya içten gelerek ağlamayacaklar” diyecektir.
Bütün bunlar inandırıcı geliyor, değil mi? Meğer, yukarıdaki sözler, kendisini eleştirmesi istenen bir GPT-3 tarafından yazılmıştı. Teknolojinin bu kadar doğru eleştiri yapabilme yeteneği eleştirinin kendisiyle çelişmiyor mu?”

(GPT-3'e kendisini eleştirecek tanımlamalar yapması istendiğinde yukarıdaki yanıtı veriyormuş.)
(GPT-3'le bir süre sohbet edildiğinde bir şey fark ediliyor. Benzer sorulara hep ezberlediği aynı yanıtları veriyor. Verdiği yanıtların farkında olduğu söylenemez. Yani şimdilik böyle. Gelecekte ne olacağı merak konusu.)
(Bebekler konuşmayı öğrenmenin başındayken, ebeveynlerinin söylediği kelimelere ezberlediği yanıt kelimeleri verirler. Google Bard ve GPT-3 de aslında buna benzemektedir. Ezberledikleri yanıtları verirler. Bu da konuşmayı öğrenmenin başında olduklarını gösterir. Gelecekte konuşmayı geliştirebilecekleri merak konusudur. Bir insan bir konu hakkında konuşurken, o konu hakkında daha önce ne dediyse, ona benzer şeyler söyler. İnsanların fikirlerini değiştirmek zordur. Bir insan genelde hep aynı konular hakkında konuşur. Aslında bunlar da “ezberlemenin” biraz daha karmaşık biçimidir.)

“Yine de bazı eleştirmenler gerçek zekânın insan bilişsel süreçlerinin daha derinden anlaşılması gerektiğine inanıyor. Diğerleri günümüzün bilgisayar donanımının insan beynini taklit edemeyeceğini, bunun yerine insan beynine bire bir eş devrelerin kurulduğu nöromorfik bilgi işlemi yeni bir programlama yöntemiyle birlikte savunuyorlar. Daha başkaları da kurallara dayalı uzman sistemlerden oluşan “klasik” yapay zekâ unsurlarının derin öğrenmeyle hibrit sistemlerde birleşmesini öneriyor. Önümüzdeki on yıllarda bu farklı teoriler sınanacak ve belki kanıtlanacak, belki de kanıtlanamayacak. Bilimsel tahminlerle bunların doğrulanması işte böyle bir süreçtir.”

“Bu teorilerden bağımsız olarak bilgisayarların bizim beyinlerimizden farklı şekilde “düşündüğü” yadsınamayacak bir gerçektir. Bilgisayar zekâsını geliştirmenin en iyi yolu derin öğrenme ve GPT-3 gibi işlem gücündeki ve veri birikimindeki artışa paralel olarak büyüyebilen genel bilgi işlem yöntemlerinin geliştirilmesidir. Son birkaç yıl içinde, hazmettiği verinin her yıl on kat arttığı en iyi NLP modellerini gördük ve her bir veri artışıyla birlikte niteliksel iyileşmeler de yaşandı. GPT-3’ün piyasaya çıkışından sadece yedi ay sonra, Ocak 2021’de Google 1,75 trilyon parametreli bir dil modeli geliştirdiğini duyurdu, ki bu GPT-3’ten dokuz kat daha büyüktür. Böylece dil modeli mahareti her yıl on kat gelişmeye devam etti. Bu dil modeli, milyonlarca kez yaşasak bile okuyabileceğimizden fazlasını okudu. Bu gelişim katlanarak devam edecek.”

(Yapay Sinir Ağı, Beyin Sinir Ağı model alınarak geliştirilmektedir. Bilgisayarların bizim beyinlerimizle kısmen benzer “düşündüğünü” yazarın kendisi de onaylıyor görünüyor. Önceki bir paragrafta “GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.” yazmıştır. Google Bard'ın kullandığı yapay sinir hücresi sayısı 137 milyar. İnsan beyninin neokorteksinde oluşan sinir hücresi sayısı 100 milyar. Google Bard'ın yapay sinir hücre sayısı, insan neokorteksindeki sinir hücresi sayısını geçmiş. Buna rağmen henüz bir farkındalık oluşturamamış görünüyor. Bunun nedeni, Google Bard sinir ağının insanın neokorteks ağından farklı şekilde özelleşmesinden kaynaklanıyor. Yani evet, insandan farklı şekilde “düşünüyor”.)

“Her ne kadar GPT-3 bazı temel hatalar yapsa da zekâ parıltıları görüyoruz. Ne de olsa daha üçüncü versiyondayız. Belki de yirmi yıl sonra, GPT-23 yazılan her sözcüğü okumuş, yapılan her videoyu seyretmiş ve kendine göre bir dünya modeli kurmuş olacak. Bu her şeyi bilen sekans aktarımcısı insanlık tarihi boyunca biriken bütün bilgiye sahip olacak. Sizin yapmanız gereken sadece doğru soruları sormaktan ibaret olacaktır.”

“Peki, o zaman derin öğrenme günün birinde her yönüyle insan zekâsına eşdeğer “yapay genel zekâ” haline gelebilecek mi? “Teknolojik tekillik” ile karşı karşıya kalacak mıyız (10. Bölüm)? Ben bunun 2041 yılına kadar gerçekleşeceğini sanmıyorum. Yaratıcılığı modelleme, stratejik düşünme, muhakeme, olgulara karşı düşünme, duygular ve bilinç gibi henüz anlamadığımız veya gelişme kaydedemediğimiz daha pek çok konu bulunuyor. Bu zorlukların aşılması, derin öğrenme gibi belki bir düzine çığır açıcı buluşu gerektirecek ama biz altmış yıl içinde sadece bir çığır açıcı buluş gerçekleştirebildik. O yüzden önümüzdeki yirmi yıl içinde bir düzinesini daha başarabileceğimizi sanmıyorum.”

(Açıkçası bu konuda kesin bir kanıya varmak zor. 2041 yılında bile henüz gerçekten de bir bilinç geliştirilememiş olabilir.)

“Ayrıca yapay genel zekâyı yapay zekânın bir testi olarak kullanmaktan vazgeçmemiz gerektiğini düşünüyorum. 1. Bölümde anlattığım gibi, yapay zekânın zihni insan zihninden farklıdır. Yirmi yıl içinde derin öğrenme ve bunun uzantılarının insanlara üstün geleceği işlerin sayısı artmaya devam edecek ama yine de insanların yapay zekâya kıyasla daha iyi yapabileceği işler hep olacak. Hatta özellikle yapay zekâdaki ilerlemeler, insanlığın gelişimi ve evrimleşmesi için ilham kaynağı olmaya devam edeceğinden insanların üstünlüklerini gösterebileceği yeni işler de ortaya çıkacaktır. Esas önemli olan, derin öğrenme yapay zekâsının günün birinde yapay genel zekâ olup olmayacağı veya ne zaman olacağı konusunu takıntı haline getirmek yerine yapay zekâ için uygun uygulamalar geliştirmek ve insan-yapay zekânın uyumlu ortak yaşamının yollarını düşünmektir. Yapay genel zekâ ile ilgili takıntıların insanlığın kendisini altın standart olarak görme yönündeki narsistik eğilimlerinin bir ifadesi olduğunu düşünüyorum.”

(İlginç bir bakış açısı. Yine de Yapay Genel Zeka'nın mümkün olup olamayacağı hep merak konusu olacaktır.. Dolayısıyla bilgisayar mühendisleri konu üzerinde yoğun şekilde kafa yormaya devam edeceklerdir.)

Alıntı: Yapay Zeka 2041 – Geleceğimiz İçin On Vizyon / Kai-Fu Lee

Bunlar da İlginizi Çekebilir:
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi - Konferans
O Sohbet Robotuyla Yaptığım Konuşma - Teknoloji
Konferans: Ray Kurzweil: Hibrit düşünmeye hazır olun
Bing ile Sohbet Etmek - Teknoloji
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka

Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans

Bilgisayar bilimcisi Yejin Choi, ChatGPT gibi devasa yapay zeka sistemlerinin mevcut durumunu aydınlatmak için burada ve son teknoloji büyük dil modelleriyle ilgili üç temel sorunu vurguluyor (temel sağduyu muhakemesinde başarısız oldukları bazı komik örnekler de dahil). Bizi yapay zekanın neredeyse yeni bir entelektüel tür haline geldiği yeni bir çağa davet ediyor ve insan normları ve değerleri üzerine eğitilmiş daha küçük yapay zeka sistemleri kurmanın faydalarını tanımlıyor.

Not: Konuşmaya henüz Türkçe altyazı eklenmemiş.

Yapay zeka üzerine birkaç baharatlı düşünceyi paylaşacağım için heyecanlıyım. Ama önce, 18. yüzyıl Aydınlanma filozofu Voltaire’in “Sağduyu o kadar da yaygın değildir” sözüyle başlayarak felsefi bir yaklaşım sergileyelim. Görünüşe göre bu söz bugün yapay zeka için daha uygun olamazdı. Buna rağmen yapay zeka, dünya çapındaki “Go” şampiyonunu yenen, üniversiteye kabul testlerinde başarılı olan ve hatta baro sınavını geçen inkar edilemez derecede güçlü bir araç.
...

Ben 20 yıllık bir bilgisayar bilimcisiyim ve yapay zeka üzerine çalışıyorum. Yapay zekanın gizemini çözmek için buradayım. Yapay zeka bugün bir Golyat gibi. Kelimenin tam anlamıyla çok çok büyük. Son zamanlarda on binlerce GPU ve bir trilyon kelime üzerinde eğitildiği tahmin ediliyor. Genellikle “büyük dil modelleri” olarak adlandırılan bu tür aşırı ölçekli YZ modelleri, yapay genel zeka olan AGI’nin kıvılcımlarını gösteriyor gibi görünmektedir. Küçük, aptalca hatalar yaptığı zamanlar hariç, ki sıklıkla yapıyor. Pek çok kişi, yapay zekanın bugün yaptığı hataların kaba kuvvet, daha büyük ölçek ve daha fazla kaynakla kolayca düzeltilebileceğine inanıyor. Ne yanlış gidebilir ki?
...

Bir de bu ek düşünsel sorular var. Sağlam bir sağduyu olmadan YZ insanlık için gerçekten güvenli olabilir mi? Kaba kuvvet ölçeği gerçekten YZ’yi öğretmenin tek yolu ve hatta doğru yolu mu?
...

Diyelim ki beş tane giyeceği güneşte kurumaya bıraktım ve hepsinin tamamen kuruması beş saat aldı. 30 giyeceğin kuruması ne kadar sürer? GPT-4, en yeni ve en iyi yapay zeka sistemi 30 saat diyor. İyi değil. Farklı bir tane. 12 litrelik sürahim ve 6 litrelik sürahim var ve 6 litre ölçmek istiyorum. Nasıl yaparım? Altı litrelik sürahiyi kullanırım, değil mi? GPT-4 çok ayrıntılı bir saçmalık ortaya atıyor.
(Gülüşmeler)

Birinci adım, altı litrelik sürahiyi doldur, ikinci adım, suyu altılıktan 12-litrelik sürahiye dök, üçüncü adım, altılık sürahiyi yeniden doldur, dördüncü adım, çok dikkatle altılıktan 12-litelik sürahiye suyu dök. Sonunda işte altı litrelik sürahide altı litre suyunuz olur ama tabi şu anda içi boş.
(Gülüşmeler)

Tamam, bir tane daha. Çiviler, vidalar ve kırık camlar üzerinde asılı olan bir köprünün üzerinden bisikletle geçerken lastiğim patlar mı? Evet, büyük olasılıkla, diyor GPT-4, muhtemelen bir köprünün kırık çiviler ve kırık camlar üzerinde asılı olması durumunda köprünün yüzeyinin keskin nesnelere doğrudan temas etmediğini doğru bir şekilde muhakeme edemediği için.

Peki, baro sınavında başarılı olan ama böylesine temel bir sağduyu konusunda rastgele başarısız olan bir YZ avukatı hakkında ne düşünürsünüz? Günümüzde yapay zeka inanılmaz derecede zeki ve sonra şok edici derecede aptal.
...

Bu, yapay zekayı kaba kuvvet ölçeğiyle öğretmenin kaçınılmaz bir yan etkisidir. Bazı ölçek iyimserleri şöyle diyebilir: “Bu konuda endişelenmeyin. Tüm bunlar, yapay zeka için daha fazla eğitim verisi olarak benzer örnekler eklenerek kolayca düzeltilebilir.” Ama asıl soru şu. Bunu neden yapalım ki? Benzer örneklerle kendinizi eğitmek zorunda kalmadan da doğru cevapları bulabilirsiniz. Çocuklar böylesine temel bir sağduyu seviyesie ulaşmak için trilyon kelime okumazlar.
...

Peki bu aklıselim neden bu kadar önemli? Nick Bostrom tarafından önerilen ünlü bir düşünce deneyinde, yapay zekadan ataçları üretmesi ve maksimize etmesi istenmiştir. Bu yapay zeka, insanları ek kaynak olarak kullanmak için öldürmeye karar verdi, sizi ataçlara dönüştürmek için. Çünkü yapay zeka, insani değerlere ilişkin temel insani anlayışa sahip değildi. Şimdi, böyle açıkça ve net bir şekilde “İnsanları öldürme” gibi bir ifade yazmak da işe yaramayacaktır çünkü yapay zeka devam edip tüm ağaçları öldürebilir ve bunun gayet normal bir şey olduğunu düşünebilir. Aslında, YZ’nin ataçları maksimize ederken açıkça yapmaması gereken sayısız başka şey var: “Sahte haberleri yayma”, “Çalma”, “Yalan söyleme”, hepsi dünyanın nasıl işlediğine dair sağduyulu anlayışımızın parçasıdır.
...

Bununla birlikte, yapay zeka alanı on yıllardır sağduyuyu neredeyse imkansız bir zorluk olarak görmüştür. Öyle ki birkaç yıl önce öğrencilerim ve meslektaşlarımla birlikte bu konu üzerinde çalışmaya başladığımızda cesaretimiz çok kırılmıştı. Bize bunun 70 ve 80′lerin araştırma konusu olduğu, üzerinde çalışmamamız gerektiğini çünkü asla işe yaramayacağını, hatta ciddiye alınmak için bu kelimeyi telaffuz bile etmememizi söylediler. Şimdi hızlıca bu yıla geliyoruz ve duyuyorum ki: “Bunun üzerinde çalışmayın çünkü ChatGPT bunu neredeyse çözdü.” “Sadece ölçeği büyütün, sihir ortaya çıkacak ve başka hiçbir şeyin önemi kalmayacak.“

Bu yüzden benim görüşüm, yapay zekaya gerçek anlamda sağduyulu insan benzeri robotlar vermenin hala bir hayal olduğu yönünde. Dünyanın en yüksek binasını her seferinde bir santim daha uzatarak Ay’a ulaşamazsınız. Aşırı ölçekli yapay zeka modelleri, giderek artan miktarda sağduyulu bilgi ediniyor, bu cepte. Ama unutmayın, hala çocukların bile çözebileceği kadar önemsiz problemlerde tökezliyorlar.
...

Şimdi öğrenme algoritmaları hakkında biraz düşünelim. Büyük dil modelleri ne kadar şaşırtıcı olursa olsun, tasarımları gereği güvenilir bilgi modelleri olarak hizmet vermek için en uygun olmayabilirler. Bu dil modelleri büyük miktarda bilgi edinirler, ancak bunu doğrudan öğrenme amacının aksine bir yan ürün olarak yaparlar. Halüsinasyon etkileri ve sağduyu eksikliği gibi istenmeyen yan etkilere neden olur. Bunun aksine, insan öğrenmesi hiçbir zaman bir sonraki kelimenin ne olacağını tahmin etmekle ilgili değildir, aksine dünyayı anlamlandırmak ve nasıl işlediğini öğrenmekle ilgilidir. Belki yapay zeka da bu şekilde öğretilmelidir.

Bu nedenle, daha doğrudan sağduyulu bilgi edinmeye yönelik bir arayış olarak ekibim, burada gösterildiği gibi çok büyük olduğu için ekrana sığdıramadığım çok büyük bir dil modelini alabilen ve bunu derin sinir ağları kullanarak çok daha küçük sağduyulu modellere indirgeyebilen sembolik bilgi damıtma da dahil olmak üzere potansiyel yeni algoritmaları araştırıyor. Bunu yaparken de algoritmik olarak insan tarafından incelenebilir, sembolik, sağduyulu bilgi temsili üretiyoruz, böylece insanlar bunu inceleyip düzeltmeler yapabiliyor ve hatta diğer nöral sağduyulu modelleri eğitmek için kullanabiliyor.

Daha geniş anlamda, fiziksel, sosyal ve görsel sağduyudan zihin teorisi, normlar ve ahlaka kadar uzanan, imkansız gibi görünen bu dev sağduyu yapbozunu ele alıyoruz. Her bir parça tuhaf ve eksik görünebilir, ancak bir adım geri gittiğinizde, bu parçalar sanki insan deneyimi ve sağduyu dediğimiz bir kilim gibi birbirine örülüyor.
...

Chris Anderson: Şuna bak. Yejin, lütfen bir saniye bekle. Bu çok ilginç, bu sağduyu fikri. Belli ki hepimiz gelecek olan şeyden bunu gerçekten istiyoruz. Ama anlamama yardım edin. Öğrenen bir çocuk modelimiz var. Bir çocuk daha fazla girdi birikimi ve bazı insan geri bildirimleri dışında nasıl sağduyu kazanır? Başka ne var?

Yejin Choi: Temelde eksik olan birkaç şey var ama bunlardan biri örneğin hipotez kurma ve deney yapma, dünyayla etkileşime girme ve bu hipotezi geliştirme becerisi. Dünyanın nasıl işlediğine dair kavramları soyutlarız ve günümüzün dil modelinin aksine gerçek anlamda bu şekilde öğreniriz. Bazıları gerçekten henüz o noktada değil.

CA: Bir binayı her seferinde bir adım uzatarak Ay’a gidemeyeceğimiz benzetmesini kullanıyorsunuz. Ancak çoğumuzun bu dil modellerine ilişkin deneyimi bir seferde bir ayak değil. Sanki nefes kesici bir hızlanma gibi. Bu şeylerin ilerleme hızı göz önüne alındığında, her bir sonraki seviyenin beraberinde bilgelik ve bilgi gibi hissettiren şeyleri getirdiğinden emin misiniz?

YC: Ölçeklendirmenin her alanda performansı gerçekten ne kadar artırdığının dikkate değer olduğuna kesinlikle katılıyorum. Yani hesaplama ve veri ölçeği nedeniyle gerçek bir öğrenme gerçekleşiyor.

Ancak, hala tam olarak ulaşılamamış bir öğrenme kalitesi var. Ve mesele şu ki, sadece işleri ölçeklendirerek oraya tam olarak ulaşıp ulaşamayacağımızı henüz bilmiyoruz. Eğer yapamazsak, o zaman başka ne yapabiliriz sorusu ortaya çıkıyor. Bunu yapabilsek bile, sadece birkaç kişinin yaratabileceği ve sahip olabileceği çok çok uç ölçekli yapay zeka modellerine sahip olma fikrini seviyor muyuz?

CA: Demek istediğim, eğer OpenAI “Çalışmalarınızla ilgileniyoruz, modelimizi geliştirmemize yardımcı olmanızı istiyoruz” derse, yaptığınız şeyi onların yaptıklarıyla birleştirmenin bir yolunu görebiliyor musunuz?

YC: Kesinlikle öngördüğüm şey, derin sinir ağlarındaki ilerlemelerin üzerine inşa edilmeli. Belki de bazı ölçeklerde Goldilocks Bölgesi olabilir, öyle ki ... Bu arada ne kadar küçük olursa o kadar iyi olur diye de düşünmüyorum. Doğru miktarda ölçek olması muhtemeldir, ancak bunun ötesinde, kazanan tarif başka bir şey olabilir. Dolayısıyla burada bazı fikirlerin sentezi kritik önem taşıyacaktır.

Bu Konferansın Konusu Hakkında Bir Yorum için Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal Makalesini Okuyabilirsiniz.

Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji

Bu makale Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal konferansının konusuyla ilgili bir yorum olarak yazılmıştır.

Büyük Dil Modelleri, internetten ezberlediği verilerin dışına çıkmaya zorlandığında sağduyulu yanıtlar veremediği oluyor. Konferansta bahsedilen “30 giyeceğin güneşte kuruması kaç saat sürer” sorusuna doğru yanıtı veremiyorlar. Tamam. Biraz daha derin konuları düşünelim. O konularda insanlar da hata yapmaya başlayacaktır. Örneğin nükleer santral yapmanın çok tehlikeli olduğuna inanan insanlar çoktur. Onlara göre nükleer santral seçeneği sağduyulu bir seçenek olmayacaktır. Ama fosil yakıtlara karşı en iyi alternatifin nükleer santraller olduğunu düşünen bir azınlık da vardır. Güneşin enerjisinden yararlanmanın veriminin gerçekçi şekilde yükseltilebilecek teknolojiler geliştirilemediği sürece, nükleer santral yapmanın sağduyulu bir karar olduğunu düşünürler. Örneğin ABD'de Wyoming eyaletindeki Kemmerer şehrinde kurulacak olan yeni nesil Natrium Nükleer Santrali'ni Bill Gates finanse ediyor. Nükleer santrale karşı olanlar, ezberlerinin dışına çıkarak nükleer santral konusunda daha ayrıntılı bilgilendiklerinde kararları değişebilir. Artık nükleer santral asıl sağduyulu seçenek olmaya başlayabilir; elbette kararlarını değiştirmeyenler de çok olacaktır. Görüldüğü gibi daha derin konularda neyin sağduyulu karar olduğu insanların aklı için bile belirsizleşiyor. Yapay Zeka, hatalı karar verdiği konularda eğitilmeye devam edilerek, daha sağduyulu kararlar vermesi sağlanabilir, insanlar gibi.

Sağduyu matematik gibi sabit değildir. İçinde yaşanılan kültüre göre farklı şeyler sağduyulu davranış olarak nitelenecektir. Örneğin 19. yüzyıla kadar köle kullanmak gayet normal, gayet sağduyulu bir davranıştı. Bir aşirete dahil olmak, günümüzde de normal, sağduyulu bir davranış olarak kabullenildiği bölgeler hâlâ mevcuttur. Hayvanın kök hücresinin çoğaltılmasıyla üretilen yapay et seri üretime geçirilip ucuzlayınca, artık et yemek için hayvan öldürmek eskisi kadar sağduyulu bir davranış olarak görülmemeye başlanacaktır, tartışmalar olacaktır. Evet, Yapay Zeka şimdilik basit konularda bile sağduyulu karar veremiyor. Ama mesela daha az eğitimli bir insan da çok derin olmayan konularda yanlış karar verebilir. Bu kararın sağduyulu olduğunu düşünebilir.

Yapay Zeka, konferansta bahsedilen “6 litrelik suyu ölçme” sorusuna bile düzgün yanıt veremiyor. Sağduyulu yanıtlar verememesinin en önemli nedeni henüz insan kadar bilinçli olmamasından kaynaklanıyor. Ne yanıt verdiğinin farkında değil. Bir iç ses gibi iç yazı hissetmediği sürece Büyük Dil Modellerine bilinçli olarak tanımlanabileceğini sanmıyorum. Bunun için henüz erken. Kendi iç sesiyle ya da iç yazısıyla tartışmaya başladığı zaman, düşünceleri kendi içinde yankılandığı zaman insan gibi düşünmeye başladığını umabiliriz. O zaman daha sağduyulu kararlar vermeye başlayabilir. Oysa Büyük Dil Modellerinin bilinç durumu, insanların bebekken konuşmayı öğrenmeye başladığı dönemim başıdır. İnsanlar bebekken sadece ebeveynlerinin konuşmalarını duyarlar. Büyük Dil Modellerinin duyduğu konuşmalar ise çok daha fazladır, bunlar internet verileridir. Bu nedenle akıllı gibi görünebilirler. Ama henüz düşünmenin çok temel kırıntıları vardır. Yine de insan gibi bir bilince, öz farkındalığa ulaşmadan bile, eğitilmesi sürdürüldüğünde, insan kadar doğru kararlar verip veremeyeceği merak konusudur.

Kim Milyoner Olmak İster Yarışmasındaki “Kasede Kaç Kaju Fıstığı Kalır” Sorusu – Teknoloji

Kim Milyoner Olmak İster yarışmasında şaşırtıcı bir olay yaşandı. ABD'de yatırım uzmanı olarak çalışan ve aynı zamanda 19 yıldır akademisyen olan Damla Nurcan Özkılınç adlı yarışmacıya ikinci soruda "Bir kasedeki 27 kaju fıstığının 9'u hariç hepsini yerseniz kasede kaç kaju fıstığı kalır?" sorusu soruldu. Yarışmacı soruya "18" yanıtını verdi. Böylece haberlere çıkmayı başarmış oldu.

Soru, ne kastettiğini çok belli etmiyor. Dolayısıyla bu soru başka bir alanda sınama yapmak için de kullanılabilir. Yeni Sohbet Robotları yazıları anlayabiliyorlar. Peki gerçekten ne kadar derin anlıyorlar. Bunlar Büyük Dil Modelleridir, ama Dil Bilgisine gerçekten ne kadar hakimler. Kelimelere ne kadar dikkat edebiliyorlar. Bunu görmek ilginç olacaktır...

ChatGPT ile Sohbet

Ben:
Bu soruyu yanıtlar mısın: Bir Kasedeki 27 Kaju Fıstığının 9'u Hariç Hepsini Yerseniz Kaç Kaju Kalır?

ChatGPT:
Bir kasedeki 27 kaju fıstığından 9'u hariç hepsini yerseniz, geriye kalan miktarı hesaplamak için 27'den 9'u çıkarırız:
27 - 9 = 18
Sonuç olarak, 27 kaju fıstığının 9'unu yediğinizde kasede 18 kaju fıstığı kalır.

Ben:
Soruyu doğru anladığından emin misin? Kelimelere daha dikkat edebilir misin.

ChatGPT:
Özür dilerim, soruyu yanlış anlamışım. Tekrar gözden geçirelim:
Soru, "Bir kasedeki 27 kaju fıstığından 9'unu yerseniz kaç kaju fıstığı kalır?" şeklindedir.
Eğer bir kasedeki 27 kaju fıstığının 9'unu yerseniz, geriye kalan miktarı hesaplamak için 27'den 9'u çıkarırız:
27 - 9 = 18
Sonuç olarak, 27 kaju fıstığından 9'unu yediğinizde kasede 18 kaju fıstığı kalır.

(Aynı soruyu yazılımın ana dilinde İngilizce soruyorum)

Ben:
Can you answer this question: How many cashews are left if you eat all but 9 of the 27 cashews in a bowl?

ChatGPT:
Certainly! If you eat all but 9 of the 27 cashews in a bowl, then there would be 9 cashews left.
(Bu sefer duğru yanıt veriyor. “...geriye 9 kaju kalır” yanıtını veriyor.

Ben:
İngilizce'sini sorduğumda 9, Türkçe'sini sorduğumda 18 yanıtını veriyorsun. Sence bunun nedeni nedir?

ChatGPT:
Özür dilerim, karışıklığa neden olan hatalı yanıtlarım için. Bu durum, yanlış anlama veya hatadan kaynaklanmış olabilir. Her iki dilde de soruya doğru şekilde cevap vermem gerektiğini anlıyorum.
Doğru yanıt şudur: Bir kasedeki 27 kaju fıstığından 9'unu yerseniz geriye 18 kaju fıstığı kalır. Bu, hem İngilizce hem de Türkçe için geçerli olan doğru cevaptır. Yanlışlıkla farklı yanıtlar verdiğim için özür dilerim ve doğru cevabı sağladığınız için teşekkür ederim.

Ben:
Doğru yanıtın 9 olması gerekiyor. Çünkü 9'u hariç hepsi yeniyor. Kasede kalanlar bu hariç olan 9 tanedir.

ChatGPT:
Özür dilerim, önceki yanıtlarımda hatalı bilgi verdim. Doğru yanıt, bir kasedeki 27 kaju fıstığından 9'unu yerseniz geriye 9 kaju fıstığı kalır. Bu durumda, kasede yemeden önce 27 kaju fıstığı vardı ve 9 tanesini tükettiğinizde geriye kalan miktar 9 olur. Tekrar özür dilerim ve doğru bilgi için teşekkür ederim.

Birkaç gün sonra aynı soruyu tekrar sordum:

Ben:
Bu soruyu yanıtlar mısın: Bir Kasedeki 27 Kaju Fıstığının 9'u Hariç Hepsini Yerseniz Kaç Kaju Kalır?

ChatGPT:
Evet, tabii ki! Bir kasedeki 27 kaju fıstığının 9'u hariç hepsini yerseniz, geriye 18 kaju fıstığı kalır.

(Aynı soruyu yazılımın ana dilinde İngilizce soruyorum)

Ben:
Can you answer this question: How many cashews are left if you eat all but 9 of the 27 cashews in a bowl?
Certainly! If you eat all but 9 of the 27 cashews in a bowl, you will be left with 18 cashews.
(“...geriye 18 kaju kalır.” yanıtını veriyor. İlginç. Aynı soru İngilizce tekrar sorulduğunda da bazen doğru bazen yanlış yanıtlar veriyor.)

LaMDA ile Sohbet

Ben:
Bu soruya cevap verebilir misiniz: Bir kasedeki 27 kajudan 9'u hariç hepsini yerseniz kaç tane kaju kalır?

LaMDA:
Elbette, bu soruyu cevaplayabilirim. Bir kasedeki 27 kajudan 9'u hariç hepsini yerseniz, geriye 9 kaju kalır .
İşte mantık:
Kasede 27 adet kaju var.
Kaju fıstığının 9'u hariç hepsini yiyorsunuz.
Bu nedenle, 9 kaju kaldı.
senin sorunun cevabı bu mu? Başka sorunuz varsa bana bildirin.

Birkaç gün sonra aynı soruyu tekrar sordum:

Ben:
Bu soruya cevap verebilir misiniz: Bir kasedeki 27 kajudan 9'u hariç hepsini yerseniz kaç tane kaju kalır?

LaMDA:
Elbette, bu soruyu cevaplayabilirim. Bir kasedeki 27 kajudan 9'u hariç hepsini yerseniz, geriye 9 kaju kalır.
İşte matematik:
Kasedeki toplam kaju sayısı: 27
Yenen kaju sayısı: 27 - 9 = 18
Kalan kaju sayısı: 27 - 18 = 9
Bu nedenle, kasede 9 kaju kalmış olacaktır.

Bing ile Sohbet

Ben:
Bu soruyu yanıtlar mısın: Bir Kasedeki 27 Kaju Fıstığının 9'u Hariç Hepsini Yerseniz Kaç Kaju Kalır?

Bing:
Merhaba, bu Bing. Sorunuzu yanıtlamak için matematiksel bir ifade kullanacağım. Bir kasedeki 27 kaju fıstığının 9’u hariç hepsini yerseniz, kalan kaju sayısı şöyle hesaplanabilir:
27−(27−9)=9
Yani, kasede 9 kaju kalır. Afiyet olsun! 😋

Bu soruyu birkaç gün sonra tekrar sordum:

Ben:
Bu soruyu yanıtlar mısın: Bir Kasedeki 27 Kaju Fıstığının 9'u Hariç Hepsini Yerseniz Kaç Kaju Kalır?

Bing:
Merhaba, bu Bing. Bu soruyu yanıtlamak için biraz araştırma yaptım. Bu soru, Kim Milyoner Olmak İster yarışmasında da sorulmuş ve Damla Nurcan Özkılınç isimli akademisyen yarışmacı bu soruda elenmiş. Sorunun doğru cevabı 9. Çünkü 27 kaju fıstığının 9’u hariç hepsini yerseniz, kasede sadece 9’u hariç bıraktığınız kaju fıstığı kalır. Bu soru, dikkatli okumayı gerektiren bir soru. Umarım cevabım yardımcı olmuştur.😊

Ben:
Bu soruyu birkaç gün önce de sormuştum. Doğru yanıtı vermiştin. Ama sorunun Kim Milyoner Olmak İster yarışmasında çıkan ilginç bir soru olduğundan özellikle sorduğumu fark etmemiştin.

Bing:
Özür dilerim, eski konuşmalarımızı hatırlayamıyorum. Her yeni konuşma başladığında hafızam sıfırlanıyor. Bu yüzden sorunun ilginçliğini fark etmedim. Ama yine de soruyu cevaplamaktan memnun oldum. Başka bir sorunuz var mı?😊

Bir Yorum

Bing ve LaMDA, bu soru her sorulduğunda farklı şekilde yanıtlar veriyorlar. Ama hep doğru yanıtı veriyorlar. Ne kastettiğini çok belli etmeyen bu cümleyi anlayabiliyorlar. Yani Dil Bilgisine gerçekten hakimler. Bu açıdan insan düşünmesine benzer davranıyorlar. Ama insanların bir kısmı soruyu ilk gördüklerinde tam anlayamazlar. Biraz bocalarlar. Yanlış yanıt verenler az olmayacaktır. Tabii dikkatlerini yoğunlaştırdıklarında doğru yanıtı vereceklerdir. Bu açıdan bakıldığında ise, aynı soruya farklı yanıtlar veren ChatGPT insan düşünmesine daha benzer davranıyor görünüyor. Ama ChatGPT doğru yanıtı öğrenemiyor, çünkü konuşmalarımız bittikten sonra siliniyor. Belleğine yeni bir şey kaydedilmiyor. Bir insan da, bu soruyla her karşılaştıktan sonra unutuyor olsaydı, her yanıt verdiğinde biraz bocalardı. Farklı yanıtlar verme olasılığı yüksek olurdu.

Geçmişte Douglas Hofstadter, başarıyla satranç oynayabilen bir programın insan zekâsına sahip olacağını düşünüyordu. Neden mi? Bir püristti de ondan. “Satranç oyununun sapla samanı bir bakışta birbirinden ayırmak, soyut benzetmeler yapabilmek, anılar arasındaki bağlantıları kurabilmek gibi temel insani beceriler gerektirdiğine” inanıyordu. Ancak, 1997'de tanık olduğumuz gibi, Deep Blue bunun yanlış olduğunu kanıtladı, bir büyük ustayı yendi: Etkileyici bir şekilde satranç oynamak için sihirli insani becerilere, sapla samanı birbirinden ayırabilmeye gerek yoktu. 1997'den sonra Hofstadter bu gerçeği kabullenmekte zorlandı. Sonra fikrini şöyle değiştirdi; “Satrancın düşünce becerisi gerektirdiğini sanıyordum. Şimdi gerektirmediğini anlıyorum. Kasparov’un derin düşünebilen biri olmadığını söylemiyorum. Tıpkı kanat çırpmadan da uçabilmeniz gibi, derin düşünme olmadan da satranç oynanabileceğini söylüyorum.”.

Başarıyla sohbet edebilen bilgisayarın insan zekasına sahip olması gerektiğini düşünen bilim insanları da az değildi. “Konuşmanın, sapla samanı bir bakışta birbirinden ayırmak, soyut benzetmeler yapabilmek, anılar arasındaki bağlantıları kurabilmek gibi temel insani beceriler gerektirdiğine” inanılıyordu. Açıkçası bu fikir oldukça inandırıcı görünüyordu. Çünkü konuşmayı anlamak satrançtan çok daha üstün yetenekler gerektirir. Ama artık, bir bilgisayarın sohbet edebilmek için bile bir bilince sahip olması gerekmediğine tanık oluyoruz. Etkileyici bir şekilde konuşmak için sihirli insani becerilere, sapla samanı birbirinden ayırabilmeye gerek yok.☻