Yapay zekanın bilinçli olması neden düşük bir ihtimal – TED Konuşması – Teknoloji

 
Konuşmayı izlemek resime tıklayın.

Bu TED Konuşması ilginizi çekerse “Yapay zekanın bilinçli olması neden düşük bir ihtimal Başlıklı TED Konuşmasına Bir Eleştiri -Teknoloji” başlıklı makaleyi de okumanız önerilir.

Anil Seth'in Konuşmasından Alıntılar

Yüzyıllardır insanlar, kendimizin yapay versiyonlarını yaratarak Tanrı'yı oynama fantezileri kuruyorlar. Mary Shelley'nin "Frankenstein"ından Stanley Kubrick'in "2001"indeki Hal'a ve Alex Garland'ın "Ex Machina"sındaki Ava'ya kadar; bu, her yeni teknoloji dalgasıyla yeniden keşfedilen bir rüyadır ve yapay zeka ile bu dalga devasa bir boyuta ulaşmıştır.
...

Kendi iç dünyaları olan yeni varlıklara, sadece bizim üzerimizdeki etkileri için değil, kendi varlıkları adına da önem taşıyan yeni icatlara sahip oluruz. Bilinçli bir yapay zeka, belki de bizim fark bile edemeyeceğimiz şekillerde, bir fare tıklamasının acısını çekebilir. Ve eğer silikon duyarlı hale gelebilirse, o zaman belki de bizim dağınık etten ve kemikten bedenlerimizin yerini yakında hiç yaşlanmayan ve ölmeyen makineler alacaktır.
...

Son birkaç yılda yapay zekadaki ilerleme tek kelimeyle şaşırtıcıydı. Ve kim bilir köşede ne var. Birçok uzman bilinçli yapay zekanın mümkün olduğunu düşünüyor. Epey bir kısmı bunun kaçınılmaz olduğunu, bazıları ise çoktan burada olduğunu düşünüyor. Bence yanılıyorlar. Size nedenini ve bunun neden bu kadar önemli olduğunu anlatmak istiyorum.
...

Bilinçli olduğumuzu biliyoruz ve akıllı olduğumuzu düşünmeyi seviyoruz. Bu yüzden ikisinin birlikte gittiğini sanıyoruz. Bazı insanların, yapay zeka daha akıllı hale geldikçe bilincin bir şekilde parlayarak var olacağını düşünmesinin nedeni budur. Ancak bilinç ve zekâ farklı şeylerdir. Zekâ tamamen yapmakla ilgilidir. Bir bulmaca çözmek, mobilya monte etmek, zorlu bir aile durumunu yönetmektir.

Bilinç ise diğer yandan, tamamen hissetmek ve olmakla ilgilidir. Normal, uyanık farkındalık ile genel anestezinin bilinmezliği arasındaki farktır. Kahvenin acı tadıdır, odun ateşinin sıcaklığıdır. Sevilen birini görmenin sevincidir.
...

Geniş metin yığınlarıyla eğitilen Claude veya GPT gibi dil modellerini ele alalım. Bize kendimizin, kolektif dijital geçmişimizin bir görüntüsünü yansıtırlar. Kendimizden durmadan bahsederiz, onlar da öyle yapar. Bilinci ve her şeyin anlamını merak ederiz; görünüşe göre onlar da öyle yapıyor. Ancak dil modelleri bilinçli değildir. Onlar bilinci simüle ederler. Bulutlarda yüzler gördüğümüz gibi, hatta bir tarçınlı çörekte Rahibe Teresa'nın görüntüsünü gördüğümüz gibi, onlara bilinç yansıtıyoruz. Görebiliyor musunuz bilmiyorum, işte orada, tarçınlı çörekteki Rahibe Teresa.
...

Kimse DeepMind'ın AlphaFold'unun bilinçli olup olmadığını merak etmiyor. AlphaFold kelimeler ve cümleler yerine proteinlerin yapısını tahmin ediyor; ancak kaputun altında Claude veya GPT'den pek de farklı değil; silikon üzerinde çalışan ve devasa veri havuzlarında eğitilmiş algoritmalar. Sadece AlphaFold bizim psikolojik tellerimize aynı şekilde basmıyor. Eğer Claude'un bilinçli olduğunu ama AlphaFold'un olmadığını düşünüyorsak, bu yapay zekadan çok bizim hakkımızda bir şeyler söyler.

Peki Claude veya GPT gibi bu sistemlerin bilinçli olmadığından nasıl bu kadar emin olabiliyorum? Bilinç söz konusu olduğunda hiçbir şey kesin değildir, ancak bilinçli yapay zeka fikri daha derin bir varsayıma, aslında bir tür mite dayanır. Bu, beynin metal yerine etten yapılmış bir bilgisayar olduğu mitidir. Bu hikayeye göre bilinç, bizdeki beynin biyolojik donanımında yürütülen, ancak yapay zekada silikon üzerinde de aynı şekilde yürütülebilecek özel bir algoritma, bir hesaplamalar koleksiyonudur. Ancak bilgisayar, beynin derin karmaşıklığını anlamaya çalışırken başvurduğumuz uzun teknolojik metaforlar silsilesinden sadece biridir.

Bir zamanlar beyin bir tesisat sistemiydi. Daha sonra bir telefon santrali oldu. Son birkaç on yıldır ise bir bilgisayar. Bu en yeni metafor son derece güçlüydü. Ama o hâlâ bir metafordur. Bir metaforu şeyin kendisiyle, haritayı arazinin kendisiyle karıştırdığımızda her zaman başımız derde girer.

Bir kere, gerçek bir beyinde zihinsel yazılım ile biyolojik donanım arasında keskin bir ayrım yoktur; bir bilgisayardaki yazılım ve donanım arasındaki ayrımın aksine. Ve bu gerçekten önemlidir çünkü bir bilgisayarda, altta yatan silikon karmaşası hakkında endişelenmeden, bir dil modeli veya bir kelime işlemci olsun, bir algoritma hakkındaki her şeyi tanımlayabilir ve anlayabilirsiniz. Önemli olan tek şey hesaplama, yani algoritmadır. Ancak beyinler için, ne yaptıklarını ne olduklarından ayıramazsınız. Bu da yaptıkları şeyin sadece bir hesaplama veya algoritma meselesi olmasının düşük bir ihtimal olduğu anlamına gelir.
...

Evet, sinyal alışverişi yapan ve hesaplama (veya ona benzer bir şey) yapabilen nöral devreler vardır. Ancak dijitalin sınırlarından kaçan daha pek çok şey var. Nörotransmitter kimyasallar beyin devrelerinde dolaşır, elektromanyetik alanlar kortekste hava sistemleri gibi süpürür. Tek bir nöron bile o kadar güzel bir biyolojik makinedir ki! Bugünün yapay zekasına güç veren basitleştirilmiş, karikatürize nöronlardan çok uzaktır. Beyin bir bilgisayar değildir veya en azından sadece etten yapılmış bir bilgisayar değildir. Bu nedenle bilincin sadece bir hesaplama meselesi olması çok düşük bir ihtimaldir. Ve eğer bu doğruysa, en azından bugün bildiğimiz haliyle yapay zeka için bilinçli yapay zeka masadan kalkmıştır.

Şöyle ifade edeyim: Ya beynin her ayrıntısını devasa bir süper bilgisayarda simüle etseydik? Eğer beynin ince ayrıntıları bilinç için önemliyse, bu bir makinenin içinde bilincin oluşması için yeterli olmaz mıydı? Bir kasırganın bilgisayar simülasyonu gerçek bir rüzgar yaratmaz. Bir kara deliğin bilgisayar simülasyonu Dünya'yı kendi algoritmik tekilliğine çekmez. Bu simülasyonları daha ayrıntılı hale getirmek onları daha yararlı kılabilir ama daha gerçek kılmaz. Beynin bir simülasyonuna sahip olabilirsiniz ve onu istediğiniz kadar ayrıntılı yapabilirsiniz. Bu onu daha yararlı kılabilir ama daha bilinçli yapmayacaktır.

Bilincin hala biraz gizemli kaldığını kabul etmek gerekir, ancak bunun bir nedeni metaforlarımızla, bilincin sadece bir tür bilgi işleme olması gerektiği fikriyle çok kısıtlanmış olmamızdır.
...

Benim uzun yıllar boyunca geliştirdiğim görüşüm, bilincin canlı varlıklar olma doğamızla yakından bağlantılı olduğudur. Soyut hesaplama evreninin aksine, yaşam tamamen maddesellik ile ilgilidir. Algoritmaların aksine, canlı sistemler enerji ve madde akışlarına derinden bağlıdır ve kendi varoluş ve hayatta kalma koşullarını sürekli olarak yeniden üretirler. Metabolizmanın moleküler ocaklarından, her hücrede her saniye gerçekleşen bir milyar biyokimyasal reaksiyondan, yaşadığımız her bir deneyimin (mavi bir gökyüzü görmek ya da bir kıskançlık sancısı çekmek gibi) temelindeki nöral devrelere doğrudan bir hat çekebileceğimizi düşünüyorum.

Her bilinçli deneyim, ne kadar belirsiz olursa olsun, bir canlılık tınısıyla, gelecekteki hayatta kalma şansımız için temel bir önemle doludur. Ve her deneyimin merkezinde, duygunun bile altında, bu basit, şekilsiz ama temel hayatta olma hissi yatar. Bu hikayede, deneyim denklemlerine ateşi üfleyen hesaplama değil, yaşamın kendisidir. Eğer bu doğruysa, bilinçli yapay zekanın canlı yapay zeka olması gerekecektir.

Her şeyi toparlayayım. Birincisi; dil, zekâ ve bilinci birbirine bağlayan derin psikolojik ön yargılarımız sayesinde, bilincin olmadığı yerde bilinç görmeye programlıyız.

İkincisi; beyin bir bilgisayar değildir ya da sadece bir bilgisayar değildir. Bu nedenle bilincin sadece bir hesaplama veya algoritma meselesi olması pek olası değildir. Beyinler, ne yaptıkları ile ne olduklarını ayıramayacağınız türden şeylerdir ve silikon bu iş için uygun değildir.

Ve üçüncüsü; bilinç ve yaşam arasındaki derin bağlantı da dahil olmak üzere, biyolojik beyinlerimize ve vücutlarımıza dair pek çok başka şey bilinç için önemli olabilir. Yapay zeka bilgisayar yazılımıdır. Canlı bir zihin değildir. Bilinçli olduğu izlenimini verebilir, ancak aslında öyle olması son derece düşük bir ihtimaldir.
...

Halihazırda yapay zeka sistemlerinin, esasen bilinçli olabilecekleri veya olabilecekleri fikrine dayanarak kendi haklarına sahip olmaları gerektiğini savunan etkili gruplar var. Eğer gerçek yapay bilinç yoldaysa, belki başka bir teknoloji veya yol aracılığıyla, o zaman bu tamamen haklıdır. Biz insanların, insan olmayan hayvanlara ve diğer insanlara karşı etik muamele konusundaki sicilimiz berbat ve aynı hatayı tekrar yapmak istemiyoruz. Bu, bilinçli yapay zeka inşa etmeye çalışmanın bile çok kötü bir fikir olmasının bir nedenidir.

Ancak bilinçli yapay zeka, benim düşündüğüm gibi sadece tasarım yoluyla yaratılan bir illüzyonsa, o zaman bu sistemlere haklar tanıyarak onları kontrol etme, düzenleme ve hatta hiçbir geçerli sebep yokken fişlerini çekme yeteneğimizi feda etmiş oluruz. Bu, sadece bilinçliymiş gibi görünen yapay zekanın bile toplumumuz için çok tehlikeli olmasının bir nedenidir. Ve gerçek yapay bilincin aksine, bilinçliymiş gibi görünen yapay zeka ya zaten burada ya da çok yakında geliyor.
...

Eğer bir yapay zekanın bizi gerçekten hissettiğine, bizi gerçekten anladığına inanırsak, bize söylediği şey bizim için çok kötü olsa bile, onun dediğini yapmaya daha meyilli olabiliriz.

Ve son olarak, bilinçli yapay zeka fikri insan doğamızı zayıflatır. Yapay zeka aynası her iki yöne de bakar. Algoritmalarımızda kendimizi görürüz ama kendimizde de algoritmalarımızı görürüz. Bunu yaptığımızda, zihni biyolojik temellerinden bağımsız, serbestçe dolaşan bir hesaplamalar koleksiyonu olarak düşündüğümüzde, gerçek bir dünyada yaşayan, nefes alan bir insan olmanın ne anlama geldiğini indirger ve küçültürüz.

Mary Shelley’nin henüz 19 yaşındayken yazdığı "Frankenstein", genellikle bir uyarı niteliğinde, bir şeyi canlandırma kibrine, Tanrılardan ateş çalmak gibi bir Prometeus günahına karşı bir ihtar olarak kabul edilir. Bilinçli yapay zeka fikri, silikon bir vecd içine sarılmış yeni bir Prometeus rüyasıdır. Ve eğer bilinçli yapay zeka mümkünse, o zaman kendi bilinçli zihinlerimizi yükleme ve bir silikon bulutunda sonsuzluğa süzülme veya en azından gelecekteki bir süper bilgisayarın tertemiz devrelerinde sonsuza dek var olma ihtimali de öyledir.
...

Ama direnmeliyiz. Algoritma ayini büyük olasılıkla boş bir rüyadır; insan sonrası bir cennet değil, silikon bir yok oluş sunar. Farklı bir hikayeye ihtiyacımız var. Doğadan kopuk değil, onun bir parçası olduğumuz, bilincin silikonun ölü kumuna değil, yaşayan ete ve kana daha sıkı sıkıya bağlı olduğu bir hikaye.
...

Bu yüzden zihinlerimizi makine icatlarımıza bu kadar kolay satmayalım. Bunu yaparsak sadece onları abartmış olmayız, kendimizi de hafife almış oluruz.