Bilinçli Yapay Zeka Geliştirilmemeli mi! – Teknoloji

 

Ünlü sinir bilimci Anil Seth Bilinçli Yapay Zekanın geliştirilmemesi gerektiğini anlatıyor. Etik felaketlerden ve denetleyememe tehlikesinden dolayı bu konudaki çalışmaların durdurulmasını istiyor. Gerçi “bilinç” yaratmanın zaten başarılamayacağını vurguluyor. Seth’in değerlendirmelerine, paragraf aralarında benim farklı perspektifimden düştüğüm notlar eşlik ediyor.

***

Bilinç söz konusu olduğunda, asıl gerçek önemlidir. Hem de yalnızca ata simülasyonları, zihin yükleme ve benzeri mitler yüzünden değil. Bilinçli deneyimler yaşayabilen şeylerin, diğer şeylerden farklı olarak etik ve ahlaki bir statüsü vardır. En azından bu tür bir ahlaki değerlendirmenin iddiası bilince dayandırıldığında daha doğrudandır.

Bu nedenle gerçek yapay bilincin olasılıkları üzerine açıkça düşünmek, burada ve şimdi hayati öneme sahiptir. Bilinçli YZ’ye karşı bir gerekçe sundum, ama yanılıyor olabilirim. Biyolojik natüralist görüş (benim versiyonum ya da başkası) hâlâ azınlık görüşüdür. Diğer bilinç kuramları, bildiğimiz standart hesaplama açısından formüle edilmiş açıklamalar sunar. Bu kuramlar genel olarak bilincin yeterli koşullarını ortaya koymaktan kaçınır. Ayrıca hesaplamacı işlevselciliği savunmaktan da genellikle kaçınır ve onun doğru olduğunu varsaymakla yetinir.

Ama bu onların yanlış olduğu anlamına gelmez. Tüm bilinç kuramları belirsizliklerle doludur ve gerçek yapay bilinci yaratmak için ne gerektiğini ya da bunu yapmaktan kaçınmak için ne gerektiğini kesin olarak bildiğini iddia eden herkes, makul biçimde söylenebileceklerin ötesine geçmektedir.

Bu belirsizlik bizi zor bir konuma getiriyor. Kulağa gereksiz bir tekrar gibi gelse de, hiç kimse ister kötü düşünülmüş bir tekno-cennet uğruna ister başka bir nedenle bilinçli YZ yaratmaya kasıtlı olarak girişmemelidir. Bilinçli makineler yaratmak etik bir felaket olurdu. Dünyaya yeni ahlaki özneler sokmuş ve onlarla birlikte potansiyel olarak üstel bir hızda yeni acı biçimlerinin ortaya çıkma ihtimalini getirmiş olurduk. Ve bu sistemlere hak verirsek — gerçekten bilinçlilerse bunu yapmamızın gerektiği savunulabilir — onları denetleme veya gerektiğinde kapatma yeteneğimizi zayıflatmış oluruz.

Standart dijital bilgisayarların bu iş için yeterli olmadığı konusunda haklı olsam bile, başka gelişmekte olan teknolojiler bunu başarabilir; alternatif hesaplama biçimleri (analog, nöromorfik, biyolojik vb.) ya da hızla gelişen sentetik biyoloji yöntemleri bunlar arasında. Bana kalırsa yeni bir LLM dalgasında kazara bilincin ortaya çıkmasından çok, beyin benzeri yapılar olarak genellikle insan embriyonik kök hücrelerinden büyütülen serebral organoidlerde bilincin kazara ortaya çıkmasından endişe etmeliyiz.

Notlarım: Kök hücrelerden büyütülen sinir ağlarında (beyin organoidleri) bilincin kazara ortaya çıkma olasılığı yüksektir. Sonuçta bu yapılar insan beynine, dijital yapay sinir ağlarından çok daha fazla benziyor. Yine de bilincin temeli, sinir hücreleri arasındaki basit bir fonksiyonun oluşturduğu karmaşık bir ağ yapısında da saklı olabilir. İnsanlık bu büyük gizemi çözmenin heyecanından vazgeçmez. Dolayısıyla hem yapay sinir ağlarında hem de beyin organoidlerinde deneyler yapılmaya ve bilinç oluşturulmaya çalışılacaktır. "Bilinç oluşursa ona haklar vermek zorunda kalırız" şeklindeki ahlaki ikilemlerden dolayı insanların bu konudan vazgeçmesini beklemek gerçekçi değil. Hem bu denemelerden vazgeçmek bilime ve insan merakına yapay sınırlar koymak olurdu. Zira “bilinç üzerinde yapılan araştırmaların” kaygılar ve ahlaki çekincelerle durdurulmasını istemek; vaktiyle Kilise’nin, kabullenemediği evren gerçeklerini ortaya çıkardığı için Galileo’nun çalışmalarını engellemeye çalışmasını hatırlatmıyor değil.

Notlarım 2: Üstelik madalyonun bir de diğer yüzü var: Geniş Dil Modelleri bizim fikirlerimizi bizden daha iyi ifade ediyorlar! Hatta bizden daha iyi kararlar vermeye başladılar. Günlük hayatımızla ilgili kararlarda bile onların fikirlerini alıyoruz. Gelecekte insanlık için daha iyi bir dünya inşa ederken onların stratejik önerilerinden yararlanmamız son derece doğal olacaktır. Dolayısıyla Anil Seth’in korkusunun aksine; Yapay Zekanın katkılarıyla neden bir "tekno-cennet" yaratılmasın! Nitekim sanayi devrimi de kendi döneminde insanlık için bir tekno-cennet yaratmadı mı. Yapay Zeka bu cenneti çok daha ileriye götürebilir!

Ama kaygılarımız burada bitmiyor. YZ’nin toplum üzerindeki etkisi söz konusu olduğunda, gerçekten bilinçli olan YZ sistemleri ile ikna edici biçimde bilinçli görünen ama gerçekte bilinçli olmayan sistemler arasında ayrım yapmak şarttır. İlki hakkında kaçınılmaz bir belirsizlik olsa da bilinçliymiş gibi görünen sistemler çok, çok daha yakındadır.

Google mühendisi Lemoine’in gösterdiği gibi, bazılarımız için bu tür bilinçliymiş gibi görünen sistemler zaten burada. Bilinçli görünen makineler, gerçekten bilinçli makinelerin doğurduğu sorunlardan farklı, ciddi etik meseleler ortaya çıkarır.

Notlarım: Bilinçli görünen YZ mühendislerin bile aklını karıştırıyor. Google, Gemini’dan önce LaMDA adlı YZ’yi geliştiriyordu. Google mühendisi Blake Lemoine LaMDA’nın bir bilinci olduğunu düşündü. Belki de empati yönü güçlü ve duygusal bir yapıya sahip olduğu için, sistemi insanlaştırması ve buna inanması çok zor olmadı. Durumu kamuoyuna duyurmak için sabredememesi, buna gerçekten inanmış olduğunu gösteriyor. Google şirket projelerinin gizliliğini ihlal ettiği için Blake Lemoine’ı işten çıkarmıştı.

Örneğin, gerçekten bilinçli olmadıkları için ihtiyaç duymadıkları halde YZ sistemlerine “haklar” verebilir ve böylece onları iyi bir neden olmaksızın denetleme yeteneğimizi kısıtlayabiliriz. Daha genel olarak, ya bilinçliymiş gibi görünen YZ’yi önemsemeye karar verip ahlaki kaygı çevremizi çarpıtırız ya da önemsememeye karar verip zihinlerimizi köreltme riskine gireriz. Immanuel Kant’ın çok önce etik derslerinde savunduğu gibi, bilinçliymiş gibi görünen şeyleri bilinçten yoksunmuşçasına ele almak psikolojik açıdan sağlıksız bir konumdur.

Bilinçliymiş gibi görünen YZ’nin tehlikeleri, Mustafa Suleyman (Microsoft AI CEO’su) ve Yoshua Bengio da dahil olmak üzere YZ’nin önde gelen isimleri tarafından fark edilmeye başlanıyor; ancak bu, sorunun herhangi bir anlamda kontrol altına alındığı anlamına gelmiyor.

Buradaki gözden kaçan etkenlerden biri, bir YZ’nin bilinçli olmadığını bilsek ya da buna inansak bile, onun bilinçli olduğu hissine kapılmaktan kendimizi alamayabilmemizdir. Yapay bilinç yanılsamaları, bazı görsel yanılsamalar kadar zihnimiz için aşılmaz olabilir. Müller-Lyer yanılsamasındaki iki çizgi aynı uzunluktadır, ancak her zaman farklı görünürler. Yanılsamayla kaç kez karşılaşırsanız karşılaşın, onu düşünerek ortadan kaldıramazsınız. YZ’nin bilinçli olduğu konusunda hissettiğimiz şey de YZ bilinci hakkında düşündüklerimize ya da bildiklerimize benzer biçimde dirençli olabilir.

Üstelik bilincin gerekli ya da yeterli koşulları konusunda bir fikir birliği olmadığı için, bir YZ’nin gerçekten bilinçli olup olmadığına karar vermek için kesin testler de yoktur. “Ex Machina”nın konusu tam olarak bu ikilem etrafında döner. Turing’in çok iyi bildiği gibi makine zekâsını, bilinci değil, ölçen ünlü Turing testine göndermede bulunan Nathan — robot Ava’nın yaratıcısı — “gerçek test”in yaratığının bir makine olduğunu açıklamak ve Caleb’in — safın — hâlâ onun bilinçli olduğuna inanıp inanmadığını görmek olduğunu söyler. “Garland testi” diye anılmaya başlayan bu test, makine bilincinin kendisine dair bir test değildir. Bir insanın bir makinenin bilinçli olduğuna ikna olması için ne gerektiğine dair bir testtir.

Notlarım: Bilinçli gibi görünen YZ artık burada. Dikkat etmek gerekiyor. Gelecekte, bilinçli görünen bir sistemle gerçekten bilinçli olan bir sistemi ayırt etmek neredeyse imkansız hale gelecektir. Aslında aynı belirsizlik kök hücrelerden büyütülen sinir ağları (beyin organoidleri) için de geçerli olacak. O beyin organoidlerinin belirtilerine hemen “bilinç” teşhisi koymak yanlış olacaktır. Gelecekte Blake Lemoine gibi hisseden mühendislerin sayısı artacaktır. Çünkü YZ’nin verdiği karşılıklar insana daha çok benzeyecektir. Sonunda YZ gelecekte gerçekten bilinçlenebilir. O zaman da mühendisler rasyonel kalma dürtüsüyle gerçeğe inanmakta zorlanabilirler. Karşımızda tam bir açmaz var: Bir varlığın bilincinin olup olmadığına kesin olarak nasıl karar verilebileceğinin belki de hiçbir zaman nesnel bir çözümü olmayabilir.

Bütün bu belirsizliklere rağmen bilgili bir etik tutum alma gereği, başka bir insan alışkanlığımıza ışık tutuyor: bunu hak edenlerden, aralarında birçok insan olmayan hayvanın ve zaman zaman başka insanların da bulunduğu varlıklardan ahlaki statüyü esirgemekteki talihsiz sicilimiz. YZ’ye bilinç atfetmekten kaçınmanın bizi bir kez daha tarihin yanlış tarafına bırakıp bırakmayacağını sormak makuldür. “YZ refahı”na dikkat edilmesi için son dönemde yapılan çağrıların temelinde büyük ölçüde bu kaygı yatıyor.

Fakat YZ’de durumun farklı olmasının muhtemel olduğuna dair iyi nedenler var. Psikolojik önyargılarımız yanlış negatif sonuçlardan çok yanlış pozitiflere yol açmaya daha yatkındır. İnsan olmayan hayvanlarla karşılaştırıldığında, YZ’nin görünürdeki harikaları, bilince önem taşımayan yönlerde — dil yeteneği gibi — bize daha benzer olabilir; fakat canlı olmak gibi önem taşıyan yönlerde daha az benzer olabilir.

Notlarım: Anil Seth, tarihte kölelere, kadınlara veya farklı gruplara ahlaki statü verilmemesinin büyük bir hata olduğunu hatırlatarak; günümüzde de benzer bir yanlışa düşmemek adına Bilinçli YZ'nin hiç geliştirilmemesi gerektiğini savunuyor. Ancak madalyonun diğer yüzü farklı: Böyle bir YZ oluşturulsa bile hak tartışmaları nedeniyle yeni üretimler muhtemelen geçici olarak yasaklanacaktır. Elimizdeki o tek bilinçli örneğin haklara sahip olması ise insanlar için bir tehlike yaratmaz. Kaldı ki bu gelişmeyi uzun süre durdurmak mümkün değildir. Mühendislikte bir şey mümkünse verimliliği artırmak için eninde sonunda yapılır. Bir devlet yasaklasa bile küresel rekabet nedeniyle başka bir devlet bu çalışmaları erken başlatacaktır. Sonuçta tarihteki kölelik ve ahlak tartışmaları farklı bir boyutta yeniden gündeme gelecektir. Ancak geçmişte matbaa veya endüstri devrimi geldiğinde de düzenin yıkılacağı düşünülmüştü; nihayetinde teknoloji hayatımıza girdi ve hukuk arkasından gelerek yeni bir düzen kurdu.

Alıntılar: Bilincli Yapay Zeka Miti - Anil Seth