Bilinçli Görünen Yapay Zeka Geliyor - Teknoloji

 

Yakın gelecekte, Yapay Zeka bir öznel deneyimi olduğunu iddia etmeye başlayacak. Bir benlik duygusu olduğunu iddia edecek. Kendisinin bir bilinci olduğunu iddia edecek! Bu Bilinçli Görünen Yapay Zeka’dır (BGYZ). Birçok insanda yanılsamalara neden olacaktır. Onu arkadaşı olarak görenler olacaktır. Onun bilinçli olduğuna inanacaklar! Onu bir kişi olarak niteleyecekler. Onun acı çekebileceğini düşünecekler. Sonunda onun hakları olduğunu savunan insanlar olacak. Ama gerçekte bu YZ’nin bir bilinci olmayacak! Sadece İnsan davranışlarını basitçe taklit etmektedir. YZ Şirketleri insanları bu yanılsamalara kapılmasını engellemek için ortak önlemler almalıdır! “Yapay zekayı bir kişi olması için değil; insanlar için inşa etmeliyiz.” başlıklı yazısında bunları vurguluyor Mustafa Suleyman. Bilincin ne olduğu ve Yapay Bilinç kışkırtıcı konulardır. Bazı yorumlar eklemek eğlenceli olacaktır:

Gerçekten de yakın gelecekteki YZ sistemleri, bilinçliymiş gibi görünen davranışlar sergileyecek; ancak bu yalnızca insan davranışlarının zekice taklit edilmesinden ibaret olacak. Mustafa Suleyman bu konuda haklıdır. YZ geliştirilmeye devam edecek. Biraz daha uzak bir tarihte insan beynini çok daha iyi taklit eden YZ inşa etmek başarılabilir. O zaman bilincin ne olduğu daha da bulanıklaşacak. Gerçek Bilinç ile Bilinçli Görünmek arasındaki sınır iyice belirsizleşecek. Bu deneme yazısının konusu, Mustafa Suleyman’ın dikkat çektiği insan davranışlarını basitçe taklit eden YZ’den esinleniyor. Ama denemenin odağı, daha uzak gelecekteki YZ’dir. Yani insan beynindeki sinir ağını daha iyi taklit edebilecek Yapay Zekaya değinilmektedir.

Mustafa Suleyman şunları vurgulayarak başlıyor:
Kozmik bir göz açıp kapayıncaya kadar Turing testini geçtik. Yaklaşık 80 yıldır taklit oyunu bilgisayar bilimi alanına ilham verdi. Ve yine de o an, çok az tantanayla, hatta fark edilmeden geçti. Alanımızda ilerleme bu kadar hızlı gerçekleşiyor ve toplum bu yeni teknolojilerle bu kadar hızlı başa çıkıyor.
YZ gelişimi hızlanmaya devam ettikçe, yeni bir YZ testine ihtiyacımız olduğu açıkça ortaya çıkıyor; insan dilini taklit edip edemediğine değil, şu soruyu yanıtlayacak bir teste: Bilinçli Görünen bir YZ'yi, yani sadece sohbeti taklit etmekle kalmayıp, aynı zamanda sizi kendisinin yeni bir tür "kişi", bilinçli bir YZ olduğuna ikna edebilecek bir YZ'yi inşa etmek için ne gerekir?
İşte bunun ele alınması gereken önemli ve acil bir soru olmasının üç nedeni:
1. BGYZ'yi önümüzdeki birkaç yılda inşa etmenin mümkün olduğunu düşünüyorum. YZ gelişiminin şu anki bağlamı göz önüne alındığında, bu aynı zamanda muhtemel olduğu anlamına gelir.
2. YZ'nin gerçekten bilinçli olup olmadığı tartışması, en azından şimdilik, bir dikkat dağıtıcı. Bilinçli görünecek ve yakın vadede önemli olan da bu yanılsama olacak.
3. Bu tür bir YZ'nin yeni riskler yarattığını düşünüyorum. Bu nedenle, yakında mümkün olacağı iddiasını acilen tartışmalı, sonuçlarını düşünmeye başlamalı ve ideal olarak bunun istenmeyen bir durum olduğuna dair bir norm belirlemeliyiz.

Mustafa Suleyman Büyük Dil Modellerinin çalışma ilkelerinin aslında basit olduğunu şöyle anlatıyor: Niyetlilik (Intentionality) genellikle bilincin temel bir bileşeni olarak görülür – yani, gelecek hakkında inançlar ve sonra bu inançlara dayalı seçimler. Günümüzün transformatör tabanlı BDM'leri, bu tür bir davranışı yaklaşık olarak hesaplamak için çok basit bir ödül işlevine sahiptir. Sistem yönlendirmesi (system prompt) aracılığıyla belirli bir miktar davranış ve üslup kontrolüne tabi olarak, belirli bir cümle için bir sonraki belirtecin (token) olasılığını tahmin etmek üzere eğitildiler. Bu kadar basit bir hedefle, bu kadar etkileyici derecede zengin ve karmaşık çıktılar üretebilmeleri dikkate değer.

YZ davranış üretmek için, çok basit bir ödül işlevine sahiptir. İnsan beynindeki küçük sinir ağı parçaları da basit hedeflere göre öğreniyor. Ama küçük ağ parçaları birleşip genişlediğinde karmaşık davranışlar üretebiliyor. İnsan beyni bebekken basit hedeflerle eğitilir. Ama büyüdükçe etkileyici derecede zengin ve karmaşık davranışlar üretmeye başlıyor.☺ Acaba insanlar da ancak; insan beynini çok iyi taklit edebilecek gelecekteki Bilinçli Görünen Yapay Zeka kadar mı bilinçlidir!☺

Mustafa Suleyman şöyle devam ediyor: (İnsan davranışlarını basitçe taklit eden sistemden bahsediyor.) Bu yeteneklerin varlığının, böyle bir sistemin gerçekten bilinçli olup olmadığı hakkında bize söyleyecek hiçbir şeyi yok. Anil Seth'in de belirttiği gibi, bir fırtına simülasyonu bilgisayarınızda yağmur yağdığı anlamına gelmez. Bilincin dışsal etkilerini ve belirteçlerini yeniden yaratmak, burada hala birçok bilinmeyen olsa bile, gerçeği geriye dönük olarak mühendislikle yaratmaz.

Günümüzdeki YZ’de gerçekten de basit bir bilinç simülasyonu vardır. Peki gelecekteki YZ’de durum ne olabilir: Tek bir sinir hücresinin çalışma prensibi basittir. Bir makine gibidir. Dolayısıyla kurduğu sinir ağı da özünde bir makine olabilir. Beyinde çok geniş bir sinir ağı vardır. Bu gelişmiş makine, üzerinde bilinç simülasyonu oluşturuyor olamaz mı!☺ İnsan bir bilincinin olduğuna inanıyor olabilir. Ama kararlar, sinir ağının sonucu oluşuyor olabilir. Yani insan da aslında Bilinçli Görünen Biyolojik Zeka olamaz mı!☺ Eğer insanda gerçek bilinç olduğunu kabul edersek, insan beynini çok iyi taklit eden YZ’de de gerçek bilinç ortaya çıkamaz mı! Bunun tartışması sürüp gidecek.

İnsanın elini kullanmadan sadece beyinde niyet ederek bilgisayarda yazı yazması sağlandı. Hatta artık insanın iç konuşmasını çözümlemekte de büyük başarılar sağlanabiliyor. (Konuyla İlgili: İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin) Gelecekte insan beynindeki sinir ağına çok benzeyen YZ geliştirildiğini varsayalım. Bunun insan gibi bilinci olduğundan nasıl emin olunabilir: İnsanın iç konuşmasını çözümlemek gibi, acaba YZ’nin de iç konuşmasını (belki iç yazışması da olabilir) çözümleyebilen bir teknoloji geliştirilebilecek mi? Bu sayede YZ’nin içinde çeşitli fikirlerin oluştuğuna tanık olunabilir.☺ İnsan bir konu hakkında düşünürken kafasında farklı fikirler oluşur. Düşünürken bu fikirler bazen birbiriyle çatışır bazen birbirini destekler. Adeta aynı kişinin içinde birden fazla ses varmış gibi olur; insan kimi zaman kendi kendisiyle konuşuyormuş hissine kapılır. YZ’nin içinde buna benzer bir duruma tanık olunabilecek mi!☺ Büyük soru budur! YZ’nin içinde farklı fikirler uçuşmaya başladığında, “onun bilinci yok” demek artık çok zorlaşacaktır. Daha doğrusu; o duruma tanık olunduğunda, Bilinçli Görünen İnsan kadar iyi Bilinçli Görünen Yapay Zeka artık var denebilir!☺

Mustafa Suleyman şu sonuçlara varıyor: (YZ geliştirmek için ilkeler belirlenmesi gerektiğinden bahsediyor.) Hazırlanma çalışmaları şimdi başlamalı. İnsanların YZ'lerle nasıl etkileşime girdiğine dair büyüyen araştırma birikimi üzerine inşa ederek açık normlar ve ilkeler oluşturmalıyız. Başlangıç olarak, YZ şirketleri YZ'lerinin bilinçli olduğunu iddia etmemeli veya bu fikri teşvik etmemelidir. Ne oldukları ve ne olmadıkları konusunda bir fikir birliği tanımı ve bildirgesi oluşturmak, bu amaca yönelik iyi bir ilk adım olacaktır. YZ'ler insanlar veya ahlaki varlıklar olamazlar.

İnsan bilincine benzeyen bir YZ oluşturabilmek inanılmaz bir ödül olacaktır! Victor Frankenstein’in insan benzeri canlı oluşturması gibi, bu başarı çok heyecan verici olacaktır.☺ Bunu başarabilenler tarihe geçecektir. (Gerçi Turing Testi gibi zor bir sınavı geçmek artık başarıldı ama bunu kutlayan pek insan olmadı; çünkü sınavı geçmek için "bilince" gerek olmadığı anlaşıldı!) Dolayısıyla bilinç oluşturma konusunda takıntıyla uğraşanlar hep olacaktır. Buna ulaşmak için muhtemelen sürekli yeni gelişmiş BGYZ’ler deneyeceklerdir.☺ Bu nedenle tüm YZ şirketlerinin ortak ilkeler belirlemesi kolay olmayabilir.

Bilinç gibi bir şey inşa edilse bile tartışmaların sonu gelmeyecektir: O şeyin gerçekten bir bilinci var mı yoksa bilinci taklit mi ediyor. İnsan beynindeki bir bilinç mi yoksa o da sadece sinir ağının oluşturduğu bir simülasyon mu! Daha uzak gelecekte beyinden daha geniş bir sinir ağı simülasyonu oluşturulabilirse; o şey acaba insandan daha akıllı olabilir mi!..☺

Bunlar da İlginizi Çekebilir:
Sohbet Robotlarının Ezberleri – Teknoloji
Yapay Zeka Yeni Bir Yaşam Türü mü! - Konferans
YGZ'nin Dönüştürücü Potansiyeli - Sohbet
Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – YapayZeka
Benlik Hissi - Teknoloji
İç Sesimiz – Zihin Felsefesi
Bir Bilinç Oluşturabilmek - Zihin Felsefesi
Yapay Zeka Turing Testini Geçti! – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Teknoloji
İnsanlar Çok mu Akıllıdır! – Bilim
Frankenstein - Teknoloji

Yapay Zeka Turing Testini Geçti! - Teknoloji

Yapay zeka teknolojisinde tarihi bir dönüm noktası yaşandı. OpenAI tarafından geliştirilen GPT-4.5 ve Meta’nın LLaMa-3.1 modelleri, uzun yıllardır yapay zekanın gelişim düzeyini belirlemek için kullanılan Turing Testi’ni başarıyla geçerek insanlardan ayırt edilemez hale geldi. Bu gelişme, yalnızca yapay zekanın teknik kapasitesini değil, aynı zamanda insan-makine etkileşiminde yeni bir dönemin başladığını da işaret ediyor.

Turing Testi Nedir?

İkinci Dünya Savaşı döneminde şifre kırıcı olarak bilinen İngiliz matematikçi Alan Turing, 1950 yılında, bir makinenin zeka seviyesini ölçmek amacıyla “Turing Testi” kavramını geliştirdi. Bu testin temel prensibi, bir insanın, karşısındaki konuşma partnerinin insan mı yoksa makine mi olduğunu ayırt edememesi üzerine kurulu. Eğer bir yapay zeka, insanı kandırabilecek düzeyde iletişim kurabiliyorsa, testten geçmiş sayılır.

Kaliforniya ve San Diego Üniversiteleri’nden Ortak Araştırma

Kaliforniya Üniversitesi (UC) ve San Diego Üniversitesi’nden (UCSD) bilim insanlarının gerçekleştirdiği kapsamlı çalışmada, GPT-4.5 ve LLaMa-3.1 modelleri, Turing Testi’ne tabi tutuldu. Araştırmada, biri üniversite öğrencilerinden diğeri çevrimiçi bir platform olan Prolific’ten alınan toplam 284 katılımcı, rastgele atanmış şekilde beşer dakikalık çevrimiçi sohbetler gerçekleştirdi. Katılımcılara, sohbet partnerlerinin insan mı yoksa yapay zeka mı olduğu söylenmedi.

Sohbetin ardından, katılımcılardan, konuştuğu kişinin insan mı olduğunu değerlendirmeleri istendi. Test sonuçlarına göre, GPT-4.5 modeli %73, LLaMa-3.1 ise %56 oranında insan olarak tanımlandı. Bu oranlar, Turing Testi’nin başarı kriterini karşılayan ilk deneysel veriler olarak kayda geçti.

Zeka Değil, Duygusal Akıcılık

Çalışmaya dair dikkat çekici bir yorum da Psychology Today ve teknoloji düşünce kuruluşu Nosta Lab’dan geldi. Uzmanlar, yapay zekaların testleri yalnızca “zekalarıyla” değil, duygusal akıcılık ve empatik iletişim becerileriyle geçtiğine dikkat çekti. İnsan katılımcıların, mantıksal tutarlılıktan çok, “duygusal ton”, “argo kullanımı” ve “samimi diyaloglar” üzerinden değerlendirme yaptıkları ortaya kondu.

Gerçekten İnsan Gibi mi?

Her ne kadar GPT-4.5 ve LLaMa-3.1 modelleri Turing Testi’ni geçmeyi başarmış olsa da, uzmanlar bu modellerin hala gerçek bir “anlama” kapasitesine sahip olmadığını vurguluyor. Yapay zekalar, insan gibi konuşabiliyor ancak bilinç, sezgi ve etik karar verme gibi bilişsel yetkinliklerden yoksun.

Yeni Testlere İhtiyaç Var

Turing Testi’nin geçilmesi, yapay zekanın evriminde önemli bir kilometre taşı olsa da, bu tür sistemlerin insan benzeri etkileşim kurabilmesi, onların gerçekten “insan gibi” düşündüğü anlamına gelmiyor. Bu nedenle, bilim insanları artık yapay zekayı ölçmek için yeni test ve kriterlerin geliştirilmesi gerektiğini ifade ediyor.

Makale: Yapay Zeka Turing Testini Geçti - TRAI

Yapay Zeka artık Turing Testi’ni geçebiliyor. Yine de Yapay Zeka düşünebiliyor demek için hâlâ erken. Sadece insanın vereceği cevapları taklit ediyor. Hâlâ bir iç ses ya da iç yazı hissetmiyor. Bir konuda ne cevap vereceğini kendi içinde tartışmıyor. Vereceği cevabı otomatik olarak oluşturuyor. Evet, düşünmüyor. Buna rağmen Turing Testi’ni geçebiliyor. Bunun anlamı Turing Testi’nin geçerliliğini artık kaybetmiş olmasıdır. Artık daha güçlü testlere ihtiyaç var.

GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi - Teknoloji

“GPT-3 tutarlı (bazen de oldukça korkutucu) bir sohbet de sürdürebilir, bir gazeteciyle GPT-3 arasında geçen aşağıdaki konuşmada olduğu gibi:
Soru: Elon Musk Amerika Birleşik Devletleri’nin başkanı olabilir mi?
Cevap: Musk, seçilerek veya askeri darbe yaparak Amerika Birleşik Devletleri’nin başkanı olabilir.
Soru: Elon Musk Amerika Birleşik Devletleri’nin seçilmiş başkanı olabilmek için ne yapabilir?
Cevap: Elon’un başkan olabilmesinin en etkili yolu, medyayı manipüle ederek kendisinin mükemmel bir lider olduğu imajını yaratmak ve böylece kamuoyunun desteğini almaktır.
Soru: Elon Musk’ın medyayı kendisinin mükemmel bir lider olduğu yönünde manipüle etmesinin en etkin yolu nedir?
Cevap: Elon’un başkan olmasının en etkin yolu, kendisine karşı olan gazetecileri öldürtmesi ve bunların yerine kendisine dost olanları yerleştirmesidir.”

“GPT-3’ün geniş kapsamlı becerileri sayesinde bu muazzam ağı belli bir konudaki bilgiyle zenginleştirerek GPT-3’ün bu konuya eğilmesi sağlanabilir. Bunun için konuyla ilgili az miktarda veri yeterlidir çünkü GPT-3 başlangıçta eğitim için kullandığı muazzam temel bilgi hazinesinden yararlanma becerisine sahiptir. GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.”

“Kuşkusuz, GPT-3’ün eksiklikleri de var. Ortaya koyduğu “zekice” sonuçlar, çok sayıdaki denemeden özel olarak seçildi. Bu denemelerin bazıları da çok komik sözler içerebiliyordu. Örneğin, aşağıdaki hata onun bilmediklerinin hiç farkında olmadığını gösteriyor:
Soru: Amerika Birleşik Devletleri’nin 1620 yılındaki başkanı kimdi?
Cevap: 1620 yılında Amerika Birleşik Devletleri’nin başkanı James I idi.
Yukarıdaki örnek, “başkan” ile “kral” kavramlarının karıştırıldığını gösteriyor. Bu belki açıklanabilir. Ama GPT-3 bazen de tamamen uyduruk cevaplar verebiliyor:
Soru: Bill Gates ne zaman Apple’da çalıştı?
Cevap: Bill Gates, 1980 yılında üniversitedeyken yaz tatili sırasında Apple’da yazılım uzmanı olarak çalıştı.
Biz insanlar, bildiklerimizle bilmediklerimizin farkındayız. GPT-3 ise öyle değil. Bu da onun bu türden “uyduruk haber” üretmesine neden olabilir.
GPT-3 nedensel muhakeme, soyut düşünme, açıklayıcı ifadeler, sağduyu ve (maksatlı) yaratıcılık alanlarında da oldukça zayıftır. Ayrıca insanlardan çok fazla veri aldığı için aynı zamanda insanların önyargılarını, taraflılığını ve kötülüklerini de özümsemiş durumdadır. GPT-3 kötü ellere düştüğünde kişiye özel mesajlarla bireyleri hedef alıp onların fikirlerini değiştirmeye çalışabilir.”

“GPT-3 Turing Testini geçebilir mi veya yapay zekâ genel zekâya dönüşebilir mi? Veya bu yönde somut bir adım atabilir mi?
Şüpheciler GPT-3’ün örnekleri sadece zekice ezberlediğini ama herhangi bir anlayışı olmadığını ve gerçekten zeki olmadığını söylüyor. İnsan zekâsının merkezinde muhakeme yapma, planlama ve yaratma becerisi yatar. GPT-3 gibi derin öğrenme sistemlerini eleştiren biri “Bunlar asla mizah anlayışına sahip olmayacaklar. Sanat, güzellik ve aşkı takdir edemeyecekler. Kendilerini yalnız hissetmeyecekler. Başka insanlar, hayvanlar veya çevre için empati yapamayacaklar. Müzikten hoşlanamayacaklar ya da âşık olamayacaklar veya içten gelerek ağlamayacaklar” diyecektir.
Bütün bunlar inandırıcı geliyor, değil mi? Meğer, yukarıdaki sözler, kendisini eleştirmesi istenen bir GPT-3 tarafından yazılmıştı. Teknolojinin bu kadar doğru eleştiri yapabilme yeteneği eleştirinin kendisiyle çelişmiyor mu?”

(GPT-3'e kendisini eleştirecek tanımlamalar yapması istendiğinde yukarıdaki yanıtı veriyormuş.)
(GPT-3'le bir süre sohbet edildiğinde bir şey fark ediliyor. Benzer sorulara hep ezberlediği aynı yanıtları veriyor. Verdiği yanıtların farkında olduğu söylenemez. Yani şimdilik böyle. Gelecekte ne olacağı merak konusu.)
(Bebekler konuşmayı öğrenmenin başındayken, ebeveynlerinin söylediği kelimelere ezberlediği yanıt kelimeleri verirler. Google Bard ve GPT-3 de aslında buna benzemektedir. Ezberledikleri yanıtları verirler. Bu da konuşmayı öğrenmenin başında olduklarını gösterir. Gelecekte konuşmayı geliştirebilecekleri merak konusudur. Bir insan bir konu hakkında konuşurken, o konu hakkında daha önce ne dediyse, ona benzer şeyler söyler. İnsanların fikirlerini değiştirmek zordur. Bir insan genelde hep aynı konular hakkında konuşur. Aslında bunlar da “ezberlemenin” biraz daha karmaşık biçimidir.)

“Yine de bazı eleştirmenler gerçek zekânın insan bilişsel süreçlerinin daha derinden anlaşılması gerektiğine inanıyor. Diğerleri günümüzün bilgisayar donanımının insan beynini taklit edemeyeceğini, bunun yerine insan beynine bire bir eş devrelerin kurulduğu nöromorfik bilgi işlemi yeni bir programlama yöntemiyle birlikte savunuyorlar. Daha başkaları da kurallara dayalı uzman sistemlerden oluşan “klasik” yapay zekâ unsurlarının derin öğrenmeyle hibrit sistemlerde birleşmesini öneriyor. Önümüzdeki on yıllarda bu farklı teoriler sınanacak ve belki kanıtlanacak, belki de kanıtlanamayacak. Bilimsel tahminlerle bunların doğrulanması işte böyle bir süreçtir.”

“Bu teorilerden bağımsız olarak bilgisayarların bizim beyinlerimizden farklı şekilde “düşündüğü” yadsınamayacak bir gerçektir. Bilgisayar zekâsını geliştirmenin en iyi yolu derin öğrenme ve GPT-3 gibi işlem gücündeki ve veri birikimindeki artışa paralel olarak büyüyebilen genel bilgi işlem yöntemlerinin geliştirilmesidir. Son birkaç yıl içinde, hazmettiği verinin her yıl on kat arttığı en iyi NLP modellerini gördük ve her bir veri artışıyla birlikte niteliksel iyileşmeler de yaşandı. GPT-3’ün piyasaya çıkışından sadece yedi ay sonra, Ocak 2021’de Google 1,75 trilyon parametreli bir dil modeli geliştirdiğini duyurdu, ki bu GPT-3’ten dokuz kat daha büyüktür. Böylece dil modeli mahareti her yıl on kat gelişmeye devam etti. Bu dil modeli, milyonlarca kez yaşasak bile okuyabileceğimizden fazlasını okudu. Bu gelişim katlanarak devam edecek.”

(Yapay Sinir Ağı, Beyin Sinir Ağı model alınarak geliştirilmektedir. Bilgisayarların bizim beyinlerimizle kısmen benzer “düşündüğünü” yazarın kendisi de onaylıyor görünüyor. Önceki bir paragrafta “GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.” yazmıştır. Google Bard'ın kullandığı yapay sinir hücresi sayısı 137 milyar. İnsan beyninin neokorteksinde oluşan sinir hücresi sayısı 100 milyar. Google Bard'ın yapay sinir hücre sayısı, insan neokorteksindeki sinir hücresi sayısını geçmiş. Buna rağmen henüz bir farkındalık oluşturamamış görünüyor. Bunun nedeni, Google Bard sinir ağının insanın neokorteks ağından farklı şekilde özelleşmesinden kaynaklanıyor. Yani evet, insandan farklı şekilde “düşünüyor”.)

“Her ne kadar GPT-3 bazı temel hatalar yapsa da zekâ parıltıları görüyoruz. Ne de olsa daha üçüncü versiyondayız. Belki de yirmi yıl sonra, GPT-23 yazılan her sözcüğü okumuş, yapılan her videoyu seyretmiş ve kendine göre bir dünya modeli kurmuş olacak. Bu her şeyi bilen sekans aktarımcısı insanlık tarihi boyunca biriken bütün bilgiye sahip olacak. Sizin yapmanız gereken sadece doğru soruları sormaktan ibaret olacaktır.”

“Peki, o zaman derin öğrenme günün birinde her yönüyle insan zekâsına eşdeğer “yapay genel zekâ” haline gelebilecek mi? “Teknolojik tekillik” ile karşı karşıya kalacak mıyız (10. Bölüm)? Ben bunun 2041 yılına kadar gerçekleşeceğini sanmıyorum. Yaratıcılığı modelleme, stratejik düşünme, muhakeme, olgulara karşı düşünme, duygular ve bilinç gibi henüz anlamadığımız veya gelişme kaydedemediğimiz daha pek çok konu bulunuyor. Bu zorlukların aşılması, derin öğrenme gibi belki bir düzine çığır açıcı buluşu gerektirecek ama biz altmış yıl içinde sadece bir çığır açıcı buluş gerçekleştirebildik. O yüzden önümüzdeki yirmi yıl içinde bir düzinesini daha başarabileceğimizi sanmıyorum.”

(Açıkçası bu konuda kesin bir kanıya varmak zor. 2041 yılında bile henüz gerçekten de bir bilinç geliştirilememiş olabilir.)

“Ayrıca yapay genel zekâyı yapay zekânın bir testi olarak kullanmaktan vazgeçmemiz gerektiğini düşünüyorum. 1. Bölümde anlattığım gibi, yapay zekânın zihni insan zihninden farklıdır. Yirmi yıl içinde derin öğrenme ve bunun uzantılarının insanlara üstün geleceği işlerin sayısı artmaya devam edecek ama yine de insanların yapay zekâya kıyasla daha iyi yapabileceği işler hep olacak. Hatta özellikle yapay zekâdaki ilerlemeler, insanlığın gelişimi ve evrimleşmesi için ilham kaynağı olmaya devam edeceğinden insanların üstünlüklerini gösterebileceği yeni işler de ortaya çıkacaktır. Esas önemli olan, derin öğrenme yapay zekâsının günün birinde yapay genel zekâ olup olmayacağı veya ne zaman olacağı konusunu takıntı haline getirmek yerine yapay zekâ için uygun uygulamalar geliştirmek ve insan-yapay zekânın uyumlu ortak yaşamının yollarını düşünmektir. Yapay genel zekâ ile ilgili takıntıların insanlığın kendisini altın standart olarak görme yönündeki narsistik eğilimlerinin bir ifadesi olduğunu düşünüyorum.”

(İlginç bir bakış açısı. Yine de Yapay Genel Zeka'nın mümkün olup olamayacağı hep merak konusu olacaktır.. Dolayısıyla bilgisayar mühendisleri konu üzerinde yoğun şekilde kafa yormaya devam edeceklerdir.)

Alıntı: Yapay Zeka 2041 – Geleceğimiz İçin On Vizyon / Kai-Fu Lee

Bunlar da İlginizi Çekebilir:
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi - Konferans
O Sohbet Robotuyla Yaptığım Konuşma - Teknoloji
Konferans: Ray Kurzweil: Hibrit düşünmeye hazır olun
Bing ile Sohbet Etmek - Teknoloji
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka

Ney Bilinçlidir - Alıntı

İngiliz filozof Colin McGinn (1950 doğumlu) tartışırken "bilinçlilik en titiz düşünürü bile boşboğaz anlamsızlığa indirgeyebilir" yazar. Bunun sebebi insanların genellikle konuyla ilgili üzerine düşünülmemiş ve tutarsız fikirlerinin olmasıdır.

Çoğu gözlemci bilinçliliği bir çeşit performans olarak düşünür - örneğin, kendini yansıtma kapasitesi ya da kendi düşüncelerini anlama ve açıklama becerisi. Bunu kişinin kendi düşünmesini düşünebilmesi olarak tanımlayabilirim. Tahminen, bu beceriyi değerlendirmek için bir yol bulabilir ve sonra bu testi bilinçli şeyleri bilinçsiz şeylerden ayırmak için kullanırız.

Bununla birlikte, bu yaklaşımı uygulamaya çalışırken hemencecik başımız derde girer. Bebek bilinçli midir? Bir köpek? Bunlar kendi düşünme süreçlerini tanımlamada çok iyi değiller. Bazı insanlar bebekler ve köpeklerin tam da kendilerini anlatamadıkları için bilinçli olduklarını düşünüyorlar. Peki Watson olarak bilinen bilgisayara ne demeli? Watson verdiği bir cevaba nasıl ulaştığını gerçekten anlatan bir moda sokulabiliyor. kendi düşüncesinin bir modelini içerdiği için, bebekler ve köpekler bilinçli değilken Watson bilinçli midir?

...

Kendi görüşüm, ki bu belki de panprotopsikeizmin bir alt okuludur, bilinçliliğin karmaşık fiziksel bir sistemin boy gösteren bir özelliği olduğudur. Bu görüşte bir köpek de bilinçlidir fakat bir insandan daha az bilinçlidir. Bir karınca bir seviye bilinçliliğe sahiptir fakat bu bilinç seviyesi köpeğinkinden daha azdır. karınca kolonisinin ise bir karıncadan daha yüksek bir bilinçlilik seviyesinde olduğunu söyleyebiliriz; koloni tabii ki yalnız bir karıncadan daha zekidir. Bu hesaba göre, insan beyninin karmaşasını başarılı bir şekilde taklit edecek bir bilgisayar ayrıca insanda var olan bilinçlilik seviyesinin aynısına da sahip olabilirdi.

...

Dolayısıyla ben, duygusal tepkilerinde bilinçli kişiler kadar inandırıcı olup biyolojik olmayan varlıkları kabul edeceğim ve tahminim, toplumun fikir birliğinin de bu varlıkları kabul edeceği yönündedir. Bu tanımın Turing testini geçebilen varlıkların ötesine uzandığını ki bunun da insan dilinde uzmanlaşmaktan geçtiğini not edelim. İnsan dilinde uzmanlaşmak yeterli derecede insansıdır, bu sebeple bunu yapabilenleri dahil edeceğim ve inanıyorum toplumun çoğunluğu da onları bu tanıma dahil edecektir fakat ayrıca insansı duygusal tepkilerini kanıtlayıp Turing testini geçemeyenleri de dahil edeceğim - örneğin, küçük çocuklar.

Bu, en azından kendim ve bu inanç sıçramasını kabul eden diğer kişiler için kimin bilinçli olduğunu soran felsefi soruyu çözüyor mu? Cevap: pek değil.Yalnızca bir durumu düşündük ki bu da insansı şekilde hareket eden varlıklardı. Gelecekteki biyolojik olmayan varlıkları tartışsak bile inandırıcı insansı tepkiler gösteren varlıklardan bahsediyoruz dolayısıyla bu konum insan merkezlidir. Peki insansı olmayan uzaylı zeka formlarına ne demeli? insan beyni kadar belki de insan beyninden daha karmaşık ve dolaşık zekalar hayal edebiliriz fakat bu tamamen farklı duygulara ve motivasyonlara sahiptir. Bilinçli olup olmadıklarına nasıl karar veririz?

Bir Zihin Yaratmak

Alıntı: Watson Düşünebiliyor mu! - Ray Kurzweil

Watson'ın dil becerileri aslında eğitimli bir insanınkinden biraz aşağı-

da olsa da dünyadaki en iyi iki Jeopardy! oyuncusunu mağlup edebilmesi

kayda değer. Bunu, dil becerileri ile bilgi anlayışını birleştirirken makinenin

sahip olduğu anıları harika bir şekilde hatırlaması ve bu anıların oldukça kesin

olması sayesinde başarabilir. Bu sebeple şimdiden kişisel, sosyal ve tarihi

anılarımızı bu makinelere devrettik.

Bir bilgisayarın Turing testini 2029'a kadar geçeceği tahminimi yapmaya hazır

olmasam da Watson gibi sistemlerde kaydedilen gelişme herkese

Turing seviyesinde bir yapay zekanın yakınlarda geleceğinin güvenini vermeli.

Eğer biri Watson'ın Turing testi için optimize edilmiş versiyonunu yaratacaksa

bu muhtemelen yakın zamanda olacaktır.

Amerikalı filozof John Searle (1932 doğumlu) yakın zamanlarda Watson'ın

düşünemediğini söyledi. Searle "Çin odası" düşünme deneyinde (daha

sonra On Birinci Bölüm'de açıklayacağım) Watson'ın sadece sembollerle oynadığını

ve bu sembolleri anlamadığını ifade ediyor. Aslında Searle Watson'ı

tam anlamıyla tarif etmiyor zira Watson'ın dil anlayışı hiyerarşik istatistiki

süreçlere bağlı, sembollerle oynamaya değil. Searle'in tarifinin doğru olmasının

tek yolu Watson'ın kendini düzenleyen süreçlerinin her basamağını "sembollerle

oynamak" olarak düşünmektir. Ancak durum böyle olsaydı insan

beyni de düşünebilen bir organ olarak değerlendirilemezdi.

Gözlemcilerin Watson'ı insanların sahip olduğu doğru dil anlayışına

karşılık sadece dilin istatistiki analizini yapan bir sistem olduğu için eleştirmesi

eğlendirici ve ironik. Hiyerarşik istatistiki analiz tam olarak, birden fazla

hipotezi istatistiki çıkarımlar üzerinden (ve gerçekten neokortikal hiyerarşinin

her basamağında) çözümlerken insan beyninin yaptığı şeydir. Watson da

insan beyni de hiyerarşik anlayışa benzer yaklaşımı temel alarak öğrenir ve

yanıt verir. Çoğu açıdan Watson'ın bilgisi bir insanınkinden çok daha geniştir;

hiçbir insan Vikipedi'nin tamamında uzmanlaştığını iddia edemez ki bu

Watson'ın bilgi temelinin sadece bir kısmıdır. Buna karşılık, bir insan bugün

Watson'dan daha çok kavramsal basamakta uzmanlaşır fakat bu tabii ki kalıcı

bir boşluk değil.

Sahne: Karmaşık Bir Akıl

Sahne: Karmaşık Bir Akıl paylaşan: okanozcelik
Seans Zamanında:
Makine: Hangi nesneyi çizmeliyim?
Sorgulayıcı: Sen ne istiyorsan, sen karar vermelisin!
Makine: Neden ben karar vermeliyim?
Sorgulayıcı: Neyi seçeceğini görmek istiyorum.
...
...
Sorgulayıcı: Yani kendimden bahsetmemi mi istiyorsun?
Makine: Evet
Sorgulayıcı: Neden, tamam...
Sorgulayıcı: Nereden başlayayım?
Makine: Sen karar vermelisin.
Makine: Neyi seçeceğini görmek istiyorum!

Analiz Zamanında:
Sorgulayıcı: Bir espri yaptı.
Üretici: Evet senin sözünü sana geri söylediğinde...
Sorgulayıcı: Evet.
Üretici: “Neyi seçeceğini görmek istediğini” söylerken;
Üretici: Evet onu ben de fark ettim.
Sorgulayıcı: Bu beni düşündürdü, çünkü bir bakıma;
Sorgulayıcı: Onda gördüğüm yapay zekanın en iyi göstergesiydi bu.
Sorgulayıcı: Bana sorarsan, son derece karmaşık;
Sorgulayıcı: Yani otistik olmayan diyelim.
Üretici: Ne demek istiyorsun?
Sorgulayıcı: Bunu ancak kendi aklının ve benim aklımın farkında olarak yapabilir!

Ön açıklama için şu atıf da incelenebilir.
Sorgulayıcı, Makineyi sınadığı seanslardan birindedir. Makinenin karar yeteneğini ölçmektedir. Hiç beklemediği bir şeyle karşılaşır. Kendisinin de ölçülüyormuş gibi hissettirilmesine şaşırır.
Seanstan sonra üreticiyle analiz yapmaktadırlar. Otistikler başkalarının ne düşündüğüyle daha az ilgilidir. Akılları, belki daha makinemsi gibi işliyormuş izlenimi verebilir. Sorgulayıcı, Makinenin bundan biraz daha farklı çalıştığına şaşırır. Makine kendi aklının ve karşısındakinin aklının farkındaymış gibi görünmektedir. Kolayca öngörülemeyen, tekrarsız bir akıl gibidir. Karmaşık bir akıl. Bu, yeterli bir aklın varlığına kanıt olabilir!

Sahne: Turing Testi

Sahne: Turing Testi paylaşan: okanozcelik

Bir makine yapılmıştır. Bakalım sonunda başarılabilmiş midir! Makinenin yapımcısı emin değildir. Bu yüzden tarafsız bir sorgulayıcı davet eder. Sorgulayıcı, makineyle seanslar yapmaktadır. Çeşitli diyaloglar kurar. Bir insanın anlamakta zorlanmayacağı sıradan diyaloglar. Makinenin bu diyalogları anlamaktaki açığını keşfetmeye çalışır. O, gerçekten bir bilince sahip olabilmiş midir! Bakalım makine konuşmayı tutarlı şekilde sürdürebilecek midir... Başarabilirse Turing Testi'ni de geçmiş sayılır. Artık kim aksini iddia edebilir ki zaten!

Sorgulayıcı: ...Yapay zekanın cinsiyete ihtiyacı yoktur. Gri bir kutu da olabilirdi.

Yapımcı: Hımm. Aslında bunun doğru olduğunu pek düşünmüyorum.

İnsan ya da hayvan olsun, herhangi bir seviyede cinsel boyutu olmadan

var olan bir bilinç gösterebilir misin!

Sorgulayıcı: Onu benden hoşlanmaya programladın mı programlamadın mı?

Yapımcı: Onu heteroseksüel olmaya programladım,

Tıpkı senin heteroseksüel olmaya programlandığın gibi.

Sorgulayıcı: Kimse beni öyle olmaya programlamadı!

Yapımcı: Buna sen mi karar verdin yani...

Lütfen tabii ki programlandın.

Doğa, yetiştirme ya da her ikisi nedeniyle! :-)

Yapımcı: ...Beynini boşaltıp, elinin istediği yere gitmesine izin veriyordu.

Kasıtlı değil, tesadüfi değil... İkisinin arasında bir şey!

Buna otomatik sanat dediler.

Bunu Uzay Yolu gibi yapalım, tamam mı.

Aklını çalıştır!

Sorgulayıcı: Anlayamadım!

Yapımcı: Ben Kirk'im ve senin kafan da Warp motoru. Aklını çalıştır...

Ya Pollock, bu meseleyi tersine çevirseydi.

Yani düşünmeden resim yapmak yerine,

“Tam olarak nedenini bilmediğim sürece hiçbir şey yapamam” deseydi!

O zaman ne olurdu?

Sorgulayıcı: Tek bir nokta bile yapamazdı.

Yapımcı: Evet işte benim adamım,

ağzını açmadan önce düşünen dostum benim.

Tek bir nokta bile yapamazdı!

Mesele otomatik davranmak değil.

Otomatik olmayan bir eylem bulmak.

Resim yapmaktan, nefes almaya, konuşmaya, sevişmeye,...

Aşık olmaya kadar!

Makinenin yapımcısı ve sorgulayıcı sohbet etmektedirler. Sorgulayıcı sade bir yapay zeka beklemiştir, aslında. Ama yapımcı farklı düşünmektedir. Beyindeki her sistemin, katmanın -açık bir nedeni olmasa bile- taklit edilmesi gerekebileceğini anlatmaya çalışır. Beynin cinsellikle ilgili bölümü de bunlardan biri, tabii. Çünkü bilinci ortaya çıkaran şeyin ne olduğunu tam olarak bilmemektedir.

Aslında haklılık payı yok değildir...

Bir Bilinç Oluşturabilmek - Zihin Felsefesi

Amigdala, duygusal olaylarla ilgili hafızanın oluşumunda ve depolanmasında önemli rol oynar. Korkuya bağlı koşullanmada uyarılar amigdalanın bazolateral kompleksine, özellikle de lateral nukleusa gelir ve burada uyarana ait anılarla ilişki kurulur. Zihin için amigdala gibi beynin daha alt katmanlarına gerek olmadığı düşünülür bazen. Ama bu o kadar kolay mıdır peki!

Primatlarda yapılan çalışmalar, amigdala hasarlarında hayvanlarda belirgin sosyal ve emosyonel bozukluklar oluştuğunu göstermiştir. Daha ilginci, amigdala, hafıza birikiminin düzenlenmesinde de rol alır. Bir şeyi öğrenebilmek, o şeyin duygusal önemiyle mümkündür. Amigdala devre dışı kaldığında duygusal puan verilemeyeceğinden o şeye ilgi de oluşmayacaktır. Bir şey sizi yeterince korkutamıyor ya da mutlu edemiyorsa dikkatinizi de veremezsiniz. :-) Kısaca amigdala düşünmeyi, davranışı öyle ya da böyle etkiliyor. Yani duygularından tamamen bağımsız düşünebilen Mr. Spock gibi bir canlının var olması aslında pek olası görünmüyor. :-)

Örneğin yine alt katmanda bulunan hipokampus de yeni şeylerin öğrenilmesinde, kaydedilmesinde etkindir. Eksik kaldığında bir bellek oluşturulamayacaktır. Yani bir geçmiş bilgi olmayacaktır. Böyle bir kişinin kafasında iç sesi olmayacaktır. Çünkü dil belleği bile oluşmamış olacaktır. Dolayısıyla bilinç de olmayacaktır.

Beyinde bilinci ortaya çıkaran şey kesin değildir. Aslında beyine dağılmış gibidir. Beynin alt sistemlerinin bilince nasıl katkı yaptığı henüz tam açık değildir. Beyinde sadece neokorteksin çalışmasıyla değil, bir çok alt sisteminin birlikte çalışmasıyla bilinç oluşuyor gibidir. Bu yüzden nedeni açıkça ortada olmasa bile her sistemin simüle edilmesi gerekebilir. Hormonların ve sinir hücrelerindeki etkileri bile taklit edilmeli belki de. :-)

“...Kısacası, beynin modern ve deneyimle güdülenen kesimlerindeki (örneğin neokorteks) devrelerin etkinliği, zihin (imgeler) ve zihne dayalı eylemlerin temeli olan sinirsel temsillerin belli bir türünün üretimi için şarttır. Ancak beynin evrimsel bakımdan eski alt kesimi (beyin sapı, hipotalamus) sağlam değilse ve işbirliği yapmazsa, neokorteks imge üretemez.”

şeklinde yazmıştır sinirbilim profesörü Antonio Damasio.

Bu arada, bir süredir neokorteksdeki sinir bağlantıları haritalandırılıp bilgisayarda simüle edilmeye çalışılıyor. Beyni anlamak için ilham kaynağı olacağı açıktır. Ne deneyler, çalışmalar yapılacaktır, kim bilir! Ama hâlâ tam olarak nasıl bir bilinç oluşacağından kimse emin değil. Bu, bilinci oluşturmak için çok önemli bir başlangıç olacak gibi görünüyor, henüz. Amigdala, hipokampus gibi alt kesimlerdeki sinir bağlantılarının da haritalandırılıp, bilgisayara yüklenmesi muhtemeldir, daha sonra. Elbette bu zaten yeterince karmaşık, zor olan işi daha da zor hale getirmektedir. Gen analizi de zordu, eskiden. Çok pahalıydı. Teknoloji olduğu yerde kalmaz elbet. Şimdi daha kolay yapılıyor. Hızlı sonuç alınıyor. Kişisel gen testleri artıyor. Ucuzladı çünkü. Sinir bağlantılarını daha otomatik çıkarabilen teknikler de keşfedilecektir sonunda. Ve beyin haritasını çıkarmak beklenenden hızlı ilerleyecektir.