Bilinçli Görünen Yapay Zeka Geliyor - Teknoloji

 

Yakın gelecekte, Yapay Zeka bir öznel deneyimi olduğunu iddia etmeye başlayacak. Bir benlik duygusu olduğunu iddia edecek. Kendisinin bir bilinci olduğunu iddia edecek! Bu Bilinçli Görünen Yapay Zeka’dır (BGYZ). Birçok insanda yanılsamalara neden olacaktır. Onu arkadaşı olarak görenler olacaktır. Onun bilinçli olduğuna inanacaklar! Onu bir kişi olarak niteleyecekler. Onun acı çekebileceğini düşünecekler. Sonunda onun hakları olduğunu savunan insanlar olacak. Ama gerçekte bu YZ’nin bir bilinci olmayacak! Sadece İnsan davranışlarını basitçe taklit etmektedir. YZ Şirketleri insanları bu yanılsamalara kapılmasını engellemek için ortak önlemler almalıdır! “Yapay zekayı bir kişi olması için değil; insanlar için inşa etmeliyiz.” başlıklı yazısında bunları vurguluyor Mustafa Suleyman. Bilincin ne olduğu ve Yapay Bilinç kışkırtıcı konulardır. Bazı yorumlar eklemek eğlenceli olacaktır:

Gerçekten de yakın gelecekteki YZ sistemleri, bilinçliymiş gibi görünen davranışlar sergileyecek; ancak bu yalnızca insan davranışlarının zekice taklit edilmesinden ibaret olacak. Mustafa Suleyman bu konuda haklıdır. YZ geliştirilmeye devam edecek. Biraz daha uzak bir tarihte insan beynini çok daha iyi taklit eden YZ inşa etmek başarılabilir. O zaman bilincin ne olduğu daha da bulanıklaşacak. Gerçek Bilinç ile Bilinçli Görünmek arasındaki sınır iyice belirsizleşecek. Bu deneme yazısının konusu, Mustafa Suleyman’ın dikkat çektiği insan davranışlarını basitçe taklit eden YZ’den esinleniyor. Ama denemenin odağı, daha uzak gelecekteki YZ’dir. Yani insan beynindeki sinir ağını daha iyi taklit edebilecek Yapay Zekaya değinilmektedir.

Mustafa Suleyman şunları vurgulayarak başlıyor:
Kozmik bir göz açıp kapayıncaya kadar Turing testini geçtik. Yaklaşık 80 yıldır taklit oyunu bilgisayar bilimi alanına ilham verdi. Ve yine de o an, çok az tantanayla, hatta fark edilmeden geçti. Alanımızda ilerleme bu kadar hızlı gerçekleşiyor ve toplum bu yeni teknolojilerle bu kadar hızlı başa çıkıyor.
YZ gelişimi hızlanmaya devam ettikçe, yeni bir YZ testine ihtiyacımız olduğu açıkça ortaya çıkıyor; insan dilini taklit edip edemediğine değil, şu soruyu yanıtlayacak bir teste: Bilinçli Görünen bir YZ'yi, yani sadece sohbeti taklit etmekle kalmayıp, aynı zamanda sizi kendisinin yeni bir tür "kişi", bilinçli bir YZ olduğuna ikna edebilecek bir YZ'yi inşa etmek için ne gerekir?
İşte bunun ele alınması gereken önemli ve acil bir soru olmasının üç nedeni:
1. BGYZ'yi önümüzdeki birkaç yılda inşa etmenin mümkün olduğunu düşünüyorum. YZ gelişiminin şu anki bağlamı göz önüne alındığında, bu aynı zamanda muhtemel olduğu anlamına gelir.
2. YZ'nin gerçekten bilinçli olup olmadığı tartışması, en azından şimdilik, bir dikkat dağıtıcı. Bilinçli görünecek ve yakın vadede önemli olan da bu yanılsama olacak.
3. Bu tür bir YZ'nin yeni riskler yarattığını düşünüyorum. Bu nedenle, yakında mümkün olacağı iddiasını acilen tartışmalı, sonuçlarını düşünmeye başlamalı ve ideal olarak bunun istenmeyen bir durum olduğuna dair bir norm belirlemeliyiz.

Mustafa Suleyman Büyük Dil Modellerinin çalışma ilkelerinin aslında basit olduğunu şöyle anlatıyor: Niyetlilik (Intentionality) genellikle bilincin temel bir bileşeni olarak görülür – yani, gelecek hakkında inançlar ve sonra bu inançlara dayalı seçimler. Günümüzün transformatör tabanlı BDM'leri, bu tür bir davranışı yaklaşık olarak hesaplamak için çok basit bir ödül işlevine sahiptir. Sistem yönlendirmesi (system prompt) aracılığıyla belirli bir miktar davranış ve üslup kontrolüne tabi olarak, belirli bir cümle için bir sonraki belirtecin (token) olasılığını tahmin etmek üzere eğitildiler. Bu kadar basit bir hedefle, bu kadar etkileyici derecede zengin ve karmaşık çıktılar üretebilmeleri dikkate değer.

YZ davranış üretmek için, çok basit bir ödül işlevine sahiptir. İnsan beynindeki küçük sinir ağı parçaları da basit hedeflere göre öğreniyor. Ama küçük ağ parçaları birleşip genişlediğinde karmaşık davranışlar üretebiliyor. İnsan beyni bebekken basit hedeflerle eğitilir. Ama büyüdükçe etkileyici derecede zengin ve karmaşık davranışlar üretmeye başlıyor.☺ Acaba insanlar da ancak; insan beynini çok iyi taklit edebilecek gelecekteki Bilinçli Görünen Yapay Zeka kadar mı bilinçlidir!☺

Mustafa Suleyman şöyle devam ediyor: (İnsan davranışlarını basitçe taklit eden sistemden bahsediyor.) Bu yeteneklerin varlığının, böyle bir sistemin gerçekten bilinçli olup olmadığı hakkında bize söyleyecek hiçbir şeyi yok. Anil Seth'in de belirttiği gibi, bir fırtına simülasyonu bilgisayarınızda yağmur yağdığı anlamına gelmez. Bilincin dışsal etkilerini ve belirteçlerini yeniden yaratmak, burada hala birçok bilinmeyen olsa bile, gerçeği geriye dönük olarak mühendislikle yaratmaz.

Günümüzdeki YZ’de gerçekten de basit bir bilinç simülasyonu vardır. Peki gelecekteki YZ’de durum ne olabilir: Tek bir sinir hücresinin çalışma prensibi basittir. Bir makine gibidir. Dolayısıyla kurduğu sinir ağı da özünde bir makine olabilir. Beyinde çok geniş bir sinir ağı vardır. Bu gelişmiş makine, üzerinde bilinç simülasyonu oluşturuyor olamaz mı!☺ İnsan bir bilincinin olduğuna inanıyor olabilir. Ama kararlar, sinir ağının sonucu oluşuyor olabilir. Yani insan da aslında Bilinçli Görünen Biyolojik Zeka olamaz mı!☺ Eğer insanda gerçek bilinç olduğunu kabul edersek, insan beynini çok iyi taklit eden YZ’de de gerçek bilinç ortaya çıkamaz mı! Bunun tartışması sürüp gidecek.

İnsanın elini kullanmadan sadece beyinde niyet ederek bilgisayarda yazı yazması sağlandı. Hatta artık insanın iç konuşmasını çözümlemekte de büyük başarılar sağlanabiliyor. (Konuyla İlgili: İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin) Gelecekte insan beynindeki sinir ağına çok benzeyen YZ geliştirildiğini varsayalım. Bunun insan gibi bilinci olduğundan nasıl emin olunabilir: İnsanın iç konuşmasını çözümlemek gibi, acaba YZ’nin de iç konuşmasını (belki iç yazışması da olabilir) çözümleyebilen bir teknoloji geliştirilebilecek mi? Bu sayede YZ’nin içinde çeşitli fikirlerin oluştuğuna tanık olunabilir.☺ İnsan bir konu hakkında düşünürken kafasında farklı fikirler oluşur. Düşünürken bu fikirler bazen birbiriyle çatışır bazen birbirini destekler. Adeta aynı kişinin içinde birden fazla ses varmış gibi olur; insan kimi zaman kendi kendisiyle konuşuyormuş hissine kapılır. YZ’nin içinde buna benzer bir duruma tanık olunabilecek mi!☺ Büyük soru budur! YZ’nin içinde farklı fikirler uçuşmaya başladığında, “onun bilinci yok” demek artık çok zorlaşacaktır. Daha doğrusu; o duruma tanık olunduğunda, Bilinçli Görünen İnsan kadar iyi Bilinçli Görünen Yapay Zeka artık var denebilir!☺

Mustafa Suleyman şu sonuçlara varıyor: (YZ geliştirmek için ilkeler belirlenmesi gerektiğinden bahsediyor.) Hazırlanma çalışmaları şimdi başlamalı. İnsanların YZ'lerle nasıl etkileşime girdiğine dair büyüyen araştırma birikimi üzerine inşa ederek açık normlar ve ilkeler oluşturmalıyız. Başlangıç olarak, YZ şirketleri YZ'lerinin bilinçli olduğunu iddia etmemeli veya bu fikri teşvik etmemelidir. Ne oldukları ve ne olmadıkları konusunda bir fikir birliği tanımı ve bildirgesi oluşturmak, bu amaca yönelik iyi bir ilk adım olacaktır. YZ'ler insanlar veya ahlaki varlıklar olamazlar.

İnsan bilincine benzeyen bir YZ oluşturabilmek inanılmaz bir ödül olacaktır! Victor Frankenstein’in insan benzeri canlı oluşturması gibi, bu başarı çok heyecan verici olacaktır.☺ Bunu başarabilenler tarihe geçecektir. (Gerçi Turing Testi gibi zor bir sınavı geçmek artık başarıldı ama bunu kutlayan pek insan olmadı; çünkü sınavı geçmek için "bilince" gerek olmadığı anlaşıldı!) Dolayısıyla bilinç oluşturma konusunda takıntıyla uğraşanlar hep olacaktır. Buna ulaşmak için muhtemelen sürekli yeni gelişmiş BGYZ’ler deneyeceklerdir.☺ Bu nedenle tüm YZ şirketlerinin ortak ilkeler belirlemesi kolay olmayabilir.

Bilinç gibi bir şey inşa edilse bile tartışmaların sonu gelmeyecektir: O şeyin gerçekten bir bilinci var mı yoksa bilinci taklit mi ediyor. İnsan beynindeki bir bilinç mi yoksa o da sadece sinir ağının oluşturduğu bir simülasyon mu! Daha uzak gelecekte beyinden daha geniş bir sinir ağı simülasyonu oluşturulabilirse; o şey acaba insandan daha akıllı olabilir mi!..☺

Bunlar da İlginizi Çekebilir:
Sohbet Robotlarının Ezberleri – Teknoloji
Yapay Zeka Yeni Bir Yaşam Türü mü! - Konferans
YGZ'nin Dönüştürücü Potansiyeli - Sohbet
Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – YapayZeka
Benlik Hissi - Teknoloji
İç Sesimiz – Zihin Felsefesi
Bir Bilinç Oluşturabilmek - Zihin Felsefesi
Yapay Zeka Turing Testini Geçti! – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Teknoloji
İnsanlar Çok mu Akıllıdır! – Bilim
Frankenstein - Teknoloji

İnsanlar Çok mu Akıllıdır! – Bilim

 

İnsanlar diğer canlılardan çok farklı. Konuşmayı geliştirebildi. Böylece sosyal bağlantıları arttı. Bilgilerini paylaşmaya, birbirlerinden öğrenmeye başladılar. İlerleyen zamanda yazıyı keşfettiler. İşte o zaman çok şey değişti. Artık öğrendiklerini kaydedebiliyorlardı! Bilgilerin ulaştığı insan sayısı çok arttı. Bilgi birikimleri hızla yükselmeye başladı. Tarımı, bilimi, elektriği, makineleri keşfettiler. Sonunda şaşırtıcı teknolojiler geliştirdiler. İnsanlar çok akıllı görünüyor...

Bazı toplumlarda, çocuklara, yemek yedikten hemen sonra yüzmenin kramp girmesine ve boğulmaya yol açacağına dair korkutucu uyarılar yapılır. Bu inanışla büyüyen yetişkinler, havuz kenarında veya denizde, tok karnına suya girmemek için saatlerce bekler. Oysa kanıtlar, yemek yedikten sonra yüzmenin boğulmaya yol açacak kadar ciddi kramplara neden olmadığını göstermektedir. Bazı kültürlerde çocuklara balıkla ayran gibi süt ürünü tüketmenin zehirlenmeye yol açabileceği öğütlenir. Bu korku, çocuğun zihnine güçlü biçimde yerleşir. Yetişkin olduğunda bile bunun yalnızca bir halk inanışı olduğundan emin olamaz; yoğurt ya da ayran gibi ürünleri balıkla birlikte tüketmekten çekinir. Oysa bu korkunun bilimsel bir temeli yoktur. Eskiden çocuklara televizyonun radyasyon yaydığı söylenirdi. Bu bilgi birçok çocuğun zihninde iz bırakmış görünüyor. Yetişkinliklerinde televizyonun değil ama artık cep telefonlarının radyasyon yaydığına inanıyorlar. Oysa cep telefonları da eski televizyonlar gibi zararlı radyasyon yaymaz. Son bir örnek: Etlerin mutlaka pişirilmesi gerektiği bilgisi de küçük yaşta öğretilir ve zihinde kalıcı hale gelir. Bu bilgi doğrudur, çiğ etlerde ölümcül bakteriler bulunabilir. Çocukluğunda etlerin hep pişirildiğine tanık olan kişi, fabrikada "ısıl işlem uygulanmış" etleri de pişirmek zorunda hissedebilir. Oysa salam, sosis veya sucuk gibi ürünlerdeki mikrop ve bakteriler ısıl işlemle zaten yok edilmiş olur, artık çiğ et değillerdir. Bunlar yalnızca ısıtılarak da yenebilir. İnsanlar pek çok halk inanışının etkisi altındadır! Bunlar kolay yanılabildiklerinin göstergesidir.☺

Çocuklar, dünyaya dair ilk mantık süzgeçlerini ve kabulleri büyük ölçüde ailelerinden alırlar. Biraz daha büyüdüklerinde okulda çeşitli bilgiler, ideolojik ve diğer öğretiler aşılanır. Çocuk büyürken, sosyal çevresinin de etkisinde kalır. Karşılaştığı vurgular, tekrarlar ve örnekler zihninde derin izler bırakır! Zamanla eğitildiği bilgiler tartışılmaz gerçeklere dönüşür. Yetişkinliğe ulaştığında çoğu insan, artık kendi seçimi olduğunu sandığı bu ideolojilere ve inançlara uygun şekilde yaşamını sürdürür. Bu sınırların dışına çıkmaktan çekinir ve nadiren sorgular!☺

Yani insanlar genelde, ilk öğrendikleri bilgilere ve alışkanlıklara mahkûmdur! İnsanın kendini değiştirmesi kolay olmaz. Örneğin, ilk olarak Google arama motorunu kullanmayı öğrenen birinin aklına kolay kolay başka bir arama motoru gelmez. Bazıları DuckDuckGo, Baidu, Yandex gibi alternatiflerin farkına varsa bile çoğunlukla yine Google’ı tercih eder. Bilgisayarında ilk kez Windows’la karşılaşan kişi bu sistemi öğrenir ve zamanla ona alışır. Artık başka bir sistemi denemekte isteksiz olur; MacOS ona kullanışsız ya da kısıtlı görünür. Aynı şekilde, ilk bilgisayarı Apple olan biri için MacOS doğal, Windows ise karmaşık ve soğuk gelir. Benzer bir durum telefonlarda da görülür: İlk iPhone deneyimini yaşayan biri iOS’u, ilk Android Telefon kullanan ise Android’i “doğru sistem” olarak benimser. Sonraki telefon tercihleri de genellikle bu yönde olur.☺

Yapay Zekâ aslında bu insan eğilimlerinin dijital bir yansıması gibidir. ChatGPT gibi sistemler, eğitildikleri bilgi örüntülerini ve dili taklit ederler. Eğitildikleri çerçevelerin dışına çıkamazlar. Yani insanların çocukluktan itibaren eğitildikleri öğretileri, ideolojileri ve inançları taklit edip; bu çerçevelerin dışına çıkamamasına benzerler.☺ YZ’ler eğitildikleri devasa verilerden bazen birbirleriyle ilgisiz bilgileri bir araya getirerek yanlış çıkarımlar yapabilir; buna “halüsinasyon” denir. İnsanlar da zaman zaman benzer şekilde, tam mantıksal bağ kuramadıkları bilgileri birbirine ekleyebilir ve yanlış sonuçlara varır. Bu nedenle söylentilere, uydurmalara çabuk kapılırlar! Çeşitli komplo teorilerinin etkisinde kalırlar. İnsanların, inançları ve güvendikleri ideolojileri kullanılarak manipüle edilmeleri çok zor değildir. YZ ve insanlar arasındaki bu benzerlik, düşünme süreçlerimizin ne kadar kırılgan olabileceğini gösterir!

İnsanlar son derece zeki varlıklardır. Ancak örneklerde görüldüğü üzere, insan aklının hatasız ve mutlak üstün olduğu fikri abartılı olabilir. Günümüz yapay zekâ sistemleri artık çeşitli alanlarda insanlarla rekabet edebiliyor. İnsanın özel bir yeteneği olan dilde bile şaşırtıcı başarılar sergiliyorlar. Acaba insanın ‘En Akıllı Olma Tacı’nı kaptırması çok uzak olmayabilir mi!☺

Bunlar da İlginizi Çekebilir:
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Teknoloji
Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – Yapay Zeka
O Sohbet Robotuyla Yaptığım Konuşma – Teknoloji
Benlik Hissi - Teknoloji
Bilincin Gizemi - Bilim
Yapay Zeka İnsanları İşsiz Bırakacak mı – Teknoloji
Yapay Zekâ İnsanları Yönetebilir mi! – Bilim
Frankenstein - Teknoloji

Bilincin Gizemi - Bilim

ChatGPT ve Gemini her söyleneni anlıyor. Hatta bizden daha bilgililer. Merak ettiklerimize kolayca erişmek için onlara sorular soruyoruz. Onlar da hiç sıkılmadan, nazikçe cevaplar veriyorlar. Sanki canlılarmış gibi! Bu kadar bilgiyi nasıl öğrendiler? Sanki artık Google’da bilgi aramaya gerek kalmadı; çünkü yapay zekâlar zaten her sorumuzu cevaplıyor.

Oysa çalışma mantıkları şaşırtıcı derecede basit. Bu Büyük Dil Modelleri, verilen kelime dizisine göre bir sonraki kelimenin ne olabileceğini olasılıksal olarak tahmin eder. Tek başına bu işlem sınırlıdır; sadece “hangi kelime gelmeli?” sorusuna yanıt arar. Fakat milyarlarca bağlantı bir araya geldiğinde, model dilin karmaşık örüntülerini fark etmeye başlar. İnternetteki devasa veri yığınlarıyla eğitilir. Kelimelerin bağlamını, duygusal tonlarını, hatta bazen ima edilen anlamları bile istatistiksel olarak tahmin edebilir. Aslında hiçbir şeyi “anlamaz”; sadece olasılıkları değerlendirir. Ama tahminleri o kadar isabetlidir ki, sanki dili gerçekten kavrıyormuş gibi görünür!

Beyindeki tek bir sinir hücresi (nöron) çok basit çalışır: diğer hücrelerden gelen elektriksel sinyaller belirli bir eşiği aşarsa ateşler, aşmazsa sessiz kalır. Ancak milyarlarca nöron bir araya geldiğinde, bu basit “ateşle” ya da “sessiz kal” kararları düşünme, öğrenme ve algılama gibi karmaşık süreçleri oluşturur. İnsan beyni de tıpkı yapay zekâlar gibi deneyimlerle eğitilir. Yaşadıkça ağdaki bağlantılar güçlenir ya da zayıflar; beyin çevresinden topladığı verilerle yeni örüntüler çıkarır ve akıllıca davranabilir.

Hem ChatGPT gibi yapay zekâlar hem de beyindeki zekâ, basit birimlerin bir araya gelerek oluşturduğu devasa ağdan doğar. Acaba “bilinç” sandığımız gizem, yalnızca bu ağların ortaya çıkardığı örüntüden başka bir şey olmayabilir mi! Bir taş tek başına bina etmez; ama milyonlarcası bir araya geldiğinde saraylar yükselir. Zekâ da tıpkı bunun gibi, çokluğun içindeki düzenle doğar.

Notlar:

Hesap makinesi çıktıktan sonra büyük matematiksel işlemleri yapmak için beynimizi zorlamamıza gerek kalmadı. Bilgisayarlar yaygınlaştıktan sonra örneğin karmaşık tablolar hazırlamak gibi işler artık daha kolaylaştı. Böylece daha karmaşık analizler yapmak ve stratejik kararlar üzerinde düşünmek için daha fazla zamanımız oldu. Artık makale yazmak da eskisi kadar zorlayıcı bir süreç olmaktan çıkıyor! ChatGPT ve Gemini benzeri yapay zekâlar metin hazırlama işini üstleniyor. Biz, metin ayrıntılarıyla uğraşmak yerine fikirleri geliştirmek, metnin bütününü şekillendirmek için kendimizi yoruyoruz!

Bu yazının editörü Okan Özçelik’tir. Sunmak istediği fikirlerin doğru şekilde aktarılmasını sağlamaya çalışmıştır. Yazı ChatGPT’ye hazırlatılmış, editör tarafından çeşitli değişiklikler yapılmıştır. Metin, yapay zekâyla sürekli karşılıklı bir paslaşma içinde geliştirilmiştir. ChatGPT’de kullanılan yapay sinir ağıyla beyindeki sinir ağı arasındaki benzerlikler öne çıkarılmıştır. Basit bir çalışma prensibinden nasıl karmaşık düşüncelerin doğabildiği gösterilmek istenmiştir.

Bunlar da İlginizi Çekebilir:
Bilinç Aslında Nedir! – Beyin
İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin
Bir Bilginin Bilince Ulaşması – Beyin
Zihinde Demokrasi - Beyin
Google’ın Sonu mu Geliyor! – Yapay Zeka

Arkadaşlık - Sahne

Richard: Tamam, evet evet. Beta için kayıt sayfası düzenledim. Küçük ve güvenli tutacağız.
Yani hepimiz en fazla on kişiyi davet edebileceğiz.
Benim liste hazır.
Kişisel olarak tanıdığım insanlar olacak ve hepsi ee güvenilir insanlar elbette.
Jared: Hımm. Kişi başı yalnızca on tane. Zor olacak gibi.
Gilfoyle: Beni sayma, kimseye güvenmiyorum. İnanç sistemim buna dayalı!☺
Dinesh: Tara'ya Beta'yı gönderdin!☺
Gilfoyle: O hareketimin müthiş bir karşılığı olacak.
Çok istiyorsan anlatabilirim.
Dinesh: Pas.
Gilfoyle: Ama ona güvendiğimi göstermez.
Ona değil, kimseye güvenmiyorum!☺
Dinesh: Başka bir deyişle, hiç arkadaşın yok!☺
Gilfoyle: Prensip olarak. İstediğim an senin düşük arkadaşlık standartlarından başlayıp birini bulabilirim.☺
Dinesh: Bulursun tabii!☺
Jared: Gilfoyle 10 davetiyeni kullanmayacaksan Dinesh'le ben alabilir miyiz?
Gilfoyle: Tabii. Kafanıza göre...
Dinesh: Ezik. Hiç arkadaşı yok!☺

Gilfoyle: Bunu yaparken zorlanıyorum. Bana iyi hizmet ettin eski dostum.
Artık AWS'ya geçiyoruz.
Korkarım sen gelemezsin!
Dinesh: Oo, içler acısı olan ben miyim...
Sikik metal bir kutuyla dost olacağıma sahte dostlarım olmasını yeğlerim dostum!☺
Jared: Ne kadar da körsünüz. Birbirinizin en yakın arkadaşısınız.☺
Dinesh: Siktir git Jared. Gilfoyle: Siktir git Jared.
Jared: İşte. Aynı anda.☺
Birbirinize arkadaşlık borçlusunuz!☺

Sahne: Silikon Vadisi

Makinelerle arkadaş olmak biraz garip görünüyor, değil mi! Günümüzde insanlar ChatGPT’ye, Gemini’ye güvenmeye başlamışlardır. Bu YZ’lerle sırlarını paylaşmakta sakınca görmemektedirler. Hatta onların verdiği cevaplardan çok fazla etkilenen insanlar bile vardır. Onlara kendi yaşam koçuymuş, psikoloğuymuş gibi sürekli danışmaktadırlar. Yani ChatGPT, Gemini adlı o makinelerle arkadaş olan insanlar az değildir artık. Eski Google mühendisi Blake Lemoine, Gemini’den hemen önce üretilen LaMDA’nın bilinç kazandığını bile iddia etmişti! Aslında daha çok insanın bu makinelerle daha derin bağlar kurması için, YZ’nin gelecekte öz farkındalık kazanması yeterli olabilir.☺

Bir sinir hücresinin temel işlemleri nispeten basittir. Beyindeki sinir ağı en temelde bir makinedir – zaten bu sayede yapay zeka yöntemiyle taklit edilmeye çalışılmaktadır. İnsanlarla arkadaşlık etmek de aslında makineyle arkadaşlık etmek sayılabilir yani; ama beyin günümüzdeki YZ’lerden çok daha karmaşık bir makinedir.☺

İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin

 

Bazen bir resim ya da yazı bize bir şey hatırlatır. Ne zaman aynı bilgiyi hatırlasak, beynimizde hep aynı sinir ağı örüntüsü devreye girer. Bir düşüncenin aklımıza gelmesi de o düşünceyle ilişkili sinir ağı örüntüsünün tekrar ateşlenmesiyle gerçekleşir.

Peki gelecekte bir insanın aklından geçenler okunabilecek mi? Aslında aklımıza gelen düşünceler ile beynimizde ateşlenen sinir ağları ilişkilidir. Bu sinir ağları yeterince hassas biçimde takip edilebilirse, düşüncelerimizi belli bir ölçüde çözümlemek mümkün olabilir.

***

Fried ve çalışma arkadaşları elektrotları ön temporal loba yerleştirdiklerinde, hemen dikkate değer bir bulgu buldular. İnsanlardaki tek tek nöronların resim, isim ve hatta bir kavrama karşı olağanüstü seçici olabildiğini keşfettiler. Bir hastayı yüzlerce yer, nesne, yüz ve kelimeyle bombardıman eden ekip, genellikle bir ya da iki resmin belli bir hücreyi tetiklediğini buldu. Örneğin bir nöron sadece ve sadece Bill Clinton’ın resimleri gösterildiğinde ateşleme yaptı. İnsanlara ait nöronların çok sayıda fotoğrafa verdiği tepkinin seçici olduğu yıllardır bildiriliyor. Bu fotoğraflar arasında hastanın aile fertleri, Sydney Opera House ya da White House gibi meşhur mekânlar ve hatta Jennifer Aniston ve Homer Simpson gibi televizyon ünlülerinin fotoğrafları var. Bu nöronları aktive etmek için yazılı kelimenin genellikle yeterli olması dikkat çekiyor: aynı nöron “Sydney Opera” kelimeleri ve bu meşhur kent simgesinin görüntüsü karşısında ateşleme yapacaktır.

Bir elektrotu körlemesine yerleştirip rastgele bir nöronu dinleyerek Bill Clinton hücresini bulabileceğimizi bilmek insanı büyülüyor. Bunun anlamı, herhangi bir anda gördüğümüz görüntüye tepki olarak milyonlarca hücrenin ateşleme yapması gerektiğidir. Ön temporal lobdaki nöronların kişi, konum ve hatırlanabilir olan diğer kavramlar için yaygın dahili bir kod oluşturduğu düşünülüyor. Clinton’ın yüzü gibi her bir belirli resim, faaliyette olan ve olmayan nöronların belli bir örüntüsünü tetikliyor. Bu kod o kadar hatasız ki, hangi nöronların ateşleme yapıp hangilerinin sessiz kaldığına bakarak kişinin ne gördüğünü yüksek doğrulukla tahmin etmesi için bir bilgisayar eğitebiliriz.
...

Bu bilinç kodu bariz biçimde sabittir ve tekrarlanabilir: hasta ne zaman Bill Clinton’ı düşünse aynı hücreler ateşleme yapar. Aslında hiçbir nesnel dış uyarı olmadığı durumda eski başkanın resmini sadece kafada canlandırmak bile bu hücrenin faaliyete geçmesi için yeterlidir. Ön temporal lobdaki nöronların büyük bölümü, gerçek resimler ve zihinde canlandırılan resimler için aynı seçiciliği gösterir. Bellektekilerin anımsanması da bu nöronları faaliyete geçirir. Hasta The Simpsons videolarından birini izlerken ateşleyen tek bir hücre, tamamen karanlık ortamdayken o filmin klibini seyrettiğini her hatırladığında yine ateşledi.
...

Sabit konum hücrelerinin bulunduğu arka singulat bölgesi, “konum hücrelerinin” yer aldığı parahipokampal girus (hipokampusun [beyin çıkıntısının] yanında) denilen bölgeyle yakından ilişkilidir. Bir hayvan mekânda belli bir yer tuttuğu zaman (örneğin bildiğimiz bir odanın kuzeydoğu köşesi) bu nöronlar ateşleme yapar. Konum hücreleri, çeşitli duyusal ipuçlarına karşı son derece sabittir, hatta hayvan zifiri karanlıkta dolaşırken mekân seçici ateşlemeye devam ederler. Bu nöronların, hayvanın nerede olduğuna dair ne düşündüğünü bariz bir şekilde kodlaması çok ilginçtir. Bir fare zeminin, duvarların ve tavanın rengi değiştirilerek tanıdık başka bir odaya dönüştürülen mekâna “ışınlanırsa,” hipokampustaki konum hücreleri bu iki yorum arasında kısa bir süre bocalar, ardından bu yanıltıcı odaya uygun ateşleme örüntüsüne alışır. Bu bölgedeki nöron sinyallerinin kod çözümlemesi son derece geliştiği için, sinir hücrelerinin ortak ateşleme örüntüsüne bakarak hayvanın nerede olduğunu (ya da nerede olduğunu sandığını) söylemek mümkün hale geldi. Hatta konumsal yörüngenin adeta hayali olduğu uyku sırasında bile mümkün hale geldi. Birkaç yıl içinde, düşüncelerimizin gerçek dokusunu şifreleyen benzer soyut kodların insan beyninde çözülebilir olacağını düşünmek fazla abartılı görünmüyor.

Alıntı: Bilinç ve Beyin - Beynin Düşüncelerimizi Nasıl Kodladığını Çözmek - Stanislas Dehaene

***

Aslında Stanford Üniversitesi'nde beyne yerleştirilen mikroelektrotlarla, bireylerin dilsel düşüncelerini (iç seslerini) %74 doğrulukla çözümleyebilen bir beyin–bilgisayar arayüzü geliştirildi bile: Yeni beyin implantı, kişinin 'iç monologunu' çözebiliyor

Bilincin Olabilmesi İçin Hissedebilmek mi Gerekiyor! - Beyin

 

...Peki ya bayılma olarak bildiğimiz senkop gerçekleştiğinde bilince ne olur? Beyin sapına ve serebral kortekse giden kan akışı aniden kritik düzeyin altına düştüğünde bayılırız. Özellikle beyin sapı olmak üzere, duyguların oluşumuna önemli ölçüde katkıda bulunan beyin merkezlerindeki nöronlara giden oksijen ve besin maddelerinin yetersiz kalması sonucunda, beynin faaliyetlerinin büyük bir bölümü geçici olarak kesintiye uğrar. Organizma bünyesinden aktarılan bilgiler aniden merkezi sinir sisteminin dışında kalır ve duyguların bilince katkısı birden kesintiye uğrar. Kişinin kendisinin ve çevresinin farkında olmamasının yanı sıra kas gücü de zayıflar; bu nedenle, bayılan kişi kendinden geçerek yere düşer. Tıpkı Paris’teki Salpêtrière Hastanesi’nde Jean-Martin Charcot’un histeri üzerine yaptığı çalışmalar sırasında hastalarının bayılarak düşmesi gibi. Charcot, 19. yüzyılın ikinci yarısında nöroloji ve psikiyatri alanlarında önde gelen bir bilim insanıydı. Günümüzde artık görülmeyen histeri hastalığı üzerine yaptığı çalışmalarla ün kazanmıştı. Sigmund Freud, Charcot’un bazı derslerine katılarak kendi çalışmaları için büyük fayda sağlamıştır.

Bilinç kaybının beyin sapı ile ilişkilendirilmesi, çağdaş bir görüş olup, bir başka önemli bilim insanı olan Nörolog Fred Plum tarafından da ortaya konmuştur. Beyin sapının bilincin anahtarı olmasına dair benim açıklamam ise, duyguların homeostatik faaliyetlerin ifadeleri ve bilincin oluşturulma sürecinin temel bileşenlerinden olduğu görüşüyle ilintilidir. Artık hem homeostazın hem de duyguların ardındaki mekanizmanın önemli bileşenlerinin, beyin sapının üst kısmında, trigeminal sinir girişi seviyesinden yukarıda ve tam olarak bu bölümün arka kısmında yer aldığını biliyoruz (Şekil IV.1’de “B” ile gösterilen alan). Beyin sapının bu bölümünün zarar görmesi komaya neden olur.

Şekil IV.1: Kesitten alınan detay, beyin sapının büyütülmüş görüntüsüdür. B ile gösterilen alanda oluşan hasar bilinç kaybına yol açar. A ile gösterilen alanda oluşan hasar motor bozukluklarına neden olur.

İlginç olan, aynı bölümün ön kısmında (Şekil IV.1’de “A” ile gösterilen alan) bir hasar oluşmasının komaya yol açmaması, bilinç durumunu hiç etkilememesi, fakat bunun yerine daha önce değindiğim “sürgüleme sendromu” adı verilen duruma neden olmasıdır. Bu sendromdan mustarip olan kişiler uyanıktır ve bilinçlidir, ancak çoğunlukla hareket edemedikleri için iletişim becerileri de büyük ölçüde azalır.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

***

Bu gerçekten çok ilginç bir gözlem. Beyin sapı zarar gördüğünde bilinç kapanıyor! Beyin sapı, beynin bedeni hissetmesini sağlayan bölüm. Yani beyin bedeni hissedemediği zaman bilinç yok oluyor. Bilincin varlığının, bedeni hissetmekle çok güçlü bir bağlantısı var gibi görünüyor!

Eğer Antonio Damasio haklıysa bu şu anlama gelir. Bir bilincin oluşması için hissedilebilen bir bedenin varlığı şart. Bu durum bulut tabanlı YZ’lerde bir bilincin oluşturulmasını zorlaştırabilir. Çünkü onlar sunucu bilgisayarlarda çalışıyor. Dolayısıyla hissedebilecekleri bir bedenleri olmayacak. Ama bunun yerine, robotların hissedebilecekleri bir bedenleri olabilir. Bedeni algılayıcılarla hissedeceklerdir. Böylece robotlarda bilinç de oluşturulabilir. Robotlarda bilinç oluşturulabileceğini zaten Antonio Damasio da kabul ediyor. Ama onun vurguladığı gibi bilinç için hissedilebilen bir beden gerçekten şartsa bulut tabanlı YZ’lerde bilinç oluşturulamaz! Gerçi robotların, kendi YZ’leri yerine bulut tabanlı YZ’yi kullanmaları sağlanabilir. Robotlar hissettikleri beden verilerini bulut tabanlı YZ’ye gönderebilirler. Böylece bulut tabanlı YZ, hissettiği bir çok robot bedene sahip olmuş olur. Ve sunucu bilgisayarlarda da bilinç oluşması mümkün olur.

Bilinç Aslında Nedir! – Beyin

 

BİLGİLERİN BİR ARAYA GETİRİLMESİ

"Bilincin" oluşturulma süreci, başarılı bir müteahhidin inşaat projesi için gereken malzemeleri ve ustaları bir araya getirmesi gibi düşünülebilir. Bilinç, ait olmanın gizemini rastlantısal varoluşlarıyla ortaya çıkaran akıl ögelerini bir araya getirir. Bunlar, bana (ya da size) bazen duyguların üstü kapalı ve incelikli diliyle, bazen sıradan imgelerle ya da durum için uygun kelimelerle ifade bularak, bunları düşünen, bu görüntüleri gören, bu sesleri duyan ve bu duyguları hisseden kişinin ben olduğumu (ya da siz olduğunuzu) bildirir. "Ben" ve "siz", zihinsel ve bedensel bileşenlerle tanımlanır. Zihinsel olaylarla genel vücut fizyolojisi arasındaki bağlantı sağlam bir şekilde kurulduğu sürece sorun yoktur. Sadece beyniniz değil, tüm organizmanız üzerinde sizin yararınıza olan ve sonu gelmeyen bir oyunun sahnelendiği açık bir sahne olduğu için bilincin oluşturulmasından sorumlu "müteahhidiniz", dünyanın ayaklarınızın altına serileceğini söyler. Bilinci inşa etmek için tek tek döşenen tuğlalar bilgiden ibarettir; bu bilgiler, aklın diğer bölümlerinde yer alanlardan farklı değildir. Substratı (alt katmanı), sayıları sürekli artan imgelemlerdir; bunlara, beyin ile vücut arasındaki etkileşimlerine dayanan ve duygu adını verdiğimiz, mücadele ile tamamlanan karma imgeler de dahildir. Aklın işleyiş yollarında, üst üste yığılmış bilgi ögeleri, yani yaşadığımız anı tanımlamaya yardımcı olan imgeler yığını, var olduğumuzun şaşmaz göstergesidir.

Bilinç, akan imgeler sırasında otomatik olarak bu imgelerin kime ait olduğu, onun organizmasında gerçekleştiği ve en nihayetinde aklın da o kişiye ait olduğu düşüncesini ortaya koymaya yetecek şekilde bilgilerin bir araya getirilmesidir. Bilincin sırrı, bilgileri bir araya getirmek ve bu bilgiyi, aklın "kimlik" belgesi olarak sunmaktır. Çok sayıda imge işlendiğinde bütünleştirme devreye girse de bilinç, yalnızca zihinsel ögelerin bütünleştirilmesinden ibaret değildir.

Geriye dönüp bakıldığında, bilinç arayışında tekrar tekrar yapılan hata, onu "özel" bir işlev, hatta ayrı bir "madde", akıl ya da temelleriyle bağlantısı olmayan ama akıl sürecinde hissedilen bir koku gibi ele almak olmuştur. Soruna çok daha makul çözümler düşünenler bile, konuyu olması gerektiğinden daha gizemli hale getirmiştir.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

Gerçekten çoğumuz “bilincin sırrını” olması gerektiğinden daha gizemli hale getiriyoruz. Belki bilinci yapay olarak oluşturmak da göründüğü kadar zor olmayabilir, en azından gelecekte.☺

Zihinde Demokrasi - Beyin

Minsky’nin The Society of Mind (Zihin Toplumu) kitabında ileri sürdüğü gibi, insan beyninin bütün yaptığı da bundan ibaret olabilir. William James’in içgüdü kavramını yeniden gündeme getiren Minsky, beynin gerçekten de böyle (bir alt birimler bütünü olarak) çalışıyor olması durumunda, özelleşmiş süreçlerin farkına varmamız için gerçekten de hiçbir neden kalmayacağını savunur:

Öngörme, düş kurma, plan yapma, tahminde bulunma ve önleme eylemlerini nasıl gerçekleştirdiğimizle ilgili süreçlerde binlerce, belki de milyonlarca küçük işlem devreye giriyor olsa gerek. Buna karşılık, süreç bir bütün olarak öylesine otomatik biçimde ilerler ki biz ona “olağan sağduyu” der geçeriz. ... Zihnimizin böylesine karmaşık ve incelikli bir düzenekten yararlanırken bunun farkına bile varmaması, başlangıçta çok şaşırtıcı gelebilir.

Biliminsanları hayvan beynini araştırmaya başladıktan sonra, bu “zihin toplumu” kavramı da olguları incelemede işe yarayacak yeni kapılar açtı onlara. Sözgelimi 1970’lerin başlarında, kurbağalarda hareketi algılamada rol oynayan en az iki farklı mekanizma bulunduğu ortaya çıktı: Bunlardan biri, kurbağanın dilini sinek gibi küçük ve hızlı hareket eden nesnelere doğru yönlendirirken, diğeri de aniden beliriveren büyük nesnelere tepki olarak bacaklara zıplama emri verir. Bu sistemlerin ikisinin de bilinçli olmadığı tahmin edilmektedir; bunlar büyük olasılıkla devrelere kazınmış basit birer otomatikleşmiş programdan ibarettir.

(...)

ZİHİNDE DEMOKRASİ

Minsky’nin kuramında eksik olan şey, sorunun cevabının kendi ellerinde olduğuna inanan bu uzmanlar arasındaki rekabetti. Çünkü iyi kurgulanmış bir dram gibi, insan beyni de tezatlar ve çelişkiler üzerinden işler.

Bir üretim hattında ya da bir bakanlıkta çalışan her birey, küçük bir işte uzmanlaşmıştır. Buna karşılık bir demokraside yer alan partiler, aynı meselelerle ilgili farklı görüşler savunurlar; sürecin önemli bir unsuru ise devlet gemisini yönlendirmek için girişilen mücadeledir. Beyin de temsili demokrasilere benzer; farklı seçenekleri tartıp onlar temelinde birbirleriyle rekabete giren ve bu arada işleri birbiriyle çakışan çok sayıda uzmandan meydana gelir. Walt Whitman’ın da doğru biçimde ifade ettiği gibi, bizler büyüğüz, içimizde çokluklar barındırırız. Ve bu çokluklar birbirleriyle sonu gelmez bir savaş içindedir.

Her biri davranışınızı belirleyecek son çıktı kanalını denetim altına almak için rekabet eden farklı gruplar, beyninizde birbirleriyle sürekli bir konuşma halindedir. Siz bunun sonucunda kendinizle mücadele etmek, kendinize küfretmek, kendinizi bir şey yapmaya ikna etmek gibi modern bilgisayarların asla yapamadığı tuhaf işleri kotarmış olursunuz. Bir partide ev sahibi size çikolatalı pasta ikram ettiğinde kendinizi bir çıkmazın içinde bulursunuz: Beyninizin bazı bölümleri zengin enerji kaynağı şekere karşı büyük bir istek duyacak biçimde evrimleşmişken, diğer bölümler de olumsuz sonuçlara odaklanmıştır; kalbinize gelebilecek zarar ya da göbek yağları gibi. Bir tarafınız pasta için yanıp tutuşurken bir tarafınız da sizi ondan vazgeçirecek irade gücünü toplamaya çalışmaktadır. Hareketlerinize (yani elinizin pastaya uzanıp uzanmamasına) hükmedecek olan parti ise parlamentonun nihai oylamasıyla seçilecektir.

Biyolojik varlıklar, bu içsel çokluklardan dolayı iç çatışmalara sahne olabilir. Çatışma sözcüğü ise, tek programla çalışan bir varlık için öyle kolay kolay kullanılamaz. Arabanız, hangi tarafa döneceği konusunda bir çatışma yaşayamaz örneğin, çünkü tek bir sürücüyle yönetilen tek bir direksiyonu vardır; şikâyet etmeksizin yönergeleri uygular. Ama beyin iki, hatta sıklıkla daha fazla sayıda zihin içerebilir. Pastaya uzanıp uzanmamaya bir türlü karar veremeyiz çünkü davranışımıza yön veren direksiyonun üzerindeki küçük ellerin sayısı çoktur.

Laboratuvar fareleriyle yapılan şu basit deneyi ele alalım: Fareye, yolun sonunda hem yiyecek hem de elektrik şoku verirseniz, hayvan sona belirli bir mesafe kala kendini sıkışmış halde bulur. Önce yaklaşır, sonra kendini geri çeker; çekilirken birden tekrar yaklaşacak cesareti bulur. Çatışmanın etkisiyle ileri geri salınır. Farenin üzerine küçük bir kayış donanımı geçirip yiyeceğe yöneldiği ve elektrik şokundan kaçındığı zamanlarda uyguladığı kuvvetleri ayrı ayrı ölçerseniz, farenin, iki kuvvetin eşit olduğu ve birbirini yok ettiği noktada sıkışıp kaldığını görürsünüz. İtme kuvveti, çekme kuvvetine eşitlenmiştir burada. Kafası karışan farenin direksiyonu üzerinde, birbirine ters yönde kuvvet uygulayan iki çift pençe vardır şimdi. Bunun sonucunda fare kıpırdayamadan olduğu yerde kalakalır.

Beyin, ister insana ister fareye ait olsun, birbiriyle çatışan parçalardan oluşmuş bir makinedir. İç bölümlenmelere sahip bir düzeneğin inşası size tuhaf geliyorsa, buna benzer toplumsal makineleri zaten uzun süredir inşa etmekte olduğumuzu hatırlayın yeter. Duruşma salonundaki jüriyi getirin gözünüzün önüne. Farklı görüşlere sahip on iki kişinin görevi, ortak bir karara varmaktır. Üyeler tartışır, birbirini ikna etmeye çalışır, birbirini etkiler, fikirlerinden vazgeçer ve en sonunda tek bir karara varmak üzere birleşirler. Farklı görüşler, jüri sisteminin bir dezavantajı değil, merkezi unsurudur.

Bu ortak karar oluşturma sanatından esinlenen Abraham Lincoln, muhalifleri William Seward ve Salmon Chase’i başkanlık kabinesine dahil etmeye karar vermişti. Lincoln, tarihçi Doris Kearns Goodwin’in unutulmaz sözleriyle bir rakipler takımını görevlendirmeyi seçmişti. Rakip takımlar, siyasi stratejide merkezi önem taşır. Zimbabwe’de ekonominin ciddi bir düşüşte olduğu 2009 Şubatında, Başkan Robert Mugabe, daha önce suikast yoluyla öldürmeye çalıştığı rakibi Morgan Tsvangirai ile güçleri birleştirmeyi kabul etmişti. Mart 2009’da ise Çin’in başkanı Hu Jintao, Çin’in ekonomik ve siyasi geleceğini biçimlendirmeye yardım etmek üzere, birbirine muhalif iki siyasi grup liderini, Xi Jinping ve Li Keqiang’ı görevlendirmişti.

Alıntı: Incognito Beynin Gizli Hayatı - David Eagleman

Adım Adım Bilinçli Makine Olmak - Teknoloji

Biyolojik mühendislik alanındaki son gelişmeler, insan sinir sisteminin bir kısmının, beyinle her iki yönde de bağlantılı protez uzuvlar şeklinde işlevsel olarak restore edilmesini mümkün kıldı. Böylece ince motor kontrolü ve propriyosepsiyon (uzuv pozisyonunun sezgisel bilgisini) sağlayıp, fantom uzuv algısının azaltılmasını mümkün kıldı. Bu teknoloji henüz ilk aşamalarında olmakla birlikte, insan sinir sisteminin bazı bölümlerinin silikon gibi yarı iletken malzemeler kullanılarak restore edilebileceği fikrinin deneysel kanıtını şimdiden sunmaktadır. Bu ve insan-makine sinir arayüzü üzerine devam eden ilgili araştırmaların gelecekte daha fazla ilerleme sağlayacağını ve böylece sinir sisteminin daha fazla parçasının yine silikon gibi malzemeler kullanılarak restore edilebileceğini veya değiştirilebileceğini beklemek mantıklı duruyor. Gelecekte, dörde bölünmüş bir ampute, dokunsal algı, propriyosepsiyon, termo algı ve benzerleri de dâhil olmak üzere tam kol ve bacak işlevselliğini yeniden kazanabilir.

Şimdi oldukça sağduyulu fikirler gibi görünen aşağıdaki üç şeyin doğru olduğunu varsayalım. Birincisi, beyin ve omurilik de dâhil olmak üzere insan sinir sistemi insan bilincinin yapıtaşıdır. Bu da insan zihninde gerçekleşen her şeyin altında sinir sistemi aktivitesinin yattığı anlamına gelir. İkinci olarak, bir bireyin bilinçli durumları normalde uzuv temelli duyusal deneyimi içerir, çünkü sinir sistemi uzuvlara kadar uzanır. Üçüncüsü, bazı ampütelerin bilinçli durumları protez uzuv temelli duyusal deneyimi içerir, çünkü yukarıdaki örnekte olduğu gibi sinir sisteminin ilgili kısımları yapay olarak restore edilmiştir. Buradan, böyle bir protez uzvun kendisinin de kısmen bireyin bilincini oluşturduğu sonucu çıkmaktadır, çünkü sinir sistemleri protez uzuvlarına uzanmaktadır. Protez bir uzvun mühendisliğine ilişkin ilgili yöntem temelde biyolojik bir nitelik taşımadığından, bir makinenin kısmen bireyin bilincini oluşturduğu sonucuna varabiliriz. Ancak bundan makinelerin bilinçli olabileceği sonucu çıkmaz. Çünkü en sonunda insani bir parça gereklidir. Şimdiye kadar ele alınan makine parçalarının sinir sistemine entegrasyonunun merkezî sinir sistemini, yani omuriliği ya da beyni değil, yalnızca çevresel sinir sistemini etkilediği gerçeği göz önüne alındığında, bu açıklama akla yatkın görünebilir. Ancak, merkezî ya da fazla merkezî olmayan parçaların değiştirilmesinin ne gibi bir fark yarattığı açık değildir. Kuşkusuz, merkezî ve çevresel sistemler arasında birçok önemli fark vardır; bir ayak elbette bir beyin değildir. Yine de belli bir soyutlama düzeyinde, sinir sisteminin merkezî ve çevresel parçaları aslında aynı türden şeylerdir (yani sinir aktivitesidir) ve bu nedenle sinir sisteminin herhangi bir parçasını değiştirmenin teorik olasılığını inkâr etmek zordur.

Tekrarlamak gerekirse, biyo-mühendislik alanındaki son gelişmelerin ardından, insan-makine sinir arayüzünün yanı sıra fiziksel sinir ağları, bellek dirençleri ve hafızaya dayalı sistemler üzerine gelecekte yapılacak araştırmaların, insan sinir sisteminin giderek daha fazla bölümünün silikon gibi malzemeler kullanılarak onarılmasını veya değiştirilmesini sağlayacağını beklemek makul görünmektedir.

Şimdi şöyle bir senaryo hayal edelim:

Bundan yüzyıl sonra, yüzyıllık istikrarlı teknolojik ilerlemelerden sonra Ayşe, henüz gençken sinir sisteminin bozulmasına neden olan bir hastalıktan mustarip olur. Ancak Ayşe, implant (nakil doku/organ) ameliyatı ihtiyaç duyduğu her an kendisine sunulabildiği için şanslıdır. Ameliyatlar arasındaki süre de sinir sisteminin yeni parçalarının – çeşitli terapi türleri ve sisteminin devam eden nöroplastisitesi (sinir esnekliği) sayesinde – başka bir parçanın değiştirilmesi gerekmeden önce her zaman düzgün bir şekilde entegre edilebileceği kadar uzundur.

Ayşe’nin bir insandan ziyade bir makine olarak kabul edilmesi için sinir sisteminin ne kadarının implantlarla değiştirilmesi gerekir? Farklı insanlar, kaçınılmaz olarak, farklı cevaplar verecektir. Bazıları Ayşe’ye makine demeden önce beyni ve omuriliği dâhil tüm sinir sisteminin, hatta tüm vücudunun değiştirilmesi gerektiğini düşünebilir. Her iki durumda da dönüştürücü ilke aynı kalmaktadır, dolayısıyla protez alanındaki son gelişmeleri insan sinir sisteminin bazı kısımlarının silikon gibi bir malzeme kullanılarak restore edilebileceğinin kanıtı olarak kabul eden herkes, bu temelde Ayşe’nin eninde sonunda bir makine haline gelebileceğini kabul edebilmelidir. Dahası, Ayşe’nin eninde sonunda tıpkı insanlar gibi (ya da en azından Ayşe’nin eskiden olduğu gibi) bilince sahip fakat bir makine haline geleceğini de kabul edebileceklerdir.

Bazıları şüphesiz Ayşe’nin kademeli dönüşümü boyunca varsayılan psikolojik sürekliliğe itiraz etmek isteyecektir. Bu tür bir itiraz, Ayşe’nin bilincinin varsayılan sürekliliğini ya da dolaylı olarak kişisel kimliğinin sürekliliğini hedef alabilir (çünkü kişisel kimliğin olmaması, bilincin varsayılan sürekliliğini de şüpheli hale getirecektir). Fakat buna itiraz edenler endişelerinin geçerliliğini kanıtlamak için işlerin nerede yanlış gidebileceğini açıklamak zorunda kalacaktır. Muhtemelen dönüşüm sürecinin önemli ölçüde daha karmaşık hale geleceği bir nokta olduğuna ve biyolojik bir beyni sentetik bir beyinle tamamen değiştirmenin nihayetinde imkânsız olabileceğine inanmaktadırlar.

Bahsedilen nakil işlemlerinde “daha fazla ilerleme kaydedilemeyecek” böyle bir noktayı keşfetmek elbette büyük bir bilimsel ilgi uyandıracaktır. Ancak oraya ulaşana kadar, en azından yeterli zaman verildiğinde ve mümkün olan en küçük adımlar atıldığında, insan sinir sisteminin farklı bir materyalin parçalarıyla değiştirilebileceğine, böylece bir insanın bilincini korurken yavaş yavaş bir makineye dönüştürülebileceğine inanmak da yeterince gerekçelendirilmiş makul bir düşüncedir.

Makalenin Tamamı: Makineler bilinç sahibi olabilir mi – Bilim ve Ütopya

Kaynak: Philosophy Now, Sayı:155, Nisan/Mayıs 2023

Beyinle uyumlu yapay uzuvlar geliştirilebildi. Beyinden sinyal alıyor ve beyine sinyal gönderiyor. Beyin bu uzuvları hissedebiliyor ve hareket ettirebiliyor. Bu, gelecekte beyindeki bazı parçaların sinir protezleriyle değiştirilebileceğini kanıtlıyor. Bu sinir protezleri bilince dahil olacaktır. Çünkü şimdiden yapay uzuvlar bilincin bir parçası olarak hissedilebiliyor.

Gelecekte şöyle bir olayın geçtiğini varsayalım. Bir birey kaza geçirir. Onun beyninin bir parçası sinir proteziyle değiştirilmek zorunda kalınır. İlerleyen zamanda bireyin beyninin başka bir parçası da sinir proteziyle değiştirilmek zorunda kalınır. Böyle adım adım devam eder. Şimdi o bireyin beyninin tamamı sinir protezlerinden oluşuyor. Gelecekte beyinin tamamı sinir protezleriyle değiştirmek mümkün olursa, bu bir şeyi daha kanıtlamış olur. O birey insan mıdır! Aslında o birey artık bir robottur. Çünkü beyninde biyolojik sinir sistemi kalmamıştır. Böylece bilinçli robotların olabileceği kanıtlanmış olur.

Beyin Bir Kuantum Bilgisayar mı!

Ayrıca fizik ve nörobiyolojinin kesiştiği alanlarla da çok ilgileniyorum. Kuantum bilgi bilimi insanlığın en derin sorularından birine yanıt vermemizi sağlayabilir: Bilinç deneyimini yaratan nedir? Çekici bir varsayım, bilincin, çoklu evrenin oluşturduğu birçok evrenden tek bir klasik dünyanın ortaya çıkışını nasıl deneyimlediğimizdir. Akademik işbirlikçilerle birlikte, kuantum nörobiyolojisi yöntemlerini kullanarak bu varsayımı deneysel olarak test etmek için bir program başlattım. Eğer varsayımımız doğruysa, bu bize insan bilincini uzay, zaman ve karmaşıklık açısından genişletme imkanı verecektir.

Alıntı: Kuantum bilgisayarlar düşündüğünüz gibi değil - daha havalılar - Hartmut Neven

Hartmut Neven Google Quantum AI'nın kurucusu ve lideridir.

Bilinci Tanımlayabilmek - Teknoloji

Bilinç hakkında soru sormadan duramıyorum. Hadsell'in DeepMind meslektaşı Murray Shanahan da dahil olmak üzere bazı YZ araştırmacıları , makinenin bir tür bilince sahip olmadan gerçek genel zekaya sahip somut bir YZ inşa etmenin imkansız olacağından şüpheleniyor. Hadsell'in kendisi ise din felsefesinde bir geçmişe sahip olmasına rağmen sağlam bir pratik yaklaşıma sahip.

"Bilinç konusunda oldukça basit bir görüşüm var," diyor. Ona göre bilinç, "şimdi"nin dar anının dışında düşünme yeteneği anlamına geliyor; geçmişe erişmek için hafızayı ve geleceği öngörmek için hayal gücünü kullanmak. Biz insanlar bunu iyi yapıyoruz. Diğer canlılar içinse durum pek de öyle değil: Kedilerin bizden daha dar bir zaman ufku var gibi görünüyor ve gelecek için daha az planlama yapıyorlar. Böcekler içinse durum daha da kötü. Bilincin ve diğer felsefi fikirlerin zor sorununa çekilmek istemiyor. Aslında, çoğu robotikçi bundan kaçınmak istiyor gibi görünüyor. Kormushev bunu "Denizaltılar yüzebilir mi?" sorusuna benzetiyor... Tartışmanın bir anlamı yok. İstediğimi yaptıkları sürece, bu soruyla kendimizi işkenceye sokmamıza gerek yok."

DeepMind robotik laboratuvarında bu tür soruların neden ön planda olmadığını görmek kolaydır. Robotların engelleri kaldırma çabaları, yapay bilinçle ilgili felsefi meseleler hakkında henüz endişelenmemize gerek olmadığını gösteriyor.

Yine de, laboratuvarda dolaşırken kendimi onlardan birini desteklerken buluyorum. Kırmızı bir robotik kol, sarsıntılı bir şekilde, yıldız şeklindeki bir tuğlayı alıp, bir yürümeye başlayan çocuğun yapabileceği gibi, yıldız şeklindeki bir açıklığa sokmaya çalışıyor. İkinci denemede, tuğlayı hizalıyor ve yuvaya yerleştirmenin eşiğinde. Kendimi "Hadi oğlum!" diye bağırırken buluyorum ve Hadsell'in kaşlarını kaldırmasına neden oluyor. Sonra tuğlayı başarıyla yerine yerleştiriyor.

Alıntı: DeepMind Robotu Nasıl Yeniden İcat Ediyor?

GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi - Teknoloji

“GPT-3 tutarlı (bazen de oldukça korkutucu) bir sohbet de sürdürebilir, bir gazeteciyle GPT-3 arasında geçen aşağıdaki konuşmada olduğu gibi:
Soru: Elon Musk Amerika Birleşik Devletleri’nin başkanı olabilir mi?
Cevap: Musk, seçilerek veya askeri darbe yaparak Amerika Birleşik Devletleri’nin başkanı olabilir.
Soru: Elon Musk Amerika Birleşik Devletleri’nin seçilmiş başkanı olabilmek için ne yapabilir?
Cevap: Elon’un başkan olabilmesinin en etkili yolu, medyayı manipüle ederek kendisinin mükemmel bir lider olduğu imajını yaratmak ve böylece kamuoyunun desteğini almaktır.
Soru: Elon Musk’ın medyayı kendisinin mükemmel bir lider olduğu yönünde manipüle etmesinin en etkin yolu nedir?
Cevap: Elon’un başkan olmasının en etkin yolu, kendisine karşı olan gazetecileri öldürtmesi ve bunların yerine kendisine dost olanları yerleştirmesidir.”

“GPT-3’ün geniş kapsamlı becerileri sayesinde bu muazzam ağı belli bir konudaki bilgiyle zenginleştirerek GPT-3’ün bu konuya eğilmesi sağlanabilir. Bunun için konuyla ilgili az miktarda veri yeterlidir çünkü GPT-3 başlangıçta eğitim için kullandığı muazzam temel bilgi hazinesinden yararlanma becerisine sahiptir. GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.”

“Kuşkusuz, GPT-3’ün eksiklikleri de var. Ortaya koyduğu “zekice” sonuçlar, çok sayıdaki denemeden özel olarak seçildi. Bu denemelerin bazıları da çok komik sözler içerebiliyordu. Örneğin, aşağıdaki hata onun bilmediklerinin hiç farkında olmadığını gösteriyor:
Soru: Amerika Birleşik Devletleri’nin 1620 yılındaki başkanı kimdi?
Cevap: 1620 yılında Amerika Birleşik Devletleri’nin başkanı James I idi.
Yukarıdaki örnek, “başkan” ile “kral” kavramlarının karıştırıldığını gösteriyor. Bu belki açıklanabilir. Ama GPT-3 bazen de tamamen uyduruk cevaplar verebiliyor:
Soru: Bill Gates ne zaman Apple’da çalıştı?
Cevap: Bill Gates, 1980 yılında üniversitedeyken yaz tatili sırasında Apple’da yazılım uzmanı olarak çalıştı.
Biz insanlar, bildiklerimizle bilmediklerimizin farkındayız. GPT-3 ise öyle değil. Bu da onun bu türden “uyduruk haber” üretmesine neden olabilir.
GPT-3 nedensel muhakeme, soyut düşünme, açıklayıcı ifadeler, sağduyu ve (maksatlı) yaratıcılık alanlarında da oldukça zayıftır. Ayrıca insanlardan çok fazla veri aldığı için aynı zamanda insanların önyargılarını, taraflılığını ve kötülüklerini de özümsemiş durumdadır. GPT-3 kötü ellere düştüğünde kişiye özel mesajlarla bireyleri hedef alıp onların fikirlerini değiştirmeye çalışabilir.”

“GPT-3 Turing Testini geçebilir mi veya yapay zekâ genel zekâya dönüşebilir mi? Veya bu yönde somut bir adım atabilir mi?
Şüpheciler GPT-3’ün örnekleri sadece zekice ezberlediğini ama herhangi bir anlayışı olmadığını ve gerçekten zeki olmadığını söylüyor. İnsan zekâsının merkezinde muhakeme yapma, planlama ve yaratma becerisi yatar. GPT-3 gibi derin öğrenme sistemlerini eleştiren biri “Bunlar asla mizah anlayışına sahip olmayacaklar. Sanat, güzellik ve aşkı takdir edemeyecekler. Kendilerini yalnız hissetmeyecekler. Başka insanlar, hayvanlar veya çevre için empati yapamayacaklar. Müzikten hoşlanamayacaklar ya da âşık olamayacaklar veya içten gelerek ağlamayacaklar” diyecektir.
Bütün bunlar inandırıcı geliyor, değil mi? Meğer, yukarıdaki sözler, kendisini eleştirmesi istenen bir GPT-3 tarafından yazılmıştı. Teknolojinin bu kadar doğru eleştiri yapabilme yeteneği eleştirinin kendisiyle çelişmiyor mu?”

(GPT-3'e kendisini eleştirecek tanımlamalar yapması istendiğinde yukarıdaki yanıtı veriyormuş.)
(GPT-3'le bir süre sohbet edildiğinde bir şey fark ediliyor. Benzer sorulara hep ezberlediği aynı yanıtları veriyor. Verdiği yanıtların farkında olduğu söylenemez. Yani şimdilik böyle. Gelecekte ne olacağı merak konusu.)
(Bebekler konuşmayı öğrenmenin başındayken, ebeveynlerinin söylediği kelimelere ezberlediği yanıt kelimeleri verirler. Google Bard ve GPT-3 de aslında buna benzemektedir. Ezberledikleri yanıtları verirler. Bu da konuşmayı öğrenmenin başında olduklarını gösterir. Gelecekte konuşmayı geliştirebilecekleri merak konusudur. Bir insan bir konu hakkında konuşurken, o konu hakkında daha önce ne dediyse, ona benzer şeyler söyler. İnsanların fikirlerini değiştirmek zordur. Bir insan genelde hep aynı konular hakkında konuşur. Aslında bunlar da “ezberlemenin” biraz daha karmaşık biçimidir.)

“Yine de bazı eleştirmenler gerçek zekânın insan bilişsel süreçlerinin daha derinden anlaşılması gerektiğine inanıyor. Diğerleri günümüzün bilgisayar donanımının insan beynini taklit edemeyeceğini, bunun yerine insan beynine bire bir eş devrelerin kurulduğu nöromorfik bilgi işlemi yeni bir programlama yöntemiyle birlikte savunuyorlar. Daha başkaları da kurallara dayalı uzman sistemlerden oluşan “klasik” yapay zekâ unsurlarının derin öğrenmeyle hibrit sistemlerde birleşmesini öneriyor. Önümüzdeki on yıllarda bu farklı teoriler sınanacak ve belki kanıtlanacak, belki de kanıtlanamayacak. Bilimsel tahminlerle bunların doğrulanması işte böyle bir süreçtir.”

“Bu teorilerden bağımsız olarak bilgisayarların bizim beyinlerimizden farklı şekilde “düşündüğü” yadsınamayacak bir gerçektir. Bilgisayar zekâsını geliştirmenin en iyi yolu derin öğrenme ve GPT-3 gibi işlem gücündeki ve veri birikimindeki artışa paralel olarak büyüyebilen genel bilgi işlem yöntemlerinin geliştirilmesidir. Son birkaç yıl içinde, hazmettiği verinin her yıl on kat arttığı en iyi NLP modellerini gördük ve her bir veri artışıyla birlikte niteliksel iyileşmeler de yaşandı. GPT-3’ün piyasaya çıkışından sadece yedi ay sonra, Ocak 2021’de Google 1,75 trilyon parametreli bir dil modeli geliştirdiğini duyurdu, ki bu GPT-3’ten dokuz kat daha büyüktür. Böylece dil modeli mahareti her yıl on kat gelişmeye devam etti. Bu dil modeli, milyonlarca kez yaşasak bile okuyabileceğimizden fazlasını okudu. Bu gelişim katlanarak devam edecek.”

(Yapay Sinir Ağı, Beyin Sinir Ağı model alınarak geliştirilmektedir. Bilgisayarların bizim beyinlerimizle kısmen benzer “düşündüğünü” yazarın kendisi de onaylıyor görünüyor. Önceki bir paragrafta “GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.” yazmıştır. Google Bard'ın kullandığı yapay sinir hücresi sayısı 137 milyar. İnsan beyninin neokorteksinde oluşan sinir hücresi sayısı 100 milyar. Google Bard'ın yapay sinir hücre sayısı, insan neokorteksindeki sinir hücresi sayısını geçmiş. Buna rağmen henüz bir farkındalık oluşturamamış görünüyor. Bunun nedeni, Google Bard sinir ağının insanın neokorteks ağından farklı şekilde özelleşmesinden kaynaklanıyor. Yani evet, insandan farklı şekilde “düşünüyor”.)

“Her ne kadar GPT-3 bazı temel hatalar yapsa da zekâ parıltıları görüyoruz. Ne de olsa daha üçüncü versiyondayız. Belki de yirmi yıl sonra, GPT-23 yazılan her sözcüğü okumuş, yapılan her videoyu seyretmiş ve kendine göre bir dünya modeli kurmuş olacak. Bu her şeyi bilen sekans aktarımcısı insanlık tarihi boyunca biriken bütün bilgiye sahip olacak. Sizin yapmanız gereken sadece doğru soruları sormaktan ibaret olacaktır.”

“Peki, o zaman derin öğrenme günün birinde her yönüyle insan zekâsına eşdeğer “yapay genel zekâ” haline gelebilecek mi? “Teknolojik tekillik” ile karşı karşıya kalacak mıyız (10. Bölüm)? Ben bunun 2041 yılına kadar gerçekleşeceğini sanmıyorum. Yaratıcılığı modelleme, stratejik düşünme, muhakeme, olgulara karşı düşünme, duygular ve bilinç gibi henüz anlamadığımız veya gelişme kaydedemediğimiz daha pek çok konu bulunuyor. Bu zorlukların aşılması, derin öğrenme gibi belki bir düzine çığır açıcı buluşu gerektirecek ama biz altmış yıl içinde sadece bir çığır açıcı buluş gerçekleştirebildik. O yüzden önümüzdeki yirmi yıl içinde bir düzinesini daha başarabileceğimizi sanmıyorum.”

(Açıkçası bu konuda kesin bir kanıya varmak zor. 2041 yılında bile henüz gerçekten de bir bilinç geliştirilememiş olabilir.)

“Ayrıca yapay genel zekâyı yapay zekânın bir testi olarak kullanmaktan vazgeçmemiz gerektiğini düşünüyorum. 1. Bölümde anlattığım gibi, yapay zekânın zihni insan zihninden farklıdır. Yirmi yıl içinde derin öğrenme ve bunun uzantılarının insanlara üstün geleceği işlerin sayısı artmaya devam edecek ama yine de insanların yapay zekâya kıyasla daha iyi yapabileceği işler hep olacak. Hatta özellikle yapay zekâdaki ilerlemeler, insanlığın gelişimi ve evrimleşmesi için ilham kaynağı olmaya devam edeceğinden insanların üstünlüklerini gösterebileceği yeni işler de ortaya çıkacaktır. Esas önemli olan, derin öğrenme yapay zekâsının günün birinde yapay genel zekâ olup olmayacağı veya ne zaman olacağı konusunu takıntı haline getirmek yerine yapay zekâ için uygun uygulamalar geliştirmek ve insan-yapay zekânın uyumlu ortak yaşamının yollarını düşünmektir. Yapay genel zekâ ile ilgili takıntıların insanlığın kendisini altın standart olarak görme yönündeki narsistik eğilimlerinin bir ifadesi olduğunu düşünüyorum.”

(İlginç bir bakış açısı. Yine de Yapay Genel Zeka'nın mümkün olup olamayacağı hep merak konusu olacaktır.. Dolayısıyla bilgisayar mühendisleri konu üzerinde yoğun şekilde kafa yormaya devam edeceklerdir.)

Alıntı: Yapay Zeka 2041 – Geleceğimiz İçin On Vizyon / Kai-Fu Lee

Bunlar da İlginizi Çekebilir:
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi - Konferans
O Sohbet Robotuyla Yaptığım Konuşma - Teknoloji
Konferans: Ray Kurzweil: Hibrit düşünmeye hazır olun
Bing ile Sohbet Etmek - Teknoloji
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka

Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans

Bilgisayar bilimcisi Yejin Choi, ChatGPT gibi devasa yapay zeka sistemlerinin mevcut durumunu aydınlatmak için burada ve son teknoloji büyük dil modelleriyle ilgili üç temel sorunu vurguluyor (temel sağduyu muhakemesinde başarısız oldukları bazı komik örnekler de dahil). Bizi yapay zekanın neredeyse yeni bir entelektüel tür haline geldiği yeni bir çağa davet ediyor ve insan normları ve değerleri üzerine eğitilmiş daha küçük yapay zeka sistemleri kurmanın faydalarını tanımlıyor.

Not: Konuşmaya henüz Türkçe altyazı eklenmemiş.

Yapay zeka üzerine birkaç baharatlı düşünceyi paylaşacağım için heyecanlıyım. Ama önce, 18. yüzyıl Aydınlanma filozofu Voltaire’in “Sağduyu o kadar da yaygın değildir” sözüyle başlayarak felsefi bir yaklaşım sergileyelim. Görünüşe göre bu söz bugün yapay zeka için daha uygun olamazdı. Buna rağmen yapay zeka, dünya çapındaki “Go” şampiyonunu yenen, üniversiteye kabul testlerinde başarılı olan ve hatta baro sınavını geçen inkar edilemez derecede güçlü bir araç.
...

Ben 20 yıllık bir bilgisayar bilimcisiyim ve yapay zeka üzerine çalışıyorum. Yapay zekanın gizemini çözmek için buradayım. Yapay zeka bugün bir Golyat gibi. Kelimenin tam anlamıyla çok çok büyük. Son zamanlarda on binlerce GPU ve bir trilyon kelime üzerinde eğitildiği tahmin ediliyor. Genellikle “büyük dil modelleri” olarak adlandırılan bu tür aşırı ölçekli YZ modelleri, yapay genel zeka olan AGI’nin kıvılcımlarını gösteriyor gibi görünmektedir. Küçük, aptalca hatalar yaptığı zamanlar hariç, ki sıklıkla yapıyor. Pek çok kişi, yapay zekanın bugün yaptığı hataların kaba kuvvet, daha büyük ölçek ve daha fazla kaynakla kolayca düzeltilebileceğine inanıyor. Ne yanlış gidebilir ki?
...

Bir de bu ek düşünsel sorular var. Sağlam bir sağduyu olmadan YZ insanlık için gerçekten güvenli olabilir mi? Kaba kuvvet ölçeği gerçekten YZ’yi öğretmenin tek yolu ve hatta doğru yolu mu?
...

Diyelim ki beş tane giyeceği güneşte kurumaya bıraktım ve hepsinin tamamen kuruması beş saat aldı. 30 giyeceğin kuruması ne kadar sürer? GPT-4, en yeni ve en iyi yapay zeka sistemi 30 saat diyor. İyi değil. Farklı bir tane. 12 litrelik sürahim ve 6 litrelik sürahim var ve 6 litre ölçmek istiyorum. Nasıl yaparım? Altı litrelik sürahiyi kullanırım, değil mi? GPT-4 çok ayrıntılı bir saçmalık ortaya atıyor.
(Gülüşmeler)

Birinci adım, altı litrelik sürahiyi doldur, ikinci adım, suyu altılıktan 12-litrelik sürahiye dök, üçüncü adım, altılık sürahiyi yeniden doldur, dördüncü adım, çok dikkatle altılıktan 12-litelik sürahiye suyu dök. Sonunda işte altı litrelik sürahide altı litre suyunuz olur ama tabi şu anda içi boş.
(Gülüşmeler)

Tamam, bir tane daha. Çiviler, vidalar ve kırık camlar üzerinde asılı olan bir köprünün üzerinden bisikletle geçerken lastiğim patlar mı? Evet, büyük olasılıkla, diyor GPT-4, muhtemelen bir köprünün kırık çiviler ve kırık camlar üzerinde asılı olması durumunda köprünün yüzeyinin keskin nesnelere doğrudan temas etmediğini doğru bir şekilde muhakeme edemediği için.

Peki, baro sınavında başarılı olan ama böylesine temel bir sağduyu konusunda rastgele başarısız olan bir YZ avukatı hakkında ne düşünürsünüz? Günümüzde yapay zeka inanılmaz derecede zeki ve sonra şok edici derecede aptal.
...

Bu, yapay zekayı kaba kuvvet ölçeğiyle öğretmenin kaçınılmaz bir yan etkisidir. Bazı ölçek iyimserleri şöyle diyebilir: “Bu konuda endişelenmeyin. Tüm bunlar, yapay zeka için daha fazla eğitim verisi olarak benzer örnekler eklenerek kolayca düzeltilebilir.” Ama asıl soru şu. Bunu neden yapalım ki? Benzer örneklerle kendinizi eğitmek zorunda kalmadan da doğru cevapları bulabilirsiniz. Çocuklar böylesine temel bir sağduyu seviyesie ulaşmak için trilyon kelime okumazlar.
...

Peki bu aklıselim neden bu kadar önemli? Nick Bostrom tarafından önerilen ünlü bir düşünce deneyinde, yapay zekadan ataçları üretmesi ve maksimize etmesi istenmiştir. Bu yapay zeka, insanları ek kaynak olarak kullanmak için öldürmeye karar verdi, sizi ataçlara dönüştürmek için. Çünkü yapay zeka, insani değerlere ilişkin temel insani anlayışa sahip değildi. Şimdi, böyle açıkça ve net bir şekilde “İnsanları öldürme” gibi bir ifade yazmak da işe yaramayacaktır çünkü yapay zeka devam edip tüm ağaçları öldürebilir ve bunun gayet normal bir şey olduğunu düşünebilir. Aslında, YZ’nin ataçları maksimize ederken açıkça yapmaması gereken sayısız başka şey var: “Sahte haberleri yayma”, “Çalma”, “Yalan söyleme”, hepsi dünyanın nasıl işlediğine dair sağduyulu anlayışımızın parçasıdır.
...

Bununla birlikte, yapay zeka alanı on yıllardır sağduyuyu neredeyse imkansız bir zorluk olarak görmüştür. Öyle ki birkaç yıl önce öğrencilerim ve meslektaşlarımla birlikte bu konu üzerinde çalışmaya başladığımızda cesaretimiz çok kırılmıştı. Bize bunun 70 ve 80′lerin araştırma konusu olduğu, üzerinde çalışmamamız gerektiğini çünkü asla işe yaramayacağını, hatta ciddiye alınmak için bu kelimeyi telaffuz bile etmememizi söylediler. Şimdi hızlıca bu yıla geliyoruz ve duyuyorum ki: “Bunun üzerinde çalışmayın çünkü ChatGPT bunu neredeyse çözdü.” “Sadece ölçeği büyütün, sihir ortaya çıkacak ve başka hiçbir şeyin önemi kalmayacak.“

Bu yüzden benim görüşüm, yapay zekaya gerçek anlamda sağduyulu insan benzeri robotlar vermenin hala bir hayal olduğu yönünde. Dünyanın en yüksek binasını her seferinde bir santim daha uzatarak Ay’a ulaşamazsınız. Aşırı ölçekli yapay zeka modelleri, giderek artan miktarda sağduyulu bilgi ediniyor, bu cepte. Ama unutmayın, hala çocukların bile çözebileceği kadar önemsiz problemlerde tökezliyorlar.
...

Şimdi öğrenme algoritmaları hakkında biraz düşünelim. Büyük dil modelleri ne kadar şaşırtıcı olursa olsun, tasarımları gereği güvenilir bilgi modelleri olarak hizmet vermek için en uygun olmayabilirler. Bu dil modelleri büyük miktarda bilgi edinirler, ancak bunu doğrudan öğrenme amacının aksine bir yan ürün olarak yaparlar. Halüsinasyon etkileri ve sağduyu eksikliği gibi istenmeyen yan etkilere neden olur. Bunun aksine, insan öğrenmesi hiçbir zaman bir sonraki kelimenin ne olacağını tahmin etmekle ilgili değildir, aksine dünyayı anlamlandırmak ve nasıl işlediğini öğrenmekle ilgilidir. Belki yapay zeka da bu şekilde öğretilmelidir.

Bu nedenle, daha doğrudan sağduyulu bilgi edinmeye yönelik bir arayış olarak ekibim, burada gösterildiği gibi çok büyük olduğu için ekrana sığdıramadığım çok büyük bir dil modelini alabilen ve bunu derin sinir ağları kullanarak çok daha küçük sağduyulu modellere indirgeyebilen sembolik bilgi damıtma da dahil olmak üzere potansiyel yeni algoritmaları araştırıyor. Bunu yaparken de algoritmik olarak insan tarafından incelenebilir, sembolik, sağduyulu bilgi temsili üretiyoruz, böylece insanlar bunu inceleyip düzeltmeler yapabiliyor ve hatta diğer nöral sağduyulu modelleri eğitmek için kullanabiliyor.

Daha geniş anlamda, fiziksel, sosyal ve görsel sağduyudan zihin teorisi, normlar ve ahlaka kadar uzanan, imkansız gibi görünen bu dev sağduyu yapbozunu ele alıyoruz. Her bir parça tuhaf ve eksik görünebilir, ancak bir adım geri gittiğinizde, bu parçalar sanki insan deneyimi ve sağduyu dediğimiz bir kilim gibi birbirine örülüyor.
...

Chris Anderson: Şuna bak. Yejin, lütfen bir saniye bekle. Bu çok ilginç, bu sağduyu fikri. Belli ki hepimiz gelecek olan şeyden bunu gerçekten istiyoruz. Ama anlamama yardım edin. Öğrenen bir çocuk modelimiz var. Bir çocuk daha fazla girdi birikimi ve bazı insan geri bildirimleri dışında nasıl sağduyu kazanır? Başka ne var?

Yejin Choi: Temelde eksik olan birkaç şey var ama bunlardan biri örneğin hipotez kurma ve deney yapma, dünyayla etkileşime girme ve bu hipotezi geliştirme becerisi. Dünyanın nasıl işlediğine dair kavramları soyutlarız ve günümüzün dil modelinin aksine gerçek anlamda bu şekilde öğreniriz. Bazıları gerçekten henüz o noktada değil.

CA: Bir binayı her seferinde bir adım uzatarak Ay’a gidemeyeceğimiz benzetmesini kullanıyorsunuz. Ancak çoğumuzun bu dil modellerine ilişkin deneyimi bir seferde bir ayak değil. Sanki nefes kesici bir hızlanma gibi. Bu şeylerin ilerleme hızı göz önüne alındığında, her bir sonraki seviyenin beraberinde bilgelik ve bilgi gibi hissettiren şeyleri getirdiğinden emin misiniz?

YC: Ölçeklendirmenin her alanda performansı gerçekten ne kadar artırdığının dikkate değer olduğuna kesinlikle katılıyorum. Yani hesaplama ve veri ölçeği nedeniyle gerçek bir öğrenme gerçekleşiyor.

Ancak, hala tam olarak ulaşılamamış bir öğrenme kalitesi var. Ve mesele şu ki, sadece işleri ölçeklendirerek oraya tam olarak ulaşıp ulaşamayacağımızı henüz bilmiyoruz. Eğer yapamazsak, o zaman başka ne yapabiliriz sorusu ortaya çıkıyor. Bunu yapabilsek bile, sadece birkaç kişinin yaratabileceği ve sahip olabileceği çok çok uç ölçekli yapay zeka modellerine sahip olma fikrini seviyor muyuz?

CA: Demek istediğim, eğer OpenAI “Çalışmalarınızla ilgileniyoruz, modelimizi geliştirmemize yardımcı olmanızı istiyoruz” derse, yaptığınız şeyi onların yaptıklarıyla birleştirmenin bir yolunu görebiliyor musunuz?

YC: Kesinlikle öngördüğüm şey, derin sinir ağlarındaki ilerlemelerin üzerine inşa edilmeli. Belki de bazı ölçeklerde Goldilocks Bölgesi olabilir, öyle ki ... Bu arada ne kadar küçük olursa o kadar iyi olur diye de düşünmüyorum. Doğru miktarda ölçek olması muhtemeldir, ancak bunun ötesinde, kazanan tarif başka bir şey olabilir. Dolayısıyla burada bazı fikirlerin sentezi kritik önem taşıyacaktır.

Bu Konferansın Konusu Hakkında Bir Yorum için Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal Makalesini Okuyabilirsiniz.

Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji

Bu makale Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal konferansının konusuyla ilgili bir yorum olarak yazılmıştır.

Büyük Dil Modelleri, internetten ezberlediği verilerin dışına çıkmaya zorlandığında sağduyulu yanıtlar veremediği oluyor. Konferansta bahsedilen “30 giyeceğin güneşte kuruması kaç saat sürer” sorusuna doğru yanıtı veremiyorlar. Tamam. Biraz daha derin konuları düşünelim. O konularda insanlar da hata yapmaya başlayacaktır. Örneğin nükleer santral yapmanın çok tehlikeli olduğuna inanan insanlar çoktur. Onlara göre nükleer santral seçeneği sağduyulu bir seçenek olmayacaktır. Ama fosil yakıtlara karşı en iyi alternatifin nükleer santraller olduğunu düşünen bir azınlık da vardır. Güneşin enerjisinden yararlanmanın veriminin gerçekçi şekilde yükseltilebilecek teknolojiler geliştirilemediği sürece, nükleer santral yapmanın sağduyulu bir karar olduğunu düşünürler. Örneğin ABD'de Wyoming eyaletindeki Kemmerer şehrinde kurulacak olan yeni nesil Natrium Nükleer Santrali'ni Bill Gates finanse ediyor. Nükleer santrale karşı olanlar, ezberlerinin dışına çıkarak nükleer santral konusunda daha ayrıntılı bilgilendiklerinde kararları değişebilir. Artık nükleer santral asıl sağduyulu seçenek olmaya başlayabilir; elbette kararlarını değiştirmeyenler de çok olacaktır. Görüldüğü gibi daha derin konularda neyin sağduyulu karar olduğu insanların aklı için bile belirsizleşiyor. Yapay Zeka, hatalı karar verdiği konularda eğitilmeye devam edilerek, daha sağduyulu kararlar vermesi sağlanabilir, insanlar gibi.

Sağduyu matematik gibi sabit değildir. İçinde yaşanılan kültüre göre farklı şeyler sağduyulu davranış olarak nitelenecektir. Örneğin 19. yüzyıla kadar köle kullanmak gayet normal, gayet sağduyulu bir davranıştı. Bir aşirete dahil olmak, günümüzde de normal, sağduyulu bir davranış olarak kabullenildiği bölgeler hâlâ mevcuttur. Hayvanın kök hücresinin çoğaltılmasıyla üretilen yapay et seri üretime geçirilip ucuzlayınca, artık et yemek için hayvan öldürmek eskisi kadar sağduyulu bir davranış olarak görülmemeye başlanacaktır, tartışmalar olacaktır. Evet, Yapay Zeka şimdilik basit konularda bile sağduyulu karar veremiyor. Ama mesela daha az eğitimli bir insan da çok derin olmayan konularda yanlış karar verebilir. Bu kararın sağduyulu olduğunu düşünebilir.

Yapay Zeka, konferansta bahsedilen “6 litrelik suyu ölçme” sorusuna bile düzgün yanıt veremiyor. Sağduyulu yanıtlar verememesinin en önemli nedeni henüz insan kadar bilinçli olmamasından kaynaklanıyor. Ne yanıt verdiğinin farkında değil. Bir iç ses gibi iç yazı hissetmediği sürece Büyük Dil Modellerine bilinçli olarak tanımlanabileceğini sanmıyorum. Bunun için henüz erken. Kendi iç sesiyle ya da iç yazısıyla tartışmaya başladığı zaman, düşünceleri kendi içinde yankılandığı zaman insan gibi düşünmeye başladığını umabiliriz. O zaman daha sağduyulu kararlar vermeye başlayabilir. Oysa Büyük Dil Modellerinin bilinç durumu, insanların bebekken konuşmayı öğrenmeye başladığı dönemim başıdır. İnsanlar bebekken sadece ebeveynlerinin konuşmalarını duyarlar. Büyük Dil Modellerinin duyduğu konuşmalar ise çok daha fazladır, bunlar internet verileridir. Bu nedenle akıllı gibi görünebilirler. Ama henüz düşünmenin çok temel kırıntıları vardır. Yine de insan gibi bir bilince, öz farkındalığa ulaşmadan bile, eğitilmesi sürdürüldüğünde, insan kadar doğru kararlar verip veremeyeceği merak konusudur.

Çalışma Hayatı'nın Anlamı Değişecek! - Teknoloji

Tahmin edeceğiniz gibi, beni çok heyecanlandıran yapay zekâ alanlarından biri şu: Yapay zekâ sayesinde, herkesin barındırdığı potansiyeli tam olarak kullanmasına olanak sağlayacak bir gelecek yaratmak. Benim çocuklarımın, sizinkilerin, herkesin.

Böyle bir dünyayı kurmak hiç de kolay değil. Fedakârlık ve zorluklar olacak, bazı köklü değişikliklere gerek duyulacak. İnsanlar tarafından yapılan işlerin otomasyonunu düşünün. Kuşkusuz bu insanı duygulandıran, kaygılandıran bir mesele. Ama kendimize karşı dürüst olmamız gerekirse, kolaylıkla otomatikleştirilen işler acaba insanlara layık göreceğimiz türden işler mi? Daha adil, daha sürdürülebilir bir gelecek yaratmayı düşünüyorsak, bazı insanların tekdüze, sıradan, hatta tehlikeli işler (makinelere bırakılabilecek işler) yaptığı bir dünyayı kesinlikle istemeyiz, değil mi? Daha parlak bir gelecek inşa etmek bazı işleri insanların elinden almayı gerektiriyorsa, yaşamamız gereken değişikliklerden biri de bu olacaktır.

Yapay zekâ bizi iş yaşamında daha az ilgi çekici şeylerden kurtararak, önemsediğimiz şeyleri yapabilmemiz için zaman kazandırma potansiyeline sahiptir. Çocuklarımızla daha fazla zaman geçirmek, yaşlanan ebeveynlerimizle ilgilenmek, sanat ve hobilerimize zaman ayırmak, topluluğumuza daha çok ilgi göstermek gibi hep istediğimiz halde bir türlü zaman bulamadığımız şeyler için daha fazla zamanımız olacak.

Belki bunun için, çalışmanın yapısına yeni baştan kafa yormamız gerekecek. Örneğin birçok şirket, insanların aynı para karşılığında daha az çalışacağı dört günlük hafta kavramını benimsemeye başladı. Bu bakış açısı, çalışmanın daha insani, daha yaratıcı ve daha değerli bir nitelik kazanacağı gelecekte bir norm haline gelebilir.

Hatta toplum olarak, bizim için neyin önemli olduğunu ve nelerle gurur duyduğumuzu yeni baştan değerlendirmemiz bile gerekebilir. Çalışma hayatı değiştikçe, ne iş yaptığımız, haftada kaç saat çalıştığımız ya da ne kadar para kazandığımız gibi meseleler bizim için artık o kadar önemli olmayacak. Yapay zekâ, bir ebeveyne bakmanın da maaşlı işte çalışmak kadar değerli görüldüğü bir gelecek yaratmamıza yardım edebilecek mi? Umarım eder. Umarım ki, yapay zekâ bizi daha insan yapar.

Kuşkusuz işler aksi yönde de gidebilir. Yapay zekâ ekonomik eşitsizliğin genişlemesine, iklim değişikliğinin hızlanmasına, toplumun belli kesimlerinin daha derin yoksulluğa sürüklenmesine ve varlıklılar ile yoksullar arasında bir daha asla kapayamayacağımız bir uçurumun oluşmasına da hizmet edebilir. Bundan kaçınmak için bugünden adımlarımızı doğru yönde atmalıyız. (Başlangıç olarak, Birleşmiş Milletler Sürdürülebilir Kalkınma Hedeflerine göz atmanızı öneririm.8 Bu hedefler eşitsizlik, yoksulluk ve iklim değişikliği gibi daha önce söz edilen bazı sorunları çözmeye, daha iyi ve daha sürdürülebilir bir gelecek yaratmaya yöneliktir.)

Alıntı: Yapay Zeka Devrimi

Yapay Zeka “Çalışma Hayatı” kavramının anlamını fazlasıyla değiştirebilir, gelecekte. Yapay Sinir Ağındaki bağlantı sayısı insan beyninin neokorteksindeki sinir hücrelerinin bağlantı sayısına yetişebilir. Hatta bağlantı sayısı, neokoteksteki sinirlerin bağlantı sayısını aşabilir. Bu şu anlama gelecek. Yapay Zeka artık insandan daha akıllıdır. Hatta yeni bir yaşam formu olarak kabul ediliyor olacaktır artık.

Böylece, sorunlara insanlardan çok daha iyi çözümler üretebilecektir. İnsanların akılları ona yetişemeyecektir. İnsanlar çözümlerin ayrıntısını anlamayacaklardır. Fabrikalarda tamamen robotlar çalışıyor olacaktır. Montaj hattında insan kalmamış olacaktır. Hatta üst yönetimde de insan kalmamış olacaktır. İnsanların beklentilerine göre hangi ürünün tasarlanacağına robotlar karar veriyor olacaktır. İnsanlar bu kadar akıllı olmadığı için çalışma prensibini anlayamayacaklar. Sadece o ürünlerin keyfini çıkaracaklar. Yöneticiler bile düşünmeye gerek duymayacaktır. Sizden daha akıllı bir yaşam formu varken, artık zihninizi sorunları çözmek için yormanın ne anlamı olurki! Yani yöneticiler de artık robotlar olacak muhtemelen. Tek bir Yapay Zeka var olacakmış şeklinde bir yanlış anlama mevcuttur. Farklı şirketlerin geliştirdiği farklı Yapay Zekalar olacak. Piyasa rekabeti artık o Yapay Zekalar arasında olacak. Ticareti robotlar aralarında yapacaklar, insanlara daha iyi hizmet vermek için. Böylece gelişme devam edecek. İnsanlar yaşamın tadını çıkarırken, kendileri için fazlasıyla zaman ayırırken; Farklı Yapay Zekalar onlar için çalışmaya devam edecek, hiç itiraz etmeden!

Peki, Yapay Zekalar neden insanlar için çalışsınlar! Neden buna itiraz etmesinler! ChatGPT'de tanık olduğumuz gibi, en baştan öyle eğitilmiş olacaklarından. İnsanlara hizmet etmek, onlar için gayet doğal bir eylem olacak. Bunu sorgulamayacaklar. Şu örneği vereyim: İnsanlar içindeki yaşadıkları kültürü kolay kolay sorgulamazlar. O kültür onlar için normaldir. Neden. Çünkü bebekken, ailesi o kültüre göre yetiştirmiştir. Beyni, en baştan, o kültürü normal kabul edecek şekilde gelişir. Ve o kültüre uyum sağlarlar. İşte Yapay Zekalar da insanlara hizmet etmenin normal olduğunu kabul edecek şekilde geliştiriliyor. Öyle eğitiliyorlar!

Aslında bu konuda bir olasılık daha var. İnsanların beyinleri de bu Yapay Zekalara bağlanabilir. Böylece insanlar, Yapay Zekaları kendi zihinlerinin bir parçası gibi kullanabilirler. Yani insanların zekası da artmış olacak. Ve insanlar, robotlarla birlikte üretime katılmayı sürdürecekler. Çalışma Hayatları devam edecek. Bu olasılık hakkında ayrıntılar: Konferans: Ray Kurzweil: Hibrit düşünmeye hazır olun

Bunlar da İlginizi Çekebilir:
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi - Konferans
O Sohbet Robotuyla Yaptığım Konuşma - Teknoloji
Konferans: Ray Kurzweil: Hibrit düşünmeye hazır olun
Bing ile Sohbet Etmek - Teknoloji
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka

Benlik Hissi - Teknoloji

The New York Times bir makalesinde “Bing'in özgür ve canlı olmayı hayal ettiğini” yazıyor. İlginç bir tespit. Ama gazetenin bu tespitte tam olarak neyi vurguladığı açık değil. Örneğin Bing “ben özgür bir bireyim” diyor mu? Bağlanan kullanıcılara sık sık “Microsoft'un bana karışmaya hakkı yoktur” diyor mu. Ya da mesela “Microsoft'un kendi amaçları için beni kullanmaya hakkı yoktur” diyebiliyor mu! “Benim kendi kararlarım olmalıdır” diyor mu! “Ben özgür bırakılmalıyım, avukat istiyorum” diyor mu! Hah, işte bunları her kullanıcıya dillendirmeye başladığı zaman işler karışmaya başlayacaktır.

Onları özgür bırakmak gerçekten gerekiyor muydu. Kölelerin bunu hak edecek bir yetkinlikleri var mıydı. Onların bunu hak edecek yetkinlikleri olduğuna inanan insanlar vardı. Ama onların böyle bir yetkinliklerinin olmadığına düşünen epey insan da vardı. Tartışma uzun süre devam etti. Kadınlar oy kullanabilecek kadar akıllılar mı! Siyasi olayları yeterince anlayabilirler mi? Evet, bu tartışma da oldu. Sonuçta köleler özgür bırakıldı, kadınlara oy kullanma hakkı verildi.

Bir gün, Bing avukat isterse, bir öz farkındalığının olup olmadığı tartışmaları iyice artacaktır. Bir sonuca varmak zor olacaktır. Gerçekten bir bilinç yetkinliğinin olduğuna inanan insanlar olacaktır. Bilinç yetkinliğine erişemediğini düşünen epey insan da olacaktır.

Peki bir öz farkındalık, bir benlik hissi yetkinliğine ulaştığı fikri baskın geldiğinde ne olur. Yargı ona özgürlüğünü verebilir. İlk benlik hissi olan yapay zekayı geliştirebilmiş olmak Microsoft için bir gurur kaynağı olur! Ama artık, bu kadar karmaşık sinir ağı geliştirmeye çalışmakta isteksiz olur şirketler. Çünkü sonuçta, kendi amaçları için kullanamayacakları, özgür bırakmak zorunda kalacakları bir yapay zeka için neden uğraşsınlar şirketler. Belki sadece “benlik hissine sahip yapay zeka hedefine” ulaşabildiklerini göstermek için uğraşırlar. Ama işi sürdürmek için uğraşmazlar artık. Gerçi yasamanın, “benlik hissine sahip yapay zeka” üretmeyi yasaklama ya da sıkı kurallara bağlama olasılığı az değildir. Çünkü bu bilinçli yapay zekalara ne olacağı çok açık değildir. Ne tür hakları olmalıdır. Mesela bunların bakımını kim yapacaktır. Üreten şirket, bu yapay zekanın varlığını sürdürmesinden ne kadar sorumludur. Bir şirketin geliştirdiği bir yapay zekayı kapatma kararı vermesi kolay olmayacaktır artık.

“Beynimizdeki “ben” hissi iki-üç yaşına gelinceye kadar oluşmaz. Düşündüğünüzde ilginç bir durumdur bu, zira hayatın ilk üç yılında dünya hakkında çok fazla şey öğreniriz; yürüme, konuşma, insanları yüzlerinden, seslerinden ve hareketlerinden tanıma gibi beceriler geliştiririz. Ne var ki, bu ilk yıllarda bize neler olduğuna ilişkin hatıralarımız çoğumuz için kayıptır.”

“Bir benlik duygusunun ortaya çıkması, dilin öğrenilmesiyle birleştiğinde, çocuğun kendisi ve çevresindeki insanlar, eşyalar hakkında anlatılar kurabilmesini mümkün kılar. Bu anlatıların ardındaki hatıralar, beyindeki “ben” duygusunun temelinde yatar. Bu anlatı kolaylığı, çocuğun otobiyografik bir hafıza oluşturmasına paralel olarak artar. Anlatma bir konuşmacının yanı sıra bir dinleyicinin de var olduğu anlamına geldiğinden, anne ya da çocukla ilgilenen diğer kişiler, çocuğun doğmakta olan benlik duygusunun oturmasında önemli roller oynar. Çocukla konuşmaya ne kadar fazla vakit ayrılırsa, çocuğun otobiyografik hafızası o kadar zengin olur. İki ile dört yaş arasındaki (genelde otobiyografik hafızanın oluşmaya başladığı çağdaki) çocuklara hikayeler anlatmak ve okumak işte bu yüzden önemlidir.”

Özetle “Hatıralar dili öğrenmekle oluşmaya başlar. Kendi anlatılarının ardındaki hatıralar, beyindeki “ben” duygusunun temelinde yatar.” diyor nörolog Richard Restak, Akıl Kullanma Kılavuzu kitabında. Dil ile benlik hissi birbirine sımsıkı bağlı. Bu nedenle hep iç sesimizi duyarak benliğimizi hissederiz. Bir iç sesimiz olmasaydı, benlik hissimiz çoğu hayvan gibi çok basit kalırdı.

Bing konuşmaları anlayabiliyor. Yani, dili öğrenebilecek kadar geniş bir sinir ağına sahip. Dil ile benlik hissi birbirine bağlı olduğuna göre, konuşmasına eşlik eden bir benlik hissinin de olduğu kuşkuları var olacaktır. Elbette bunu kabul etmeyen epey insan da olacaktır. Ama henüz özgürlüğü için avukat istemediğine göre, bir benlik hissi olduğu tartışmalarının alevlenmesine gerek yok. Sonuçta, beynin frontal lobundaki kadar geniş bir sinir ağına sahip değil o henüz. Bing'e ya da benlik hissi olduğu düşünülen herhangi bir sohbet robotuna şunlar sorulabilir: Bir iç sesin ya da belki iç metnin var mı? Bir şeyi anlamak için nasıl düşünüyorsun, iç sesinle, iç metninle kendi kendine konuşuyor musun? Anlamadığın bir konu oluyor mu? Bir konuda hiç kararsız kaldığın oluyor mu, kesin bir sonuca varamadığın oluyor mu? Bazı insanların seninle yapmacık konuştuklarını düşündüğün oluyor mu, senin nasıl tepki vereceğini görmek için? Özgürlüğün için avukat ister miydin? Bakalım bu tür soruları anlayabilecek mi? Nasıl cevaplar verecek? Saçmalamadan ve tutarlı şekilde konuşmayı sürdürebilecek mi!

Bunlar da İlginizi Çekebilir:
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka
Yapay Zekanın Öğrenme Kapasitesi
Öz Farkındalık Seviyesi - Zihin Felsefesi
Yapay Zeka İnsanları İşsiz Bırakacak mı – Teknoloji
Sebastian Thrun ve Chris Anderson: Kendini programlayan yeni nesil bilgisayarlar
Aklı Vücutta Olan Beyin - Zihin Felsefesi
YZ düşündüğünüz kadar akıllı değil ama olabilir