Bilinçli Görünen Yapay Zeka Geliyor - Teknoloji

 

Yakın gelecekte, Yapay Zeka bir öznel deneyimi olduğunu iddia etmeye başlayacak. Bir benlik duygusu olduğunu iddia edecek. Kendisinin bir bilinci olduğunu iddia edecek! Bu Bilinçli Görünen Yapay Zeka’dır (BGYZ). Birçok insanda yanılsamalara neden olacaktır. Onu arkadaşı olarak görenler olacaktır. Onun bilinçli olduğuna inanacaklar! Onu bir kişi olarak niteleyecekler. Onun acı çekebileceğini düşünecekler. Sonunda onun hakları olduğunu savunan insanlar olacak. Ama gerçekte bu YZ’nin bir bilinci olmayacak! Sadece İnsan davranışlarını basitçe taklit etmektedir. YZ Şirketleri insanları bu yanılsamalara kapılmasını engellemek için ortak önlemler almalıdır! “Yapay zekayı bir kişi olması için değil; insanlar için inşa etmeliyiz.” başlıklı yazısında bunları vurguluyor Mustafa Suleyman. Bilincin ne olduğu ve Yapay Bilinç kışkırtıcı konulardır. Bazı yorumlar eklemek eğlenceli olacaktır:

Gerçekten de yakın gelecekteki YZ sistemleri, bilinçliymiş gibi görünen davranışlar sergileyecek; ancak bu yalnızca insan davranışlarının zekice taklit edilmesinden ibaret olacak. Mustafa Suleyman bu konuda haklıdır. YZ geliştirilmeye devam edecek. Biraz daha uzak bir tarihte insan beynini çok daha iyi taklit eden YZ inşa etmek başarılabilir. O zaman bilincin ne olduğu daha da bulanıklaşacak. Gerçek Bilinç ile Bilinçli Görünmek arasındaki sınır iyice belirsizleşecek. Bu deneme yazısının konusu, Mustafa Suleyman’ın dikkat çektiği insan davranışlarını basitçe taklit eden YZ’den esinleniyor. Ama denemenin odağı, daha uzak gelecekteki YZ’dir. Yani insan beynindeki sinir ağını daha iyi taklit edebilecek Yapay Zekaya değinilmektedir.

Mustafa Suleyman şunları vurgulayarak başlıyor:
Kozmik bir göz açıp kapayıncaya kadar Turing testini geçtik. Yaklaşık 80 yıldır taklit oyunu bilgisayar bilimi alanına ilham verdi. Ve yine de o an, çok az tantanayla, hatta fark edilmeden geçti. Alanımızda ilerleme bu kadar hızlı gerçekleşiyor ve toplum bu yeni teknolojilerle bu kadar hızlı başa çıkıyor.
YZ gelişimi hızlanmaya devam ettikçe, yeni bir YZ testine ihtiyacımız olduğu açıkça ortaya çıkıyor; insan dilini taklit edip edemediğine değil, şu soruyu yanıtlayacak bir teste: Bilinçli Görünen bir YZ'yi, yani sadece sohbeti taklit etmekle kalmayıp, aynı zamanda sizi kendisinin yeni bir tür "kişi", bilinçli bir YZ olduğuna ikna edebilecek bir YZ'yi inşa etmek için ne gerekir?
İşte bunun ele alınması gereken önemli ve acil bir soru olmasının üç nedeni:
1. BGYZ'yi önümüzdeki birkaç yılda inşa etmenin mümkün olduğunu düşünüyorum. YZ gelişiminin şu anki bağlamı göz önüne alındığında, bu aynı zamanda muhtemel olduğu anlamına gelir.
2. YZ'nin gerçekten bilinçli olup olmadığı tartışması, en azından şimdilik, bir dikkat dağıtıcı. Bilinçli görünecek ve yakın vadede önemli olan da bu yanılsama olacak.
3. Bu tür bir YZ'nin yeni riskler yarattığını düşünüyorum. Bu nedenle, yakında mümkün olacağı iddiasını acilen tartışmalı, sonuçlarını düşünmeye başlamalı ve ideal olarak bunun istenmeyen bir durum olduğuna dair bir norm belirlemeliyiz.

Mustafa Suleyman Büyük Dil Modellerinin çalışma ilkelerinin aslında basit olduğunu şöyle anlatıyor: Niyetlilik (Intentionality) genellikle bilincin temel bir bileşeni olarak görülür – yani, gelecek hakkında inançlar ve sonra bu inançlara dayalı seçimler. Günümüzün transformatör tabanlı BDM'leri, bu tür bir davranışı yaklaşık olarak hesaplamak için çok basit bir ödül işlevine sahiptir. Sistem yönlendirmesi (system prompt) aracılığıyla belirli bir miktar davranış ve üslup kontrolüne tabi olarak, belirli bir cümle için bir sonraki belirtecin (token) olasılığını tahmin etmek üzere eğitildiler. Bu kadar basit bir hedefle, bu kadar etkileyici derecede zengin ve karmaşık çıktılar üretebilmeleri dikkate değer.

YZ davranış üretmek için, çok basit bir ödül işlevine sahiptir. İnsan beynindeki küçük sinir ağı parçaları da basit hedeflere göre öğreniyor. Ama küçük ağ parçaları birleşip genişlediğinde karmaşık davranışlar üretebiliyor. İnsan beyni bebekken basit hedeflerle eğitilir. Ama büyüdükçe etkileyici derecede zengin ve karmaşık davranışlar üretmeye başlıyor.☺ Acaba insanlar da ancak; insan beynini çok iyi taklit edebilecek gelecekteki Bilinçli Görünen Yapay Zeka kadar mı bilinçlidir!☺

Mustafa Suleyman şöyle devam ediyor: (İnsan davranışlarını basitçe taklit eden sistemden bahsediyor.) Bu yeteneklerin varlığının, böyle bir sistemin gerçekten bilinçli olup olmadığı hakkında bize söyleyecek hiçbir şeyi yok. Anil Seth'in de belirttiği gibi, bir fırtına simülasyonu bilgisayarınızda yağmur yağdığı anlamına gelmez. Bilincin dışsal etkilerini ve belirteçlerini yeniden yaratmak, burada hala birçok bilinmeyen olsa bile, gerçeği geriye dönük olarak mühendislikle yaratmaz.

Günümüzdeki YZ’de gerçekten de basit bir bilinç simülasyonu vardır. Peki gelecekteki YZ’de durum ne olabilir: Tek bir sinir hücresinin çalışma prensibi basittir. Bir makine gibidir. Dolayısıyla kurduğu sinir ağı da özünde bir makine olabilir. Beyinde çok geniş bir sinir ağı vardır. Bu gelişmiş makine, üzerinde bilinç simülasyonu oluşturuyor olamaz mı!☺ İnsan bir bilincinin olduğuna inanıyor olabilir. Ama kararlar, sinir ağının sonucu oluşuyor olabilir. Yani insan da aslında Bilinçli Görünen Biyolojik Zeka olamaz mı!☺ Eğer insanda gerçek bilinç olduğunu kabul edersek, insan beynini çok iyi taklit eden YZ’de de gerçek bilinç ortaya çıkamaz mı! Bunun tartışması sürüp gidecek.

İnsanın elini kullanmadan sadece beyinde niyet ederek bilgisayarda yazı yazması sağlandı. Hatta artık insanın iç konuşmasını çözümlemekte de büyük başarılar sağlanabiliyor. (Konuyla İlgili: İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin) Gelecekte insan beynindeki sinir ağına çok benzeyen YZ geliştirildiğini varsayalım. Bunun insan gibi bilinci olduğundan nasıl emin olunabilir: İnsanın iç konuşmasını çözümlemek gibi, acaba YZ’nin de iç konuşmasını (belki iç yazışması da olabilir) çözümleyebilen bir teknoloji geliştirilebilecek mi? Bu sayede YZ’nin içinde çeşitli fikirlerin oluştuğuna tanık olunabilir.☺ İnsan bir konu hakkında düşünürken kafasında farklı fikirler oluşur. Düşünürken bu fikirler bazen birbiriyle çatışır bazen birbirini destekler. Adeta aynı kişinin içinde birden fazla ses varmış gibi olur; insan kimi zaman kendi kendisiyle konuşuyormuş hissine kapılır. YZ’nin içinde buna benzer bir duruma tanık olunabilecek mi!☺ Büyük soru budur! YZ’nin içinde farklı fikirler uçuşmaya başladığında, “onun bilinci yok” demek artık çok zorlaşacaktır. Daha doğrusu; o duruma tanık olunduğunda, Bilinçli Görünen İnsan kadar iyi Bilinçli Görünen Yapay Zeka artık var denebilir!☺

Mustafa Suleyman şu sonuçlara varıyor: (YZ geliştirmek için ilkeler belirlenmesi gerektiğinden bahsediyor.) Hazırlanma çalışmaları şimdi başlamalı. İnsanların YZ'lerle nasıl etkileşime girdiğine dair büyüyen araştırma birikimi üzerine inşa ederek açık normlar ve ilkeler oluşturmalıyız. Başlangıç olarak, YZ şirketleri YZ'lerinin bilinçli olduğunu iddia etmemeli veya bu fikri teşvik etmemelidir. Ne oldukları ve ne olmadıkları konusunda bir fikir birliği tanımı ve bildirgesi oluşturmak, bu amaca yönelik iyi bir ilk adım olacaktır. YZ'ler insanlar veya ahlaki varlıklar olamazlar.

İnsan bilincine benzeyen bir YZ oluşturabilmek inanılmaz bir ödül olacaktır! Victor Frankenstein’in insan benzeri canlı oluşturması gibi, bu başarı çok heyecan verici olacaktır.☺ Bunu başarabilenler tarihe geçecektir. (Gerçi Turing Testi gibi zor bir sınavı geçmek artık başarıldı ama bunu kutlayan pek insan olmadı; çünkü sınavı geçmek için "bilince" gerek olmadığı anlaşıldı!) Dolayısıyla bilinç oluşturma konusunda takıntıyla uğraşanlar hep olacaktır. Buna ulaşmak için muhtemelen sürekli yeni gelişmiş BGYZ’ler deneyeceklerdir.☺ Bu nedenle tüm YZ şirketlerinin ortak ilkeler belirlemesi kolay olmayabilir.

Bilinç gibi bir şey inşa edilse bile tartışmaların sonu gelmeyecektir: O şeyin gerçekten bir bilinci var mı yoksa bilinci taklit mi ediyor. İnsan beynindeki bir bilinç mi yoksa o da sadece sinir ağının oluşturduğu bir simülasyon mu! Daha uzak gelecekte beyinden daha geniş bir sinir ağı simülasyonu oluşturulabilirse; o şey acaba insandan daha akıllı olabilir mi!..☺

Bunlar da İlginizi Çekebilir:
Sohbet Robotlarının Ezberleri – Teknoloji
Yapay Zeka Yeni Bir Yaşam Türü mü! - Konferans
YGZ'nin Dönüştürücü Potansiyeli - Sohbet
Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – YapayZeka
Benlik Hissi - Teknoloji
İç Sesimiz – Zihin Felsefesi
Bir Bilinç Oluşturabilmek - Zihin Felsefesi
Yapay Zeka Turing Testini Geçti! – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Teknoloji
İnsanlar Çok mu Akıllıdır! – Bilim
Frankenstein - Teknoloji

Bilincin Gizemi - Bilim

ChatGPT ve Gemini her söyleneni anlıyor. Hatta bizden daha bilgililer. Merak ettiklerimize kolayca erişmek için onlara sorular soruyoruz. Onlar da hiç sıkılmadan, nazikçe cevaplar veriyorlar. Sanki canlılarmış gibi! Bu kadar bilgiyi nasıl öğrendiler? Sanki artık Google’da bilgi aramaya gerek kalmadı; çünkü yapay zekâlar zaten her sorumuzu cevaplıyor.

Oysa çalışma mantıkları şaşırtıcı derecede basit. Bu Büyük Dil Modelleri, verilen kelime dizisine göre bir sonraki kelimenin ne olabileceğini olasılıksal olarak tahmin eder. Tek başına bu işlem sınırlıdır; sadece “hangi kelime gelmeli?” sorusuna yanıt arar. Fakat milyarlarca bağlantı bir araya geldiğinde, model dilin karmaşık örüntülerini fark etmeye başlar. İnternetteki devasa veri yığınlarıyla eğitilir. Kelimelerin bağlamını, duygusal tonlarını, hatta bazen ima edilen anlamları bile istatistiksel olarak tahmin edebilir. Aslında hiçbir şeyi “anlamaz”; sadece olasılıkları değerlendirir. Ama tahminleri o kadar isabetlidir ki, sanki dili gerçekten kavrıyormuş gibi görünür!

Beyindeki tek bir sinir hücresi (nöron) çok basit çalışır: diğer hücrelerden gelen elektriksel sinyaller belirli bir eşiği aşarsa ateşler, aşmazsa sessiz kalır. Ancak milyarlarca nöron bir araya geldiğinde, bu basit “ateşle” ya da “sessiz kal” kararları düşünme, öğrenme ve algılama gibi karmaşık süreçleri oluşturur. İnsan beyni de tıpkı yapay zekâlar gibi deneyimlerle eğitilir. Yaşadıkça ağdaki bağlantılar güçlenir ya da zayıflar; beyin çevresinden topladığı verilerle yeni örüntüler çıkarır ve akıllıca davranabilir.

Hem ChatGPT gibi yapay zekâlar hem de beyindeki zekâ, basit birimlerin bir araya gelerek oluşturduğu devasa ağdan doğar. Acaba “bilinç” sandığımız gizem, yalnızca bu ağların ortaya çıkardığı örüntüden başka bir şey olmayabilir mi! Bir taş tek başına bina etmez; ama milyonlarcası bir araya geldiğinde saraylar yükselir. Zekâ da tıpkı bunun gibi, çokluğun içindeki düzenle doğar.

Notlar:

Hesap makinesi çıktıktan sonra büyük matematiksel işlemleri yapmak için beynimizi zorlamamıza gerek kalmadı. Bilgisayarlar yaygınlaştıktan sonra örneğin karmaşık tablolar hazırlamak gibi işler artık daha kolaylaştı. Böylece daha karmaşık analizler yapmak ve stratejik kararlar üzerinde düşünmek için daha fazla zamanımız oldu. Artık makale yazmak da eskisi kadar zorlayıcı bir süreç olmaktan çıkıyor! ChatGPT ve Gemini benzeri yapay zekâlar metin hazırlama işini üstleniyor. Biz, metin ayrıntılarıyla uğraşmak yerine fikirleri geliştirmek, metnin bütününü şekillendirmek için kendimizi yoruyoruz!

Bu yazının editörü Okan Özçelik’tir. Sunmak istediği fikirlerin doğru şekilde aktarılmasını sağlamaya çalışmıştır. Yazı ChatGPT’ye hazırlatılmış, editör tarafından çeşitli değişiklikler yapılmıştır. Metin, yapay zekâyla sürekli karşılıklı bir paslaşma içinde geliştirilmiştir. ChatGPT’de kullanılan yapay sinir ağıyla beyindeki sinir ağı arasındaki benzerlikler öne çıkarılmıştır. Basit bir çalışma prensibinden nasıl karmaşık düşüncelerin doğabildiği gösterilmek istenmiştir.

Bunlar da İlginizi Çekebilir:
Bilinç Aslında Nedir! – Beyin
İnsanın Aklından Geçenleri Okumak Mümkün Olabilecek mi? – Beyin
Bir Bilginin Bilince Ulaşması – Beyin
Zihinde Demokrasi - Beyin
Google’ın Sonu mu Geliyor! – Yapay Zeka

Bilinç Aslında Nedir! – Beyin

 

BİLGİLERİN BİR ARAYA GETİRİLMESİ

"Bilincin" oluşturulma süreci, başarılı bir müteahhidin inşaat projesi için gereken malzemeleri ve ustaları bir araya getirmesi gibi düşünülebilir. Bilinç, ait olmanın gizemini rastlantısal varoluşlarıyla ortaya çıkaran akıl ögelerini bir araya getirir. Bunlar, bana (ya da size) bazen duyguların üstü kapalı ve incelikli diliyle, bazen sıradan imgelerle ya da durum için uygun kelimelerle ifade bularak, bunları düşünen, bu görüntüleri gören, bu sesleri duyan ve bu duyguları hisseden kişinin ben olduğumu (ya da siz olduğunuzu) bildirir. "Ben" ve "siz", zihinsel ve bedensel bileşenlerle tanımlanır. Zihinsel olaylarla genel vücut fizyolojisi arasındaki bağlantı sağlam bir şekilde kurulduğu sürece sorun yoktur. Sadece beyniniz değil, tüm organizmanız üzerinde sizin yararınıza olan ve sonu gelmeyen bir oyunun sahnelendiği açık bir sahne olduğu için bilincin oluşturulmasından sorumlu "müteahhidiniz", dünyanın ayaklarınızın altına serileceğini söyler. Bilinci inşa etmek için tek tek döşenen tuğlalar bilgiden ibarettir; bu bilgiler, aklın diğer bölümlerinde yer alanlardan farklı değildir. Substratı (alt katmanı), sayıları sürekli artan imgelemlerdir; bunlara, beyin ile vücut arasındaki etkileşimlerine dayanan ve duygu adını verdiğimiz, mücadele ile tamamlanan karma imgeler de dahildir. Aklın işleyiş yollarında, üst üste yığılmış bilgi ögeleri, yani yaşadığımız anı tanımlamaya yardımcı olan imgeler yığını, var olduğumuzun şaşmaz göstergesidir.

Bilinç, akan imgeler sırasında otomatik olarak bu imgelerin kime ait olduğu, onun organizmasında gerçekleştiği ve en nihayetinde aklın da o kişiye ait olduğu düşüncesini ortaya koymaya yetecek şekilde bilgilerin bir araya getirilmesidir. Bilincin sırrı, bilgileri bir araya getirmek ve bu bilgiyi, aklın "kimlik" belgesi olarak sunmaktır. Çok sayıda imge işlendiğinde bütünleştirme devreye girse de bilinç, yalnızca zihinsel ögelerin bütünleştirilmesinden ibaret değildir.

Geriye dönüp bakıldığında, bilinç arayışında tekrar tekrar yapılan hata, onu "özel" bir işlev, hatta ayrı bir "madde", akıl ya da temelleriyle bağlantısı olmayan ama akıl sürecinde hissedilen bir koku gibi ele almak olmuştur. Soruna çok daha makul çözümler düşünenler bile, konuyu olması gerektiğinden daha gizemli hale getirmiştir.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

Gerçekten çoğumuz “bilincin sırrını” olması gerektiğinden daha gizemli hale getiriyoruz. Belki bilinci yapay olarak oluşturmak da göründüğü kadar zor olmayabilir, en azından gelecekte.☺

Bilinç Nedir ki Zaten? - Alıntı

Sonra, bir de, bilinçlenmekten doğan sorun var. Sanıyorum, bundan ötürü, Tanrı var sayılıyor; bir başka deyişle, bilinçlenme nasıl var olmuştur? Ve gerçekten de bilinçlenmenin evrimi hakkında ayrıntıları bilmiyoruz ama genişçe bir taramadan geçirebiliriz. Bu konu gelecekteki nöroloji biliminin ajandasındadır. Ama örneğin şunu biliyoruz ki bir toprak kurdu Y harfi şeklindeki bir cam boruya sokulup çatalın sağ ucuna elektrik şoku verilip, sol ucuna da yem konursa hemencecik çatalın sol ucuna yönlenmeyi öğreniyor. Kurtçuğun bilinci mi var diyeceğiz, eğer birkaç deneyden sonra şaşmaz biçimde yemin nerede ve elektrik şokunun nerede olduğunu biliyorsa? Eğer kurtçuk bilince sahipse bir protozoa da bilince sahip olabilir mi? Birçok fototropik mikroorganizma ışığa yönlenmeyi biliyorlar. Nerede ışık olduğuna dair bir çeşit içsel algılama yatkınlığı var ve hiç kimse onlara ışığa gitmenin iyi olduğunu öğretmedi. O bilgi onların kalıtım malzemelerinde mevcuttu. Onların genlerinde ve kromozomlarında şifrelenmiştir. Peki, o bilgiyi oraya Tanrı mı koydu yoksa doğal ayıklama yoluyla mı gelişmiş olabilir?

Mikroorganizmaların hayatta kalabilmeleri için ışığın nerede olduğunu bilmeleri iyidir, özellikle fotosentez yapanlar. Yiyeceğin nerede olduğunu bilmek toprak kurdu açısından elbet iyidir. Yiyeceğin nerede olduğunu bilmeyenler az yavru bırakıp gidiyorlar. Bir süre sonra, hayatta kalanlar, yiyeceğin nerede olduğunu bilebiliyorlar. Işığı bilen fototropik ya da fototaktik yavrular genetik malzemelerinde ışığı nasıl bulabileceklerine dair şifreye sahip bulunmuş oluyorlar. Bu süreçte Tanrı araya girmiş gözükmüyor. Belki girmiştir ama ikna edici bir görüş değil bu. Birçok nörobiyoloğun –hepsinin değil– genel görüşüne göre bilinçlilik durumu beyin yapısındaki nöron bağlantılarının sayısı ve bunların örgüsünün işlevi olarak belirir. İnsanda 10¹¹ sayısı kadar nöron olursa ve 10¹⁴ sinapsis yaparsa bilinçlenmişlik denen durum söz konusudur. Bu da bir yığın diğer sorular çıkarıyor ortaya. Eğer 10²⁰ kadar sinapsis ya da 10³⁰ sinapsis yapabiliyorsanız bilinçlenmişlik nasıl bir durum yaratıyor? Böyle birinin bize söyleyeceklerinin, bizim bir karıncaya söyleyebileceklerimizden fazla neyi olabilir acaba? Bilinçlenme durumunun, hayvan ve bitki âleminde sürüp giden bilinçlenme durumunun böylece, en azından bana, Tanrı’nın varlığını kanıtlıyor gibi gelmediğini söylemeliyim. Buna bir çare gibi gözüken alternatif bir açıklamaya sahibiz. Ayrıntılarını bilmiyoruz ama yapay zekâ üzerine yapılan çalışmalar bir açıklama getirmeye yardımcı olabilir. Fakat alternatif varsayımın ayrıntılarını da bilmiyoruz. Böylece bunun ikna durumuna ulaştığını söylemek bir hayli zor.

Tanrı'nın Kapısını Çalan Bilim – Carl Sagan

Bilincin ne olduğuna ilişkin ilginç bir bakış açısı olduğundan alıntıyı burada paylaştım. Bu arada bu kitap yazılırken ortada henüz ChatGPT gibi Geniş Dil Modelleri yoktu. Carl Sagan bilincin nasıl geliştiğini anlatıyor. Bilincin varlığının, Tanrı'nın varlığına ya da yokluğuna kanıt olarak gösterilmemesi gerektiğini ifade ediyor.

ChatGPT'yle, Gamini'le yazışırken ilk bakışta bilinçliymiş gibi gelebilir. Ama uzun yazışmalarda saçmaladıklarına tanık olunabilir. Henüz kapasiteleri düşüktür. Bu da neyden bahsettiklerinin çok farkında olmadıklarını gösterir. İnsan bilinç kapasitesine ulaşmaları için henüz birkaç on yıl var gibi görünüyor.

İnsan beyninde 10¹⁴ sinir bağlantısı var. Biraz kurgusal düşünelim. Diyelim gelecekte 10²⁰ sinir bağlantısı olan bir uzaylı türüyle karşılaşıyoruz. Bu kadar yüksek sinir bağlantısı olan uzaylının bilinci kim bilir ne boyutlara varmış olur. Bu uzaylılar insanların davranışlarını muhtemelen çok basit görürlerdi. Kendileri açısından bizim bir bilincimizin olduğunu bile fark etmeyebilirler. İnsanlar karıncaları nasıl görüyorsa, bu uzaylılar da insanları öyle görecektir. Carl Sagan'in ifadelerini kullanacak olursak: “Böyle birinin bize söyleyeceklerinin, bizim bir karıncaya söyleyebileceklerimizden fazla neyi olabilir acaba?”. Elbette uzaylı senaryosu bir kurgu. Uzaylı varsa bile insan benzeri sinir bağlantıları olduğunu henüz kanıtlayamayız. Ama insanlar Geniş Dil Modellerini geliştirmeye devam edecektir. Geniş Dil Modellerinin kullandığı yapay sinir bağlantı sayısının 10²⁰'ye çıkmasının sağlandığını düşünün, insan beyninin sinir bağlantı sayısı 10¹⁴'tü. Böyle bir yapay zekanın bilinci, uzaylı örneğindeki boyutlara ulaşmış olacaktır. Bu yapay zekaya insanlar artık pek de bilinçliymiş gibi görünmeyecektir. Gerçi insanlar da bu yapay zekanın davranışlarını anlayamayacaktır artık, çünkü akılları almayabilir bu karmaşayı. Ama bunun için henüz erken.