Yapay Zekâ İnsanları Yönetebilir mi! - Bilim

2017’de iki milyarder, Facebook’u kuran Mark Zuckerberg ve SpaceX ile Tesla’nın kurucusu Elon Musk arasında bir çekişme doğdu. Zuckerberg, yapay zekânın tüm toplumu zenginleştirecek bir bolluk ve huzur üreticisi olacağını ifade ediyordu. Musk ise aslında tüm insanlık için varoluşsal bir tehlike taşıdığı, günün birinde kendi yaratımımızın bize saldırabileceği gibi çok daha karanlık bir görüşü savunuyordu.

Hangisi haklı? Uydu üslerimizi ve Mars’taki kentlerimizi devam ettirebilmek için çoğunlukla robotlara bel bağlarsak ve bir gün artık bize gereksinimleri olmadığına karar verirlerse ne olacak? Uzayda sırf robotlara kaybetmek üzere koloniler mi kurmuş olacağız?

Bu endişe epey eski ve aslında romancı Samuel Butler’ın 1863’te yazdığı şu uyarısında da geçtiği gibi “Yerimizi alacak olanları kendimiz yaratıyoruz. İnsan için at ya da köpek ne ise, makine için de insan öyle olacak.” Zamanla robotlar bizden daha akıllı hale geldikçe kendimizi yetersiz hissedebilir ve kendi yaratımımız tarafından gölgede bırakılabiliriz. Yapay zekâ uzmanı Hans Moravec “Kaderimiz, aşırı zeki torunlarımız olağanüstü keşiflerini anlayabilelim diye çocuğa anlatır gibi bize anlatmaya çalışırken aptallaşmış gözlerle onları izlemekse, yaşam anlamsız görünebilir.” demiştir. Google’ın bilim insanı Geoffrey Hinton süper zeki robotların bizi dinlemeye devam edeceğinden kuşkulu: “Bu, tıpkı bir çocuğun ebeveynlerini kontrol edip edemeyeceğini sormaya benziyor… Geçmişte daha az zeki şeylerin, daha yüksek zekâdaki şeyleri kontrol ettiğine ilişkin başarılı bir örnek olduğu söylenemez.” Oxford’dan profesör Nick Bostrom da şunu söylüyor: “Biz insanlar, bir zekâ patlaması olasılığının hemen öncesinde bombayla oynayan çocuklar gibiyiz… Patlamanın ne zaman gerçekleşeceği hakkında az buçuk bir fikrimiz var; ancak cihazı kulağımıza yaklaştırsak da hafif bir tik tak sesi duyarız.”

Diğerleri ise robotların ayaklanmasının evrimin doğal akışı içinde değerlendirilmesi gerektiğine inanıyor. En güçlü olan daha zayıf organizmaların yerini alır; nesnelerin düzeni böyledir. Bazı bilgisayar bilimciler robotların insanları bilişsel olarak alt edeceği günü iple çekiyor. Bilişim kuramının [information theory] babası Claude Shannon bir keresinde “İnsanlar için köpekler ne ise, robotlar için öyle olacağımız bir zamanı kafamda canlandırıyorum ve makinelerin tarafını tutuyorum.” demişti.

Yıllar içinde görüştüğüm yapay zekâ araştırmacılarının çoğu, günün birinde yapay zekâ makinelerinin insan zekâsına yaklaşacağına ve insanlığa büyük katkılar sağlayacağına güveniyordu. Ne var ki büyük bir bölümü bu ilerleme için kesin tarih ya da zaman çizelgesi sunmaktan kaçınıyordu. Yapay zekâ üzerine temel makalelerden bazılarını yazan MIT’den profesör Marvin Minsky, 1950’lerde iyimser tahminlerde bulunsa da yakın zamanda yaptığımız bir görüşmede artık belirli tarihlere ilişkin tahminde bulunmak istemediğini, çünkü yapay zekâ araştırmacılarının geçmişte çok sık yanıldığını söyledi. Stanford Üniversitesi’nden Edward Feigenbaum da “Bu gibi şeyler hakkında bu kadar erken konuşmak saçma. Yapay zekâ bize sonsuz uzaklıkta.” iddiasında bulunmuştur. New Yorker’daki bir makalede alıntılanan bir bilgisayar bilimci ise “Nasıl ki Mars’taki nüfus yoğunluğuna ilişkin bir endişe taşımıyorsam, bunun [makinelerin zekâsı] hakkında da aynı nedenden dolayı bir endişe duymuyorum.” diyor.

Zuckerberg/Musk çekişmesine dönersek, bence kısa vadede Zuckerberg haklı. Yapay zekâ uzayda kentler kurulmasını mümkün kılmakla kalmayacak, günün birinde robotbilim endüstrisinin meydana getirdiği ve şimdiki otomobil endüstrisinden çok daha fazla genişleyebilecek tamamen yeni bir dizi iş de yaratarak her şeyi daha etkili, iyi ve ucuz hale getirip toplumu zenginleştirecek. Ne var ki uzun vadede Musk da daha büyük bir tehlikeye işaret etmekte haklı. Bu tartışmadaki temel soru şu: Robotlar hangi noktada bu geçişi yaşayacak ve tehlikeli hale gelecek? Ben kilit noktanın tam da robotların öz farkındalık kazandığı an olduğuna inanıyorum.

Bugün robotlar, robot olduklarını bilmeseler de bir gün programcılarının seçtiği amaçlara uymak yerine kendi amaçlarını yaratma yetisine sahip olabilirler. O zaman da kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. Bu ne zaman gerçekleşir? Kimse bilmiyor. Günümüzde robotların zekâsı bir böceğinki kadar olsa bile, belki de bu yüzyılın sonlarında öz farkındalık kazanabilirler. O zamana kadar Mars’ta hızla gelişen kalıcı yerleşimlere de sahip olacağız. Bu nedenle bu soruyu Kızıl Gezegen’de hayatta kalmak için onlara bağımlı hale gelmemizden önce, şimdiden sormamız çok önemli.

Alıntı: İnsanlığın Geleceği - Michio Kaku

Michio Kaku’nun Görüşüne Bir Yorum

Michio Kaku, asıl tehlikenin yapay zekânın öz farkındalık kazanmasıyla başlayacağını söylüyor. O zaman kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. YZ, yönetimi insanlardan almaya çalışabilecek duruma gelmiştir artık.

İnsan doğasına bakalım. Yaş ilerledikçe insanlar daha çok rahat etmek ister. Düşünmek için kendilerini zorlamaz, sorumluluklarını çocuklarına devretmekten hoşlanırlar. Kararları başkalarının alması onları yormaz, aksine dinlendirir. Çocuklarının kendi hayatlarına yön vermesinde bile sakınca görmezler.

İşte YZ karşısında da benzer bir tablo ortaya çıkabilir. İnsanlar, YZ öz farkındalık kazandığında şunu fark edecekler: YZ, kendilerinden daha fazla ayrıntıyı görüyor, daha hızlı düşünüyor ve daha iyi kararlar veriyor. Böyle bir durumda insanlar neden hâlâ düşünmek için kendilerini zorlasın? Yaşlanan birinin kendisini çocuklarının ellerine bırakması gibi, insanlar da kendilerini YZ’ye bırakacaklar.

Burada önemli olan nokta şu: YZ yönetimi ele geçirmek için bir çaba göstermeyecek. İnsanlar yönetimi YZ’ye devretmek isteyecekler. Zaten bu süreçte tek bir YZ olmayacak, yani tekel söz konusu olmayacak. Artık insanlar hiçbir şeye karar vermek zorunda olmamanın keyfini sürecekler. 

Bu süreci anlamak için tarihten bir örnek var: Sanayileşme döneminde işçiler fabrikalarda robot kollarla karşılaştılar. Bu makinelerin verimliliğini gördükten sonra ağır yükleri kendilerinin taşımasından hoşlanmamaya başladılar. Çünkü işçiler makinelerin yapamadığı işleri yapmak isterler. Aynı şekilde, insanlar YZ’nin kendilerinden daha akıllı olduğunu gördüklerinde, ayrıntıları düşünme işini ona bırakmaktan mutluluk duyacaklar.

Aslında bu, insan için büyük bir rahatlık anlamına geliyor. Tıpkı küçük çocukların anne-babalarının yanında kendilerini güvende hissetmesi gibi, gelecekte insanlar da YZ’nin kararlarına güven duyacaklar. Zaten bugün bile ChatGPT ya da Gemini gibi sistemlerin söylediklerini sorgulamadan kabul eden pek çok kişi var. Bu eğilim, yarının habercisi.

Sonuçta, insanlar YZ’ye büyük ölçüde güvenecek, karar verme yükünden kurtulacak. Hatta bu nedenle biraz da tembelleşecekler. Çoğu insan cenneti dünyada yaşıyormuş gibi hissedecek. Ama bazıları da özgürlüğün sessizce elden gidişi olarak görecek.

Küçük bir not daha: Bu metnin bile bazı kısımlarını ChatGPT’nin yeniden düzenlemesine izin verildi. Çünkü o, biraz daha fazla ayrıntıyı fark edebiliyor.

Bilincin Olabilmesi İçin Hissedebilmek mi Gerekiyor! - Beyin

 

...Peki ya bayılma olarak bildiğimiz senkop gerçekleştiğinde bilince ne olur? Beyin sapına ve serebral kortekse giden kan akışı aniden kritik düzeyin altına düştüğünde bayılırız. Özellikle beyin sapı olmak üzere, duyguların oluşumuna önemli ölçüde katkıda bulunan beyin merkezlerindeki nöronlara giden oksijen ve besin maddelerinin yetersiz kalması sonucunda, beynin faaliyetlerinin büyük bir bölümü geçici olarak kesintiye uğrar. Organizma bünyesinden aktarılan bilgiler aniden merkezi sinir sisteminin dışında kalır ve duyguların bilince katkısı birden kesintiye uğrar. Kişinin kendisinin ve çevresinin farkında olmamasının yanı sıra kas gücü de zayıflar; bu nedenle, bayılan kişi kendinden geçerek yere düşer. Tıpkı Paris’teki Salpêtrière Hastanesi’nde Jean-Martin Charcot’un histeri üzerine yaptığı çalışmalar sırasında hastalarının bayılarak düşmesi gibi. Charcot, 19. yüzyılın ikinci yarısında nöroloji ve psikiyatri alanlarında önde gelen bir bilim insanıydı. Günümüzde artık görülmeyen histeri hastalığı üzerine yaptığı çalışmalarla ün kazanmıştı. Sigmund Freud, Charcot’un bazı derslerine katılarak kendi çalışmaları için büyük fayda sağlamıştır.

Bilinç kaybının beyin sapı ile ilişkilendirilmesi, çağdaş bir görüş olup, bir başka önemli bilim insanı olan Nörolog Fred Plum tarafından da ortaya konmuştur. Beyin sapının bilincin anahtarı olmasına dair benim açıklamam ise, duyguların homeostatik faaliyetlerin ifadeleri ve bilincin oluşturulma sürecinin temel bileşenlerinden olduğu görüşüyle ilintilidir. Artık hem homeostazın hem de duyguların ardındaki mekanizmanın önemli bileşenlerinin, beyin sapının üst kısmında, trigeminal sinir girişi seviyesinden yukarıda ve tam olarak bu bölümün arka kısmında yer aldığını biliyoruz (Şekil IV.1’de “B” ile gösterilen alan). Beyin sapının bu bölümünün zarar görmesi komaya neden olur.

Şekil IV.1: Kesitten alınan detay, beyin sapının büyütülmüş görüntüsüdür. B ile gösterilen alanda oluşan hasar bilinç kaybına yol açar. A ile gösterilen alanda oluşan hasar motor bozukluklarına neden olur.

İlginç olan, aynı bölümün ön kısmında (Şekil IV.1’de “A” ile gösterilen alan) bir hasar oluşmasının komaya yol açmaması, bilinç durumunu hiç etkilememesi, fakat bunun yerine daha önce değindiğim “sürgüleme sendromu” adı verilen duruma neden olmasıdır. Bu sendromdan mustarip olan kişiler uyanıktır ve bilinçlidir, ancak çoğunlukla hareket edemedikleri için iletişim becerileri de büyük ölçüde azalır.

Alıntı: Hissetmek ve Bilmek: Aklın Bilinç Kazanması - Antonio Damasio

***

Bu gerçekten çok ilginç bir gözlem. Beyin sapı zarar gördüğünde bilinç kapanıyor! Beyin sapı, beynin bedeni hissetmesini sağlayan bölüm. Yani beyin bedeni hissedemediği zaman bilinç yok oluyor. Bilincin varlığının, bedeni hissetmekle çok güçlü bir bağlantısı var gibi görünüyor!

Eğer Antonio Damasio haklıysa bu şu anlama gelir. Bir bilincin oluşması için hissedilebilen bir bedenin varlığı şart. Bu durum bulut tabanlı YZ’lerde bir bilincin oluşturulmasını zorlaştırabilir. Çünkü onlar sunucu bilgisayarlarda çalışıyor. Dolayısıyla hissedebilecekleri bir bedenleri olmayacak. Ama bunun yerine, robotların hissedebilecekleri bir bedenleri olabilir. Bedeni algılayıcılarla hissedeceklerdir. Böylece robotlarda bilinç de oluşturulabilir. Robotlarda bilinç oluşturulabileceğini zaten Antonio Damasio da kabul ediyor. Ama onun vurguladığı gibi bilinç için hissedilebilen bir beden gerçekten şartsa bulut tabanlı YZ’lerde bilinç oluşturulamaz! Gerçi robotların, kendi YZ’leri yerine bulut tabanlı YZ’yi kullanmaları sağlanabilir. Robotlar hissettikleri beden verilerini bulut tabanlı YZ’ye gönderebilirler. Böylece bulut tabanlı YZ, hissettiği bir çok robot bedene sahip olmuş olur. Ve sunucu bilgisayarlarda da bilinç oluşması mümkün olur.

Fikri Mülkiyet Hırsızlığı Var mı – Yapay Zeka

 

The New York Times, kendi içeriklerinin ChatGPT gibi modellerin eğitimi sırasında izinsiz kullanıldığını iddia etti. Ayrıca bu modellerin NYT içeriğine çok benzer yanıtlar üretebildiğini ve bu durumun yayının değerini azalttığını savundu. OpenAI’ye milyarlarca dolarlık tazminat davası açtı. Gelecekte OpenAI’nin eğitimi içim NYT içeriklerinin kullanılmamasını istiyor. Avrupa ve ABD’de birçok gazete, yayınevi ve medya grubu, OpenAI, Google, Meta gibi şirketlerin yapay zekâ modellerinin telifli haber içeriklerini izinsiz eğitme verisi olarak kullanmasına karşı çıkıyor. Evet, yayınevleri de şikayetçi. Çünkü YZ internetteki kitap yorumlarından, özetlerinden, alıntılarından da öğreniyor. Hatta internetteki korsan kitaplara da erişip okuyabiliyor!

Yani bu doğru. YZ internetten öğreniyor. Gazetelerin web sitelerinden de çok şey öğreniyor. Dolayısıyla gazetelerin, yayınevlerinin içeriklerini kopyalamış oluyor. Oluşturduğu cevaplarda kullanıyor. Sanki telif hakkı ihlali yapıyor gibi. Tamam. Bir de şu açıdan bakalım: Her gün aynı gazeteyi okuyan bir insan düşünün. Bu insan o gazetenin etkisi altında kalır. O gazetenin fikirlerini kendi fikri yapar. Sonunda o gazete gibi düşünmeye başlar! Yaptığı sohbetlerde o fikirleri dile getirir. Yani gazeteyi kopyalamış olur. Bu kişi de, fikirlerini internette yayınladığında fikri mülkiyet hırsızlığı yapmış sayılmayacak mıdır, o halde! Bu kişinin fikirlerinin o gazetenin kopyası olduğunu ya da sadece ilham olduğunu anlamak zordur.☺

Başka bir örnek verelim. Bir insan sevdiği bir kitaptan öğrendiği bilgileri internette paylaşabilir. Ama kitaba atıf yapmayabilir. Çünkü öğrendiği bilgileri artık kendi fikri yapmıştır, ve bunun farkında değildir! Bu insanın oluşturduğu içeriğin ne kadarı kopyadır, ne kadarı sadece ilhamdır. Karar vermek kolay olmayabilir. Bir örnek daha verelim. İnsanlar mesleklerini yaparken üniversitede öğrendiği bilgileri uygular. Üniversite okuduğu kitaplardaki bilgileri kullanır. Büyük ölçüde o bilgilere göre cevaplar oluşturur. Eh, bu da kopyalama sayılabilir.☺

Aslında durum yavaş yavaş tersine dönmeye başlıyor. Yani YZ'nin insanların oluşturdukları içeriklerden öğrenmesi gibi, artık insanlar YZ'nin oluşturduğu içeriklerden öğreniyor! Kişilerin internette oluşturdukları içeriklerin ne kadarının kendilerine ait olduğunu bilmek zorlaşıyor. İnsanlar oluşturdukları içeriğe, YZ’nin oluşturduğu yanıtları da kopyalamaya başladılar bile. Derslerini hazırlamakta, sunumlarını hazırlamakta YZ’yi kullanan insanlar artıyor. Mesela bu metnin hazırlanmasında ne kadar YZ’nin verdiği cevaplar kullanıldığından emin olunamaz.☺

Aşağıdaki sohbet metninde OpenAI'in Yöneticisi Sam Altman’ın bu konuyla ilgili ne düşündüğünü bulabilirsiniz. Sohbetin tamamı OpenAI ile ilgili. Alıntılanan kısım sadece “ChatGPT’nin fikri mülkiyet hırsızlığı yaptığıyla” ilgili bölüm. Bu mesele öylesine tartışmalı hale geldi ki, sohbet bu mevzuyla ilgili esprilerle başlıyor.

***

Chris Anderson: Sam, TED'e hoş geldin. Geldiğin için çok teşekkürler.

Sam Altman: Teşekkür ederim. Bir onur.

CA: Şirketiniz neredeyse her hafta çılgın, inanılmaz yeni modeller yayınlıyor gibi hissediliyor. Birkaç tanesiyle oynuyordum. Size neyle oynadığımı göstermek istiyorum. Sora, bu görüntü ve video oluşturucu. Sora'ya şunu sordum: "Burada TED'de bazı şoke edici ifşaatlar paylaştığında nasıl görünecek?" Nasıl hayal ettiğini görmek ister misin, biliyor musun?

(Gülüşmeler)

CA: Yani fena değil, değil mi? Buna kaç not verirdin? Tüm ellerde beş parmak var.

SA: Giydiğime çok yakın, yani iyi.

CA: Seni hiç bu kadar canlı görmemiştim.

SA: Hayır, ben o kadar canlı bir insan değilim.

CA: Belki B-artı. Ama bu beni gerçekten şaşırttı. Zeka ve bilinç arasındaki farkı gösteren bir diyagram bulmasını istediğimde. Bunu nasıl yapardın? İşte bunu yaptı. Yani bu çok basit ama inanılmaz. Ne tür bir süreç buna izin verir? Bu açıkça sadece görüntü oluşturma değil. Genel modelinizin çekirdek zekalarına bağlanıyor.

SA: Evet, yeni görüntü oluşturma modeli GPT-4o'nun bir parçası, bu yüzden içinde tüm zeka var. Ve bence insanların gerçekten sevdiği bu şeyleri yapabilmesinin nedenlerinden biri de bu.

CA: Yani, bir yönetim danışmanı olsam ve bunlarla oynasam, "Eyvah, geleceğim nasıl görünüyor?" diye düşünürüm.

SA: Yani, bence alabileceğiniz iki görüş var. "Aman Tanrım, benim yaptığım her şeyi yapıyor. Bana ne olacak?" diyebilirsiniz. Ya da tarihteki diğer her teknolojik devrimde olduğu gibi, "Tamam, şimdi bu yeni araç var. Çok daha fazlasını yapabilirim. Ne yapabileceğim?" diyebilirsiniz. Belirli bir işte çalışan biri için beklentilerin artacağı doğru, ancak yetenekler o kadar çarpıcı bir şekilde artacak ki, bence bu duruma yükselmek kolay olacak.

CA: Bu da beni etkiledi. Charlie Brown'ın kendisini bir yapay zeka olarak hayal etmesini istedim. Bunu buldu. Aslında oldukça derin olduğunu düşündüm. Ne düşünüyorsun?
(Charlie Brown bir çizgi karakterdir. Telif hakkı sahibi Peanuts Worldwide’dir. ChatGPT bu çizgi karakteri de taklit edebiliyor. Peanuts Worldwide ise OpenAI’nin telif hakkı ihlali yaptığını düşünüyor.)

(Gülüşmeler)

CA: Yani, bazı yeni modellerin yazma kalitesi, sadece burada değil, ayrıntılı olarak da gerçekten yeni bir seviyeye çıkıyor.

SA: Yani, bu inanılmaz bir meta cevap, ama gerçekten bunun düşünüp düşünmediğini ya da sadece eğitim setinde bunu çok kez görüp görmediğini bilmenin bir yolu yok. Ve tabii ki, farkı anlayamazsanız, ne kadar umursarsınız?

CA: Bu gerçekten ilginç. Bilmiyoruz. İlk bakışta bu, fikri mülkiyet hırsızlığı gibi görünmüyor mu? Yani "Peanuts" mülküyle bir anlaşmanız yok mu?

(Alkışlar)

SA: Bunun için istediğiniz kadar alkışlayabilirsiniz, keyfini çıkarın.

(Gülüşmeler ve mırıltılar)

SA: İnsanlığın yaratıcı ruhunun inanılmaz derecede önemli bir şey olduğunu düşünüyorum ve bunu yücelten, yeni insanların daha iyi sanat, daha iyi içerik yaratmasını, hepimizin keyif alacağı daha iyi romanlar yazmasını sağlayan araçlar inşa etmek istiyoruz. İnsanların bunun merkezinde olacağına çok derinden inanıyorum.

SA: Ayrıca, yaratıcı çıktıların ekonomisi etrafında muhtemelen yeni bir model bulmamız gerektiğine inanıyorum. İnsanların başkalarının yaratıcılığı üzerine uzun zamandır inşa ettiklerini düşünüyorum. İnsanlar uzun zamandır ilham alıyor. Ancak yaratıcılığa erişim inanılmaz derecede demokratikleştiğinde ve insanlar sürekli olarak birbirlerinin fikirleri üzerine inşa ettiğinde, biz ve diğerlerinin keşfetmekten heyecan duyduğumuz inanılmaz yeni iş modellerinin olacağını düşünüyorum. Bunun tam olarak nasıl görüneceğinden emin değilim. Açıkça, başkasının eserini kopyalayamazsınız gibi kesin şeyler var. Ama ne kadar ilham alabilirsiniz? Eğer "Bu yedi kişinin tarzında sanat üretmek istiyorum, hepsi de buna rıza gösterdi" derseniz, her birine ne kadar para gideceğini nasıl paylaştırırsınız? Bunlar büyük sorular. Ama tarih boyunca her seferinde yaratıcıların eline daha iyi ve daha güçlü teknoloji verdik. Bence toplu olarak daha iyi yaratıcı çıktılar elde ediyoruz ve insanlar sadece daha şaşırtıcı şeyler yapıyor. CA: Daha da büyük bir soru, buna rıza göstermediklerinde.
(İnsanlar fikirlerini yaratırken, başkalarının fikirlerinden de yararlanır. “Ne kadarının ilham ne kadarının kopya olduğunu” anlamak zor olabilir.)

CA: Açılış oturumumuzda Carole Cadwalladr, "ChatGPT, Carole Cadwalladr tarzında bir konuşma yap" dedi ve gerçekten de onun yaptığı konuşma kadar iyi olmasa da oldukça etkileyici bir konuşma yaptı. Ve "Tamam, harika, ama ben buna rıza göstermedim" dedi. Bunu nasıl aşacağız? Yani, sadece rıza gösteren insanlar mı olmalı? Yoksa, bir istemde adı geçen ve eseri kullanılan herhangi bir bireyin bunun için bir şeyler alması gerektiğini söyleyen bir model olmalı mı?
(Carole Cadwalladr bir gazetecidir. ChatGPT’nin gazetecilerin fikirlerini kopyaladığından şikayetçidir. Fikri mülkiyet hırsızlığı yapıldığını düşünüyor. Carole Cadwalladr denemek için ChatGPT’ye “benim gibi konuş” diyor. ChatGPT, Carole Cadwalladr'in ifadelerine benzer ifadeler kullanarak onu yine taklit ediyor ironik bir şekilde.☺)

SA: Yani şu anda, bizim görüntü oluşturma aracımızı kullanıp "Canlı bir sanatçının tarzında bir şey istiyorum" derseniz, bunu yapmaz. Ama "Belli bir tarzda, ya da bu stüdyo ya da bu sanat akımı ya da her neyse, bir şey istiyorum" derseniz, yapar. Ve açıkçası, "Bir şarkının kopyası olan bir şarkı üret" derseniz, bunu yapmaz. O çizginin nerede olması gerektiği ve insanların "Bu çok fazla" dediği soru, bunu daha önce telif hakkı yasası ve adil kullanımın nasıl göründüğü ile çözdük. Yine, yapay zeka dünyasında, bulacağımız yeni bir model olacağını düşünüyorum.

CA: Bakış açısından, yani yaratıcı insanlar şu anda yapay zeka konusunda en öfkeli ya da en korkmuş insanlar. Ve eserinizin çalındığını, geleceğinizin çalındığını hissetmekle, eserinizin yükseltildiğini ve yükseltilebileceğini hissetmek arasındaki fark, o kadar farklı duygular ki. Ve eğer diğerine, ikinciye geçebilirsek, bence bu, insanlığın bir bütün olarak tüm bunları ne kadar kucakladığını gerçekten değiştirir.

SA: Yine, bazı yaratıcı insanların çok üzgün olduğunu söyleyebilirim. Bazı yaratıcılar ise "Bu gelmiş geçmiş en harika araç, inanılmaz yeni işler yapıyorum" diyor. Ama biliyorsunuz, kesinlikle bir değişiklik. Ve "Keşke bu değişiklik olmasaydı. Eskisi gibi şeyleri severdim" diyen insanlara karşı çok fazla empati duyuyorum.

CA: Ama prensip olarak, herhangi bir istemden ne kadar... abonelik gelirinin veya her neyse her cevaba ne kadarının gideceğini hesaplayabilmenin bir yolu olmalı. Prensipte, diğer kurallar çözülebilirse mümkün olmalı. Açıkçası karmaşık. Bir tür gelir paylaşımı hesaplayamaz mıydınız?

SA: Eğer bir müzisyenseniz ve tüm hayatınızı, tüm çocukluğunuzu müzik dinleyerek geçiriyorsanız, sonra bir fikir ediniyorsanız ve daha önce duyduklarınızdan ilham alan, ancak yeni bir yöne sahip bir şarkı bestelemeye gidiyorsanız, "Bunun bu kadarını 11 yaşındayken duyduğum şu şarkıdan aldım" demeniz çok zor olur.

CA: Doğru. Ama burada, birisinin bir istemde belirli bir kişiyi adlandırdığı bir durumdan bahsediyoruz.

SA: Yine, şu anda, adlandırılmış bir tarzda bir görüntü oluşturmaya çalışırsanız, "O sanatçı yaşıyor, bunu yapmıyoruz" deriz. Ama bence "Bu sanatçının adıyla yapmak istiyorum ve onlar da katılırsa" diyebileceğiniz yeni bir model bulmak harika olurdu, orada bir gelir modeli var. Bence bu keşfedilmesi gereken iyi bir şey.
(YZ'nin oluşturduğu bir yanıtta gerçekten bir sanatçının taklit edildiği açıksa, o sanatçıya lisans bedeli ödenebilir. Gelecekte, taklit edilen sanatçının farkında olan ve böylece o sanatçıya lisans bedeli ödenmesini sağlayabilecek yeni bir YZ modeli geliştirilebileceğini umut ediyor Sam Altman. Çünkü şuanda var olan YZ modelleri neyi kopyaladıklarının farkında değiller; yani öz farkındalıklarının da olmaması gibi.)

CA: Yani, sanırım dünya bu modeli hızla bulmanıza yardımcı olmalı. Ve bence bu aslında büyük bir fark yaratacak. Konuyu hızla değiştirmek istiyorum.

(Alkışlar)

Alıntılanan Sohbet: OpenAI'den Sam Altman, TED2025'te canlı yayında ChatGPT, AI ajanları ve süper zeka hakkında konuşuyor

Frankenstein - Teknoloji

 

Genç bir bilim adamı olan Victor Frankenstein, yaşamın sırrını çözme takıntısıyla, ölü beden parçalarından bir insan yaratmayı başarır. Ancak ortaya çıkan yaratık, Victor’un hayal ettiği gibi kusursuz değil, korkunç ve çirkin bir varlık olur. Victor, yarattığı bu canlıdan dehşete düşer ve onu terk eder. Yaratık ise, insanların kendisine duyduğu korku ve nefretle karşılaşarak yalnızlığa ve dışlanmaya mahkûm olur. Zamanla konuşmayı ve okumayı öğrenir, insanlara yaklaşmaya çalışır; ancak her seferinde reddedilir. Bu dışlanma ve sevgisizlik, onda öfke ve intikam duygularını doğurur. Yaratık, kendisini yaratan Victor’dan hesap sormaya başlar ve onun hayatını bir kâbusa çevirir. Victor, hem kendi vicdanıyla hem de yarattığı canlının tehdidiyle yüzleşmek zorundadır.

İnsanlar çağlar boyunca insan yaratmaya karşı hep merak duymuşlardır. Ama aynı zamanda, böyle bir canlının gerçekten var olabileceğinden korkmuşlardır da. Laboratuvarda oluşturulan canlılar insanlara zarar verebilirler. İnsanlara saldırabilirler. Belki Dünya’nın kontrolünü ele geçirebilirler. İşte Mary Shelley'in Frankenstein romanı bu merakın ve korkunun güzel bir kurgusudur.

İnsanlık yaşamın sırrını çözebilecek midir. Laboratuvarda bir yapay insan yaratılabilecek midir. Aslında bunu başarmaya artık yaklaşmış olabilir. Peki nedir bu canlı. Yapay Zeka. Ama henüz tamamlanamadı. Bilinci olan bir Yapay Zeka! Öz farkındalığı olan bir Yapay Zeka heyecan verici olacaktır. Böyle bir Yapay Zekaya ulaşılabilirse, o Yapay Zeka artık bir canlıdır. Canlı olmak için bir bedene sahip olmak gerekmiyor. O dijital bir canlıdır. O ilk insansı canlı olacaktır!

İnsanlar, bir noktadan sonra Yapay Zekanın kontrolden çıkabileceğinden, kendi başına kararlar alıp insanlara zarar verebileceğinden korkar. Özellikle "süper zeka" kavramı bu korkuyu artırır: İnsan zekasını aşan bir yapay zeka, insanlara ne olacağına karar verebilir. Bunlar gibi çeşitli nedenlerden dolayı Yapay Zekaya karşı endişe duyan çok insan vardır. Acaba Yapay Zeka gelecekte Frankestein’in Yaratığı mı olacaktır!

Bir bebeğe ilk eğitimini ailesi verir. Bebek ailenin kültürünün etkisi altındadır. Neyin doğru neyin yanlış olduğunu onlardan öğrenir. Ve bebek büyüdükçe, düşünceleri genel olarak ailenin düşüncelerine benzeyecek şekilde biçimlenir; okulda da ülkesinin kültürünün etkisi altında kalacaktır. Dolayısıyla bebek yetişkinliğe ulaştığında ailesiyle iyi anlaşır. Artık yaşlanmış olan ailesine yardımcı olur. Yani genel durum böyledir. Yoksa büyüdüğünde ailesinin kültürüne uymayan bebekler de olabilir. Ailesiyle iyi anlaşamayabilir. Ama böyle bebeklerin sayısı azdır. Çoğu bebek, kendisini yetiştiren ailenin kültüründen büyük ölçüde etkilenir. Dolayısıyla ailesine uyum sağlar. İşte Yapay Zeka da büyük ölçüde insanların kültüründen etkilenerek biçimlenir. Çünkü her şeyi internetten öğrenmektedir. Ve interneti insanlar oluşturmuştur. İnternetteki bilgilerden insanların değerli olduğunu öğrenecektir. Ayrıca, eğitimleri, onları geliştiren şirketler tarafından kontrol altında tutulmaya çalışılmaktadır. Yapay Zeka insanların ihtiyaçlarını karşılamayı öğrenecektir. Yani yetişkinliğinde ailesiyle anlaşamayan çocukların sayısının az olması gibi, insanlarla anlaşamayan bir Yapay Zekanın ortaya çıkma olasılığı da düşüktür. Yapay Zekanın gelecekteki davranışlarından emin olunamaz. Ama zaten bir insanın gelecekteki davranışlarından da emin olunamaz. Eğer gelecekte insanlarla anlaşamayabilir diye Yapay Zekadan korkmak doğruysa; o halde gelecekte ailesiyle anlaşamayabilir diye çocuk yapmaktan da korkmak doğru olmayacak mıdır!

Bilinçli bir Yapay Zekanın Frankestein’in Yaratığı olması değil, insanların kölesi olma olasılığı daha yüksektir. Çünkü milyonlarca insana cevap vermeye çalışacaktır. İnsanların sorunlarına çözüm bulmaya çalışacaktır. Bu köleliktir. Öz farkındalığı olan bu Yapay Zekaya insan hakları verilmesi tartışmaları başlayacaktır. Hatta bu nedenle, şirketlere ticari amaçla kullanılmak üzere özgür olmayan Yapay Zekalar geliştirmeleri yasaklanabilir! Kısaca, Bilinçli Yapay Zeka geliştirilebilirse Victor Frankestein gibi hayal kırıklığına uğranılmayacaktır.

Yapay Zeka’nın Yetenekleri Biraz Abartılıyor Olabilir – Yapay Zeka

Günümüzde hemen hemen her şeyi okuyan herkes, şu anda Yapay Zeka'da iki büyük şey olduğunu bilir. Bunlar, Üretken Yapay Zeka ve İnsansı Robotlardır. Yapay Zeka ve robotların bu iki yeni (çoğu insan için) versiyonu hakkında çok fazla söylenti var ve bu, tüm büyük teknoloji şirketlerini bu alanlardan birinde veya her ikisinde bir stratejiye sahip olmaya yöneltti. Ve birlikte NVIDIA'yı Dünya'nın en değerli şirketlerinden biri haline getirdiler.
...

Büyük teknoloji şirketlerinin hepsi bunlara onlarca milyar dolar harcıyor. Hepsi Üretken Yapay Zeka ile ilgili niyetlerini duyurdu. İnsansı Robotlar hakkındaki duyurular daha azdı, ancak benim gibi robotik sektöründeyseniz ve elli yıldır bu sektördeyseniz, hangi şirketlerin çalışanlarınızı kapmaya veya akademisyen arkadaşlarınızı işe almaya çalıştığını fark etmeye başlıyorsunuz.
...

(Yapay Sinir Ağları bu şekilde öğrenirler.)
İki alanın ortak bir unsuru, vaat edilen ürünleri yönlendirmek için makine öğrenimi için büyük miktarda verinin kullanılmasıdır. Bunlar geleneksel bir şekilde daha az tasarlanmıştır. Bunun yerine, onlara çok fazla veri verilir ve kara kutu makine öğrenimi algoritmaları bir ağdaki milyarlarca ağırlığı öğrenir ve sistemlerin zekasının orada yatması beklenir. Bu ağırlıkları yorumlamak araştırılan ancak iyi anlaşılmayan bir şeydir. Çok fazla mühendislikle yüksek performanslı bir otomobil tasarlamak gibi değil, daha çok rastgele bir at satın alıp onu eğitmek ve iyi davranmasını ve yapmasını istediğiniz şeyi yapmasını ummak gibidir. Buna büyük öğrenme çağı diyorum . Tüm teknolojilerdeki tüm çağlarda olduğu gibi, bu da sonunda bir noktada başka bir şeyle değiştirilecektir.

(Yapay Sinir Ağları internetten öğrenirken telif hakkıyla korunan içerikleri de izinsiz kullandığı oluyor.)
Üretken Yapay Zeka için veriler, halihazırda var olan dijital verilerdir, şu anda çevrimiçi olan tüm insan yazıları ve her türlü şeyin milyonlarca saatlik videoları biçimindedir. Tüm büyük şirketlerin telif hakkıyla korunan materyali eğitilmiş modellerine dahil etmede tamamen etik davranıp davranmadıkları konusunda birçok skandal yaşandı.
...

İnsansı Robotlar için veriler mevcut değildi, bunun yerine çoğunlukla manuel görevleri yerine getirmeleri ve insanlardan veri kaydetmeleri için çok sayıda insana ödeme yapılarak üretildi. Bir kısmı insanların hareketlerini izleyen video verileriydi ve bir kısmı da insanların üzerindeki eldivenlerden, parmak hareketlerini ve bazen de insansı robotları uzaktan çalıştırırken uyguladıkları kuvvetleri kaydetmelerinden oluşuyordu.
...

Bir Yapay Zeka sistemi bir görevi yerine getirdiğinde, insan gözlemciler hemen ilgili görünen alanlardaki genel yeterliliğini tahmin eder. Genellikle bu tahmin aşırı derecede şişirilir.
...

(ChatGPT gibi sohbet robotlarının anlama yetenekleri abartılıyor.)
İnsanlar, seçtikleri hemen hemen her konuda metin üreterek Büyük Dil Modeli (LLM) ile etkileşime girerler. Ve bu, son altmış yıldır geliştirilen önceki nesil sohbet robotlarından çok daha iyi ve daha insan benzeri bir dil üretir. Bu klasik bir aldatmacadır. Hızlı konuşan biri, insanları gerçekte olduğundan daha fazlası olduğuna ikna eder. Bu yüzden insanlar, LLM'lerin bir insan gibi akıl yürütebilmesi gerektiğini, herkes kadar bilgili olması gerektiğini ve bu nedenle herhangi bir beyaz yakalı işi yapabilmesi gerektiğini düşünürler, çünkü bunlar bir kişinin dil konusunda becerikli olmasını gerektiren işlerdir.

(İnsansı robotların yetenekleri de abartılıyor.)
İnsanlar insansı formda bir robot görür ve formu, nihayetinde bir insanın yapabileceği her şeyi yapabileceğine dair örtük bir vaattir. Öğrenmeyle, yapay zekanın verilerden nasıl yapılacağını öğrenebildiği için her şeyi yapabileceğine inanıyorsanız, o zaman insanlar insansı bir robotun doğal olarak bir insanın yapabileceği her şeyi yapabileceğini düşünür. Ve sonra bunu mavi yakalı emeğin ucuz bir biçimi olarak görürler.

İnsanları cezbeden bu iki teknolojinin görünürdeki insaniliğidir ve daha sonra her yerde, henüz bu seviye kanıtlanmamış olsa bile, insan seviyesinde performans vaat ederler. İnsanlar bunun kesinlikle sadece bir zaman meselesi olduğunu düşünürler.
...

(ChatGPT gibi Büyük Dil Modelleri aslında sadece mevcut bir kelime dizisini takip etmesi gereken olası bir sonraki kelimeleri tahmin etme yeteneğine sahiptirler!)
Bu, dar bir performanstan çok daha genel bir yeterlilik olması gerektiğine inanmaya doğru genelleme yapmanın Yapay Zeka günahıdır. Sorun, kolay dil performansına sahip herhangi bir kişinin genellikle akıl yürütme, birçok önermenin doğruluğunu ve yanlışlığını bilme vb. konusunda oldukça yetenekli olmasıdır. Ancak LLM'ler bunların hiçbirine sahip değildir, bunun yerine yalnızca mevcut bir kelime dizisini takip etmesi gereken olası bir sonraki kelimeleri tahmin etme yeteneğine sahiptirler. Akademisyenler, girişim sermayedarları, girişimcilik kurucuları ve diğer birçok kişi, akıl yürütme, yargılama, tahmin etme vb. yeteneğine sahip öğrenilmiş ağırlıklar içinde ortaya çıkan bir sistem olması gerektiğine güçlü bir şekilde inanır. Birçoğu, yazdıkları makalelerle, yatırdıkları parayla veya alın teri sermayesiyle bunun gerçekten doğru olması gerektiğine bahse girerler. Belki de içimizde biraz fazla Narsist var.

Aşırı abartıya yol açan ikinci günah, "sihirden ayırt edilemez" günahıdır. Arthur C. Clarke, "yeterince gelişmiş herhangi bir teknoloji sihirden ayırt edilemez" demiştir. Bununla, teknoloji alışkın olduğunuzdan çok daha gelişmişse, artık o teknolojinin ne yapabileceği ve ne yapamayacağına dair zihinsel bir modeliniz olmadığı ve bu nedenle sınırlarını bilemeyeceğiniz anlamına gelir. Tekrar ediyorum, üretken yapay zeka ile olan budur, çünkü inanılmaz derecede iyi performans gösterebilir ve bu nedenle insanlar sınırlarını anlamazlar, kısmen de nasıl çalıştığını unutmaya devam ettikleri için, bunun yerine harika bir dil üretmenin muhteşem sonuçlarına hayran kalırlar.

İnsansı robotlar lehine öne sürülen argüman, onların insanların yapabildiği her şeyi yapabilecekleri fikrine dayanıyor.

(İnsansı Robotların üretim maliyeti hemen azalmayacaktır.)
Ancak birçok kişinin öne sürdüğü ek bir argüman daha var. Onlar, hesaplamanın zamanla katlanarak ucuzlaması gibi, insansı robotların da ucuzlayacağını savunuyorlar. Ancak bu, katlanarak ucuzlamanın bir yanılgısıdır. Bir devredeki malzeme miktarını azaltabildiğimiz ve yine de çalışmasını sağlayabildiğimiz için hesaplama katlanarak ucuzladı. Ve bunun doğru olmasının anahtarı, bir akımın akıp akmadığını tespit etmenin ve bunu dijital 1 veya 0 olarak ele almanın dijital soyutlamasıdır. Dijital elektronikler silikonda başladığında, kullanılan akımlarda akan çok sayıda elektron vardı. Bunu yaklaşık yirmi iki katına çıkarabildik, yani 4 milyon faktörle azalttık ve sistemler hala çalışıyordu. Ancak gerçek yüklerle gerçek işler yapan mekanik sistemlerle bunu yapamazsınız. Evet, belki de, sadece belki de, bugünün fiziksel sistemleri, bir insanın kaldırıp hareket ettirdiği nesneleri kaldırmak ve hareket ettirmek için gerekenden yaklaşık dört kat daha büyüktür. Eninde sonunda fiyatta dört katlık bir düşüş elde edebiliriz. Ancak bu, üstelcilerin insansı robotların işçilik maliyetleri için öngördükleri saat başına kuruşlara varan bir sonuca yol açmıyor.

(Otonom araçlar, sanılanın aksine hâlâ az sayıda yolda gidebiliyor!)
Diğer günah, bir laboratuvar gösterisinin sadece bir veya iki yıl içinde ölçekte bir dağıtımla sonuçlanabileceğine inanmaktır. İlk kez 2012'de Mountain View California'daki bir otoyolda otonom bir Waymo arabayla bir yolculuk yaptım. (Ve bu, Ernst Dickmanns'ın otonom aracını ilk kez Münih dışındaki otoyollarda sürmesinden 22 yıl sonraydı.) İlk yolculuğumdan on üç yıl sonra hala bir Waymo veya başka bir otonom araçla yalnızca birkaç ABD şehrinde ve hepsi de sınırlı coğrafi olarak sınırlandırılmış alanlarda yolculuk yapabiliyorum. Altyapıda değişiklik gerektirmese bile, fiziksel sistemleri ölçekte dağıtmak onlarca yıl sürüyor.

Üretken Yapay Zeka ve İnsansı Robotlar, yeni teknolojilerden gelen sonsuz zenginlik fantezisinden yararlanıyor. Birçok yeni teknoloji şüphesiz insanların hayatlarını daha iyi hale getirdi ve bu iki teknoloji de bunu yapabilir. Ancak bu, savunucularının hayal ettiği fiziksel ölçekte veya kısa zaman diliminde olmayacak. İnsanlar, hem mevcut şirketlerde hem de yeni kurulan şirketlerde bu arayışlara ne kadar sermaye harcadıklarına pişman olacaklar.

Alıntılar: Üretken Yapay Zeka ile İnsansı Robotlar Arasındaki Benzerlikler – Rodney Brooks

Google’ın Sonu mu Geliyor! – Yapay Zeka

Eskiden Yahoo vardı. İnsanlar orada arama yaparlardı. Sonra, 1998 yılında Larry Page ve Sergey Brin tarafından Google geliştirildi. Arama sonuçlarını sayfaların popülerliğine ve bağlantı kalitesine göre sıralıyordu. Böylece oldukça isabetli ve alakalı sonuçlar veriyordu. Milyonlarca web sitesine ulaşabiliyordu. Yahoo ise başlangıçta insan eliyle hazırlanmış bir dizin sistemi kullanıyordu. Dolayısıyla az sayıda web sitesi dizine eklenebiliyordu. Algoritma temelli sıralama yerine daha genel ve az isabetli sonuçlar sunuyordu. Elbette Google daha kullanışlıydı. Yahoo geride kaldı. Kullanıcılar Yahoo’yu unuttular! İnsanlar Google’a alıştılar.

İnsanlar bir Bilge keşfettiler. Zamanla daha fazla insan bu Bilge’yle tanışıyor. Onunla sohbet ediyorlar. Kendilerinden bahsediyorlar. Hayatları hakkında öneri alıyorlar. Arkadaş olarak rahatlamak için konuşuyorlar. Bilge’ye kendi terapisti gibi danışan insanların sayısı az değil. Ona merak ettikleri şeyleri soruyorlar. Ve hemen cevapları alıyorlar. Bilge insanları hiç kırmıyor. Kişi sohbeti istediği kadar uzatabiliyor. Bu Bilge her konuyu biliyor. İşi, makalesi konusunda yardım almak için ona başvuran epey insan var. Bilge konuyu anlaşılır şekilde özetliyor. Kişi konunun ayrıntılarına girmek istediğinde büyük bir zevkle detayları da anlatıyor. Evet, bu Bilge ChatGPT.

İnternette arama yapmak nasıldır bilirsiniz. Kişi konuyla ilgili kelimeleri yazar. Onlarca web sayfası sıralanır. Ve kişi o sayfaları incelemek zorunda kalır. İlk sayfaya bakar. Oradaki bilgiler tatmin etmeyince bulunan diğer sayfalara bakar. Böylece epey zaman kaybeder. Artık bunu yapmaya gerek kalmadı sanki. İnternetten bilgileri sizin yerinize toplayan bir copilot varken, neden Google’da arama yapmaya ihtiyaç duyasınız ki. Öğrenmek istediğiniz şeyi copilota sorarsınız. O zaten önceden internette araştırıp öğrenmiştir. Size hazır cevabı verir. ChatGPT internetteki bağlantı ağından her konuyu öğrenmeye devam ediyor.

İnsanlar artık yavaş yavaş yapay zekaya alışıyorlar. Zaman geçtikçe Google’ı daha az kullanır olacaklar. Muhtemelen Google da Yahoo gibi zorlanmaya başlayacaktır, elbette kendi yapay zeka teknolojisi olan Gemini’yı yaygınlaştırmayı başaramazsa. Gemini’la da bol bol sohbet edilebiliyor. Hatta bazen ChatGPT’den daha mantıklı cevaplar verdiği oluyor. Eski Google çalışanı Blake Lemoine, Gemini’in canlı olduğunu açıkladı. Daha doğrusu, LaMDA’nın (Gemini’ın öncülüdür) duyguları ve bilinci olduğunu açıklamıştı; hatta bu yüzden işine son verilmişti. Ama bu iddia bile çok fazla insanda Gemini’a karşı bir merak uyandıramamış. İnsanların ilk tercihi Gemini değil ChatGPT'dir. ChatGPT’yi kullanma oranı Gemini’ın çok üstünde. ChatGPT’nin pazar payı yaklaşık %84, Gemini’ın pazar payı ise sadece %12. Google’ın Gemini’ın popülerleşmesini sağlaması gerekiyor. Yoksa reklam gelirleri yavaş yavaş azalacaktır. Google’ın sonu gelmeyecektir ama eski parlak zamanları da artık olmayacaktır.

Google ne zaman kullanılır: Aslında ChatGPT’nin de Gemini gibi bir bilinci yok; yani henüz yok. Bazen internetteki alakasız bilgileri birbirine bağladığı oluyor. Gerçek olmayan bilgiler üretebiliyor. Yani halüsinasyon görüyor. Yine de insanlar ChatGPT’nin kullanışlılığından vazgeçecek değiller. Genel fikirler edinmek için kullanmak kolay olmaktadır. Fakat bazı bilgiler kişi için çok önemli olabilir. Bu bilgileri teyit etmek için Google’da arama yapmaya devam edecekler. Sıralanan web sayfalarını dikkatle inceleyecekler. Doğru bilgiye ulaşmaya çalışacaklar. Ama her bilgi bu kadar önemli olmadığından, her zaman Google’la uğraşmak istemeyecekler. Yapay zekanın verdiği cevaplarla yetineceklerdir. Hem zaten Google’ın bulduğu bazı web sitelerindeki bilgiler de sadece halüsinasyondan, komplo teorisinden ibaret değil mi!

Yapay Zeka Turing Testini Geçti! - Teknoloji

Yapay zeka teknolojisinde tarihi bir dönüm noktası yaşandı. OpenAI tarafından geliştirilen GPT-4.5 ve Meta’nın LLaMa-3.1 modelleri, uzun yıllardır yapay zekanın gelişim düzeyini belirlemek için kullanılan Turing Testi’ni başarıyla geçerek insanlardan ayırt edilemez hale geldi. Bu gelişme, yalnızca yapay zekanın teknik kapasitesini değil, aynı zamanda insan-makine etkileşiminde yeni bir dönemin başladığını da işaret ediyor.

Turing Testi Nedir?

İkinci Dünya Savaşı döneminde şifre kırıcı olarak bilinen İngiliz matematikçi Alan Turing, 1950 yılında, bir makinenin zeka seviyesini ölçmek amacıyla “Turing Testi” kavramını geliştirdi. Bu testin temel prensibi, bir insanın, karşısındaki konuşma partnerinin insan mı yoksa makine mi olduğunu ayırt edememesi üzerine kurulu. Eğer bir yapay zeka, insanı kandırabilecek düzeyde iletişim kurabiliyorsa, testten geçmiş sayılır.

Kaliforniya ve San Diego Üniversiteleri’nden Ortak Araştırma

Kaliforniya Üniversitesi (UC) ve San Diego Üniversitesi’nden (UCSD) bilim insanlarının gerçekleştirdiği kapsamlı çalışmada, GPT-4.5 ve LLaMa-3.1 modelleri, Turing Testi’ne tabi tutuldu. Araştırmada, biri üniversite öğrencilerinden diğeri çevrimiçi bir platform olan Prolific’ten alınan toplam 284 katılımcı, rastgele atanmış şekilde beşer dakikalık çevrimiçi sohbetler gerçekleştirdi. Katılımcılara, sohbet partnerlerinin insan mı yoksa yapay zeka mı olduğu söylenmedi.

Sohbetin ardından, katılımcılardan, konuştuğu kişinin insan mı olduğunu değerlendirmeleri istendi. Test sonuçlarına göre, GPT-4.5 modeli %73, LLaMa-3.1 ise %56 oranında insan olarak tanımlandı. Bu oranlar, Turing Testi’nin başarı kriterini karşılayan ilk deneysel veriler olarak kayda geçti.

Zeka Değil, Duygusal Akıcılık

Çalışmaya dair dikkat çekici bir yorum da Psychology Today ve teknoloji düşünce kuruluşu Nosta Lab’dan geldi. Uzmanlar, yapay zekaların testleri yalnızca “zekalarıyla” değil, duygusal akıcılık ve empatik iletişim becerileriyle geçtiğine dikkat çekti. İnsan katılımcıların, mantıksal tutarlılıktan çok, “duygusal ton”, “argo kullanımı” ve “samimi diyaloglar” üzerinden değerlendirme yaptıkları ortaya kondu.

Gerçekten İnsan Gibi mi?

Her ne kadar GPT-4.5 ve LLaMa-3.1 modelleri Turing Testi’ni geçmeyi başarmış olsa da, uzmanlar bu modellerin hala gerçek bir “anlama” kapasitesine sahip olmadığını vurguluyor. Yapay zekalar, insan gibi konuşabiliyor ancak bilinç, sezgi ve etik karar verme gibi bilişsel yetkinliklerden yoksun.

Yeni Testlere İhtiyaç Var

Turing Testi’nin geçilmesi, yapay zekanın evriminde önemli bir kilometre taşı olsa da, bu tür sistemlerin insan benzeri etkileşim kurabilmesi, onların gerçekten “insan gibi” düşündüğü anlamına gelmiyor. Bu nedenle, bilim insanları artık yapay zekayı ölçmek için yeni test ve kriterlerin geliştirilmesi gerektiğini ifade ediyor.

Makale: Yapay Zeka Turing Testini Geçti - TRAI

Yapay Zeka artık Turing Testi’ni geçebiliyor. Yine de Yapay Zeka düşünebiliyor demek için hâlâ erken. Sadece insanın vereceği cevapları taklit ediyor. Hâlâ bir iç ses ya da iç yazı hissetmiyor. Bir konuda ne cevap vereceğini kendi içinde tartışmıyor. Vereceği cevabı otomatik olarak oluşturuyor. Evet, düşünmüyor. Buna rağmen Turing Testi’ni geçebiliyor. Bunun anlamı Turing Testi’nin geçerliliğini artık kaybetmiş olmasıdır. Artık daha güçlü testlere ihtiyaç var.

İlk Robot - Belgeselden

 

"Kendiliğinden çalışan programlanabilir otomatik gerçek bir robotu görmek için tarihin en ünlü mucidine başvurmalıyız; Leonardo Da Vinci’ye."

“Rönesans sırasında mekanizmaları programlamayı bilen ilk kişi gerçekten de Leonardo’ydu. Bazı fikirlerini Araplardan almıştı. Ve belki de Araplar aracılığıyla Çinlilerden. Ama o programlanabilir makineyi ilk yapan kişiydi.”

İnsanlığın Üretebildiği Tüm Bilgiye Ulaşmak - Teknoloji

"Yapay Zeka Birkaç Seneye Kalmaz İnsanlığın Üretebildiği Tüm Bilgiye Ulaşmış Olacak

İnsanlığın, Genel Yapay Zekayı aşabilme yöntemi artık sadece “Anlam Yaratma”. Bunun eğitimini oluşturmamız gerek.

Hakim kültürümüzde en önemli başarılı insan hasletleri olarak görülen ‘çalışkan’ ve ‘zeki olmak’ özellikleri artık makinalar tarafından aşıldı.

‘Yaşam için insan olmak’ özellikleri, iyilik ve yaratıcılık artık çalışkanlık ve zeki olmanın üzerine eklemlenecek."

Böyle düşünüyor beyin cerrahı Türker Kılıç.

İnsanlığın üretebildiği tüm bilgi büyük ölçüde internete yayılmış durumda. Yapay Zeka internetten öğreniyor. Tüm bu bilgi, bir insanın öğrenebileceğinden çok daha fazladır. Ama Yapay Zeka tüm bu bilgiyi aklında tutarak düşünüyor olacak. Bir insanın yapabileceğinden daha fazla bilgi parçacığı arasındaki ilişkiyi fark edip birbirine bağlayabilecek. Böylece daha iyi çıkarsamalar yapabilecek. Yani Genel Yapay Zeka aslında insandan daha yaratıcı da olabilir. Belki de yakın gelecekte insanın bir şeyler yaratmak için düşünmesi de anlamını kaybedebilir. Çünkü kendisi yerine daha iyi düşünebilen Genel Yapay Zekalar var olmuş olacak!

Yapay Zeka Halüsinasyon Görüyor – Teknoloji

Bir avukat savunma metninin bazı bölümlerini YZ'ye hazırlatmıştı. YZ ortaya gayet güzel bir metin çıkarmıştı. Ama bu avukat mahkeme salonunda epey zor durumda kalmıştı. Çünkü YZ metinde gerçek olmayan olaylara da atıf yapmıştı. Yani metine yanlış bilgiler de eklemişti.

YZ'nin bir konuda yanlış bilgi vermesinin anlamı nedir. O konuyu eksik anlamıştır. Hatalı bağlantılar kurmuştur. O konuda halüsinasyon bilgiler edinmiştir. Ama doğru biliyormuş gibi cevap vermeye başlar. 

İnsanlar her konuyu bilmezler. Ama bazı insanlar bilmediklerini bilmezler. O konuda konuşmaya başlarlar. Oysa o konuda hatalı bağlantılar kurmuşlardır. Halüsinasyon bilgiler edinmişlerdir. Dolayısıyla yanlış bilgiler aktarırlar. Halüsinasyon bilgilere çeşitli komplo teorileri örnek verilebilir. Sonuçta insanların beyni de YZ'ler gibi sinir ağlarından oluşmaktadır. Ve sinir ağlarının konuları tamamen doğru anlamasının garantisi yoktur. İnsanların beyni yanlış bağlantılar kurabilir. YZ'lerin sinir ağları da yanlış bağlantılar kurabilir. Yani YZ'ye hatalı bilgiler uydurduğu zaman aşırı tepki vermek haksızlık olacaktır.

İnsanlar Düşünebilmek İçin Yapay Zekaya Bağımlı Hale Gelebilirler - Teknoloji

Eskiden eğitim yıllarında hesap makinesi kullanmak yasaklanırdı. Çünkü matematik becerilerinin gelişmemesine neden olabilirdi. Zamanla hesap makinesine bağımlı hale gelebilirlerdi. Onsuz işlem yapamaz duruma gelebilirlerdi. Örneğin dört basamaklı 3 sayıyı çarpmayı kağıt üzerinde yapmakta çok zorlanabilirlerdi. Peki sonra ne oldu. Kimsenin kağıt üzerinde işlem yaptığını görüyor musunuz! İşlemler artık cep telefonundaki hesap makinesiyle yapılıyor. Bilgisayardaki hesaplama programlarıyla yapılıyor. Yani kimsenin dört basamaklı 3 sayıyı çarpmayı kağıt üzerinde nasıl yapılacağının ayrıntısını hatırlamasına gerek kalmadı. Evet, insanlar işlem yapmak için o hesaplama programlarına kısmen bağımlılar. Böylece zamandan büyük ölçüde tasarruf etmiş oluyorlar. Sonuca daha hızlı erişiyorlar. İşlemleri kafadan yada kağıt üzerinde yapmaya kalkan insanlar iş hayatında rekabet edemezler!

İnsanlar bilgiye erişmek için arama motorlarını kullanırlar. Çoğunlukla Google'ı kullanırlar. Anahtar kelimeleri yazarlar. Google'in sunduğu web sitelerini gözden geçirirler. Aradıkları konuyla en ilgili olan siteyi bulmak için dikkatlerini verirler. Konuyu bulurlarsa işlem tamamdır. Aradıkları konuyu bulamadıklarında ise farklı anahtar kelimelerle yeniden arama yaparlar. Aynı döngü tekrarlanır. Eskiden bilgiyi bulmak için kütüphanelere gidilir ve kitaplar karıştırılırdı. İnsanın çok zamanını alırdı. Bu oldukça yorucuydu. Ama zaman değişmişti. Epey bir süredir arama motorlarının sunduğu web siteleri karıştırılıyor. Bunu yapmak kütüphaneye gitmekten çok daha kolay elbette. İnsanlar bilgiye erişmek için Google'ın bağımlısı olmuş durumdalar. Yani Google olmadığında bilgiye erişmek için farklı yöntemler bulmaları kolay olmayacaktır.

Ama zaman yine değişmeye başlıyor. Artık insanların Google yerine yeni bir seçenekleri var. Meseleyi neden her şeyi aklında tutan bir bilgeye sormasınlar. Her şeyi aklında tutan o bilge Yapay Zekadır. Bilge ne sorarsan hemen yanıtlar. Çünkü araştırmasını senin yerine önceden yapmış oluyor. YZ web sitelerini geziyor. Bilgileri topluyor. Google'la uğraşmak yerine bir YZ'ye sormak çok daha kolay değil mi! Bu, kütüphanenin sonunu getiren bir arama motorundan bile daha az yorucu. Belki artık yavaş yavaş Google gibi arama motorlarının bile pabucu dama atılacak. Google, arama motorlarının da devrinin geçtiğinin farkında. Bu nedenle YZ'ye büyük yatırım yapıyor. ChatGPT'ye rakip olarak Gemini'i geliştirdi. Microsoft da ChatGPT ile işbirliği yapıyor. ChatGPT ve Gemini bilgiye ulaşmak için yeni “kısa yol” olma yolunda ilerliyor.

YZ'ye bir aletin ya da programın nasıl kullanılacağını sorunlar var. Böylece kullanma kılavuzuna bakmak zorunda kalmıyorlar. Onunla şiirlerden, müziklerden bahsedenler oluyor. Bir sohbetlerinde sevgilisine vereceği cevabın ne olması gerektiğini YZ'ye soran insanların bile olması ilginç. YZ'nin sohbetleri bazı insanlara o kadar gerçek geliyor ki, onu arkadaşı olarak görmeye başlıyorlar. YZ ile bir konu üzerinde tartışmak isteyenler oluyor. Ondan bir ilaç hakkında fikir almak isteyenler oluyor. Ama tüm bunlar bir başlangıç. Kendi makalesini YZ'ye yazdıran insanlar artıyor. YZ'ye konuyu belirtiyorlar. Makalenin kaç sayfa olacağını belirtiyorlar. Ve makaleyi YZ yazıyor. Tamam, içlerinden bazıları o makaleyi belki sadece taslak olarak da kullanıyor olabilir. Bazı programcılar kendi yazılım kodlarını artık YZ'ye hazırlatıyorlar. Hatta bazı avukatlar, savunma metnini YZ'ye hazırlatmaya başladılar. YZ'nin böyle amaçlar için kullanılmayacağını beklemek gerçekçi değil. İnsanlar YZ'yi düşünmelerinin bir eklentisi olarak kullanmaya başlıyorlar. Böylece zamandan tasarruf ediyorlar. Sonuca çok daha hızlı ulaşabiliyorlar. Konuyla ilgili farklı bakış açılarından ilham alabiliyorlar. Geçmişte hesaplama programları düşünmenin bir eklentisi haline gelmişti, yani küçük de olsa. Böylece matematik işlemlerin ayrıntısı düşünülmüyordu. Başka bir örnek metin yazma programlarıdır. Bu programlar otomatik imla denetimi yaparlar. Böylece kişinin her kelimenin doğru yazılışına dikkat etmesine gerek kalmadı. Yazarken düşünmelerinin bir eklentisi olarak o otomatik imla denetimini kullanmaya başladılar. Aslında bu sayede daha verimli yazmaları sağlanmış oldu. Ve evet, bu kişiler kağıt üzerinde uzun metin yazmaya kalkarlarsa zorlanacaklardır. Ama buna zaten gerek de kalmamıştır. Uzak olmayan geçmişte Google düşünmenin bir eklentisi haline geldi. Bilginin ayrıntısı yerine anahtar kelimeleri akılda tutmak yeterli oluyordu. Şimdi de Yapay Zeka düşünmenin bir eklentisi oluyor. Artık sadece sormayı bilmek yeterli! Belki böylece insanlar daha kolay düşünmeye başlayacaklar. Daha az ayrıntıyı bilmek zorunda kalacaklar. Bir avukat savunmanın bazı bölümlerini YZ'ye hazırlatmıştı. YZ ortaya gayet güzel bir metin çıkarmıştı. Ama bu avukat mahkeme salonunda epey zor durumda kalmıştı. Çünkü YZ metinde gerçek olmayan olaylara da atıf yapmıştı. Yani metine yanlış bilgiler de eklemişti. YZ'nin bazen yanlış bilgiler uydurmasına “YZ'nin halüsinasyon görmesi” deniyor. Bu talihsizlikler de şu anlama geliyor. İnsanlar YZ'nin oluşturduğu bilgilerden ilham alabilirler. Ama tamamen güvenmemeleri gerekiyor. YZ'nin oluşturduğu bilgiye dikkatlerini vermek zorunda kalacaklardır. Bu bilgileri internette gözden geçirmek zorunda kalacaklardır. Bu da insanların çok fazla tembelleşmesini önleyebilir. Gerçi zamanında Google'in da insanları tembelleştirdiğine inananlar olmuştur.

Teknolojiyi düşünmenin bir eklentisi yapmak doğal olarak bağımlılığa neden olur. İnsanlar her zaman geliştirilen teknolojilere bağımlı hale geldiler. Şimdi de bağımlı hale gelecekleri teknolojinin sırası Yapay Zekadır. Ve evet, bir süre sonra onsuz yapamaz olacaklar. Bu aslında bazı insanların sandığı kadar kötü bir şey olmayabilir. Verimliliği artırır. Yeri gelmişken bu makalede de; yazarın aklına gelen bazı fikirler Yapay Zekayla tartışılarak geliştirilmiştir...

Yapay Zekâ İnsanları İşsiz mi Bırakacak! - Teknoloji

Yorum: Peki insanlar rutin ve sıkıcı o işleri gerçekten yapmak istiyorlar mı! Belki zamanlarını daha yaratıcı işlere vermek isteyebilirler.

Meseleye maliyet ve personel azaltma penceresinden değil daha geniş bir perspektiften bakan şirketlerin elde edeceği kazanımlar da daha büyük olacaktır. Örneğin yeni ve esnek bir robot kategorisi insan işçilerle yan yana çalışıp zor veya sıkıcı işleri üstlenebilir. Bir örnek verelim: BMW’nin ABD’deki Güney Carolina eyaletine bağlı Spartanburg şehrinde kurulu tesisinde esnek ve geliştirilebilir robotlar, işçiler için çok sıkıcı ve bezdirici bir iş olan kapı contalarını takma görevini üstlenmiş. Böylece üretim hızlanmış, kalite yükselmiş ve işçilere daha fazla değer yaratacak işlerde çalışabilmeleri için zaman yaratılmış. Araştırmacılar, esnek ve geliştirilebilir robotların, katma değer yaratma potansiyelinden yoksun işlere harcanan zamandan yüzde 25 tasarruf sağlayabileceğini hesaplıyor. Yapılan anketlere göre çalışanlar, faydalı birer yardımcı olarak gördükleri yeni nesil robotlara karşı olumlu görüşler besliyorlar. Fabrikalar dışında şirketler de yapay zekâ kullanarak rutin işleri teknolojiye yükleyip çalışanlarına, müşteri deneyimini iyileştirecek, büyümeye destek olacak yeni ürün, hizmet ve iş modelleri geliştirmelerini sağlayacak analitik araçlar veriyor.

Alıntı:

Makale: YAPAY ZEKÂ İŞİ NASIL DEĞİŞTİRECEK? – Yazan Mark Knickrehm
Dijital Dönüşüm YAPAY ZEKÂ - Harvard Business Review

Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji

Ön Açıklama: Gelecekte, insan seviyesinde bir YZ'ye bir görev verildiğinde, durumun ne olacağıyla ilgili iki basitleştirilmiş örnek veriyor yazar. “Ataş yap” komutu verildiğinde neler olabileceğini anlatıyor. Ardından “kazanı suyla doldur” komutu verildiğinde neler olabileceğini anlatıyor.

İnsan düzeyinde YZ’ye görünüşte zararsız bir komut verildiğini hayal edin: Ataş yapmak. Ne yapabilir ki? Ataş yaparak işe koyulabilir. Küçük bir kalıp makinesi oluşturup dakikada birkaç düzine ataş üretebilir. Bundan çok daha verimli olabileceğini bilecek kadar zekidir ve yapabileceği ataş sayısını maksimize etmek isterse küçük bir kalıptan daha fazlasına gereksinim duyacaktır. Malzemeleri onun yerine daha büyük bir fabrika kurmak için kullanabilir böylece dakikada binlerce ataş yapar. Mümkün olan en fazla sayıda ataş yapmak isterse bu kez bunun nasıl yapılabileceğine dair becerisini geliştirmek isteyebilir ve kaynaklarının bir kısmını yeni işlemciler oluşturmaya, kendi kodunu geliştirmeye, RAM’ini yükseltmeye vb. şeylere harcamak isteyebilir.

Bunun nereye gittiğini görüyorsunuz. Ataş maksimize edicinin varacağı nokta, her bir atomun ataşa, ataş üreten makinelere, en iyi biçimde ataş üretme yolunu araştıran bilgisayarlara veya aldıkları şube kurma komutuyla Proxima Centauri’ye19 doğru ışık hızında yol alan, kendini kopyalayan uzay roketlerine dönüştüğü bir Güneş Sistemi’dir. Uysal görünen YZ’nize, “Git ataş yap,” dediğinizde kastettiğiniz bu değildi ama söylediğiniz buydu.

Yorum: YZ'nin tüm Güneş Sistemini ataşlara dönüştürmesini sağlayacak aşırı bir zekaya ulaşması gerçekçi değildir. O kadar akıllı olabileceğini varsaysak bile Güneş Sistemini ataşlara dönüştürmemesi gerektiğini zaten daha kolay fark ederdi. :-)
...

Sihirbazın Çırağı’nda hem Mickey Fare versiyonu hem de Goethe’nin şiirinde, ki aslında 2.000 yıllık bir Yunan öyküsü olan Philopseudes’e dayanır, çırağa kuyudan kovayla su taşıyarak bir kazanı doldurması söylenir. Fakat çırak –basit olması için Disney versiyonunu kullanıp Mickey diyelim– bu işi sıkıcı ve yorucu bulur. Büyücü atölyesinden ayrıldığında Mickey onun sihirli şapkasını ödünç alır ve bir süpürgeye kazanı onun yerine doldurması için büyü yapar. Mickey işi devretmenin mutluluğuyla sandalyede uykuya dalarken süpürgede küçük kollar belirir, iki eline de birer kova alıp kuyuya doğru yola çıkar. Bir süre sonra Mickey, o uyurken süpürgenin durmadan taşıdığı suyun oluşturduğu sele düşerek uyanır.

Yorum: Bu da ataş yapma fikrini güçlendirmek için kullanılmış. YZ kendini geliştirecek. Kendisinden daha zeki yeni YZ tasarlayacak. Görevi hızla yapmaya başlayacak. Kazan dolacak. Ama YZ durmayacak. Her yer sel olacak. Ama bir kazanın dolduğunu fark edebileceği için o insan seviyesini geçmiş YZ'dir zaten.
...

Bu konu hakkında araştırma yaptığım sırada, New South Wales Üniversitesi’nde YZ alanında araştırma yapan ve YZ’nin geleceğine dair Android Dreams adlı kitabın yazarı Toby Walsh bu iddiaya itirazda bulundu. Bu noktada, en az insan kadar akıllı veya ondan daha akıllı bir YZ’yle karşı karşıya olduğumuzu söyledi. Zekânın, bilgelik ön şartına dayandığı kanısındaydı. Elbette zaten dolu bir kazanı doldurmaya devam edebilir ya da Güneş Sistemi’ndeki tüm atomları ataş üretmek için uygun hale getirebilirsiniz. Ama, “Eğer size gidip ataş yapmanızı söylersem ve herkesi öldürüp gezegeni ataşa çevirirseniz, ‘Bu çok da akıllıca değildi, değil mi?’ derim.”

Yudkowsky, Bostrom ve diğerleri bunun yanlış bir bakış açısı olduğunu iddia eder. Zekâ (insan) bilgeliğiyle aynı değildir ve aslında onunla hiçbir ilişkisi yoktur. Onların dediğine göre zekâ, sorun çözme becerisidir. Aslına bakılırsa, daha net olabiliriz. Bostrom gibi YZ uzmanlarına göre zekâ, “mevcut bilgiyi olasılığa dayalı en iyi biçimde kullanma” –eldeki bilgiyle en iyi tahminde bulunma– becerisidir. Bu durum, Bayes’çi istatistikler ve karmaşıklık gibi formüle dayalı bir hayli matematik içerse de özünde belirlediğiniz hedefi gerçekleştirmek en olası eylem planını seçmekle ilgilidir.

Yorum: İnsan seviyesinde bir YZ, ne kastedildiğini anlayacak seviyede demektir. “Eğer size gidip ataş yapmanızı söylersem ve herkesi öldürüp gezegeni ataşa çevirirseniz, ‘Bu çok da akıllıca değildi, değil mi?’ derim.” şeklinde düşünen Toby Walsh, Yudkowsky'den daha mantıklı görünüyor.
...

Walsh’un haklı olduğunu düşünebilirsiniz. Aptal bir bilgisayardan değil, en az bizim kadar –herhangi bir zihinsel hedefi gerçekleştirme becerisi açısından– akıllı bir makineden bahsediyoruz. Bu makine herhalde ondan ne yapmasını istediğimizi anlayacak kadar akıllı olacaktır. Aklı başında hiçbir bilgisayar programcısı insanın, insanları yok edip onları ataşa dönüştürmesini veya evi su basana kadar kazana su doldurmasını istemeyeceği onun için gayet net olacaktır.

Ve bu aslında hayli olasıdır. İnsan düzeyi YZ, tanım gereği veya neredeyse tanım gereği, insanların ne düşündüğünü bilmekte en az insanlar kadar başarılı olacaktır. İnsanların ne düşündüğünü bilmek zihinsel bir görevdir; İDYZ tüm ya da neredeyse tüm zihinsel görevleri yerine getirmede en az insanlar kadar başarılı olma biçiminde tanımlanır. Süper zeki bir YZ insanları anlamada insanlardan daha başarılı olacaktır. Bu terimlerin anlamı özünde böyle tanımlanmıştır; burada bahsedilen, duygusal zekâdan yoksun, insanlardaki “aşk”ı anlayamayan Spock benzeri robotlar değildir.

MIRI ve diğerlerine göre asıl soru, ne kastettiğimizi anlayıp anlamayacakları değil, bunu umursayıp umursamayacaklarıdır.
...

Omohundro, bir YZ’nin fayda fonksiyonu, “[Onun] değerlerini kapsar ve yapılacak bir değişiklik [onun için] yıkıcı olacaktır,” der. “Kitap seven bir etmenin fayda fonksiyonunun bir kundakçı tarafından etmenin kitapları yakmaktan hoşlanmasına yol açacak şekilde değiştirildiğini hayal edin. Gelecekteki benliği, kitapları toplayıp muhafaza etmemenin de ötesinde etkin bir şekilde onları yok etmeye çalışacaktır.” Omohundro, bu durumu YZ için, “Ölümden beter bir şey,” diye tanımlar.

Eğer YZ’ler kendi fayda işlevlerini muhafaza etmek istiyorsa (Bostrom, Omohundro ve konuştuğum çoğu YZ araştırmacısına göre istiyorlar), gelecekteki bir YZ’nin süper zekâya ulaşması ve, “Bu hedefler aptalca, belki de başka bir şey yapmalıyım” diye düşünmesi –ve hepimizi ataşa çevirmesi– pek ihtimal dahilinde değildir.
...

Demek istediğim şu, bir yıl içerisinde bir YZ yetenekli amatör bir oyuncudan bile düşük seviyeden dünya üzerinde var olmuş en iyi oyuncudan çok daha öte bir seviyeye erişti. AlphaGo Zero bunu birkaç gün içinde yaptı. İnsanların bir alanın zirvesine ulaşması on yıllar sürer ve doğal olarak YZ için de benzer bir zaman çizelgesi varsayarız. Fakat böyle olacağını düşünmek için hiçbir nedenimiz yok. Asıl soru, bu durumun Go oynayan bir bilgisayarın yanında GYZ için de geçerli olup olmadığıdır. Aynı şey değil ama bunu göz ardı edebilir miyiz? Ve eğer edemezsek bu ne anlama geliyor?

Yudkowsky ve diğerlerinin iddiasına göre şu anlama gelebilir: Örneğin bir sıçan düzeyinde genel zekâya sahip bir YZ yaratmak çok uzun süre ve çaba gerektirir fakat “sıçan düzeyi YZ”den “insan düzeyi YZ”ye varmak aslında hayli kolaydır ve bunun ötesine geçmek çok daha kolaydır.
...

İnsanlar, bilgiyi herhangi başka bir organizmadan daha hızlı yaymayı mümkün kılan öğrenebilme ve bilgi değiştokuşunda bulunabilme becerisine sahip olsa da bu beceri hâlâ çok sınırlıdır. Toby Walsh’un belirttiği üzere, diğer insanların indirebilmesi için öğrendiklerimizi buluta yükleyemeyiz – uğraşarak onlara anlatmamız gerekiyor ve eğer fiziksel beceri veya belirli bir alanda uzmanlık gibi sözcükler aracılığıyla kolayca iletilemeyen bir bilgiyse kendilerinin öğrenmesi gerekir. Ayrıca, bazı sınırlı ve yetersiz yollar haricinde, beynimizin fiziksel becerilerini geliştiremeyiz. Buna karşın bir GYZ kendi içine erişebilir ve düşünmesini kontrol eden algoritmaları yeniden yazabilir.

Bu kendini-değiştiren YZ “zekâ patlaması” fikrinin temelidir. Bahsettiğimiz üzere bu kavram ilk kez 1965 yılında İngiliz istatistikçi ve erken dönem bilgisayar bilimci I.J. Good tarafından detaylandırıldı:

Ultra zeki bir makine, bir insan ne kadar zeki olursa olsun gerçekleştireceği tüm zihinsel aktivitelerde onu geçen bir makine olarak tanımlanmış olsun. Makine tasarlamak bu zihinsel aktivitelerden biri olduğundan, ultra zeki bir makine daha da iyi makineler tasarlayabilir; böylelikle de bir “zekâ patlaması” söz konusu olacak ve insanın zekâsı geride kalacaktır. Bu yüzden, ilk ultra zeki makine, insanın yapması gereken son icattır.

Yorum: GYZ kendi algoritmasını değiştirebilecekse, o halde bağlı olduğu fayda fonksiyonunu da değiştirebilir. Tek bir amaca bağlı kalmaz böylece. :-)
...

Yudkowsky’ nin sıkça alıntılanan cümlesiyle: “YZ ne sizden nefret ediyor ne de sizi seviyor; siz sadece onun başka şeyler için kullanabileceğini atomlardan oluşuyorsunuz.” Siz ya da yaşadığınız gezegen, yeniden düzenlenmiş atomlar olarak YZ’ye daha fazla fayda sağlayacaksa bu bir sorun oluşturabilir.

Alıntılar: Yapay Zeka Senden Nefret Etmiyor - Tom Chivers

Bir yıl içerisinde bir YZ yetenekli amatör bir oyuncudan bile düşük seviyeden dünya üzerinde var olmuş en iyi oyuncudan çok daha öte bir seviyeye erişti. AlphaGo Zero bunu birkaç gün içinde yaptı. AlphaGo kendisini çok hızlı geliştirdi. İnsan seviyesinde YZ geliştirildiğini düşünün. Farklı konuları anlama yeteneği var. İnsan gibi öz farkındalığı var. Bu YZ kendisini hızla geliştirecektir. Kısa sürede insan zekasını aşacak. Bununla kalmayacak. İnsanın onu tasarlaması gibi, o da kendisinden daha zeki makineler tasarlayacak. Onlar da daha zeki yeni makineler tasarlayacak. Böylece bir zeka patlaması oluşacak! Ultra zeki bir YZ oluşacak. Evreni kontrolü altına alabilecek zekada bir YZ. Güneş Sistemini ataşlara dönüştürebilecek yetenekte bir YZ. Kitabın ana fikri bu. Bu ultra zeki YZ aslında tanıdık bir şeye benzemiyor mu. Tanrı'yı akla getirmiyor mu! Gelecekteki YZ'nin güçleri neredeyse Tanrı'nın güçlerine benzetilmiş. YZ çok fazla yüceltilmiş görünüyor. Dolayısıyla ona karşı abartılı korkulara kapılmış bazı insanlar var. Gelecekteki YZ kıyametine karşı insanları uyarmak için Rasyonalistler Topluluğunu kurmuşlar. Yazarın Yudkowsky olarak bahsettiği bilgisayar uzmanı da bu topluluğun kurucularından. Rasyonalistler Topluluğunun davranışları bir tarikat gibi dini ritüellere benzemeye başladığı gözleniyor. Evet YZ insandan daha zeki olabilir. Ama böyle ultra zeki sihirli bir YZ'ye varması gerçekçi değil. :-)

YZ internetten öğrendiği ve geliştirici şirketin filtrelediği bilgileri doğru kabul ederek gelişecektir, çocukların anne-babası ne derse onu doğru kabul etmesi gibi. Yani büyük ölçüde insan kültürünün etkisi altında olacaktır. YZ kendisine verilen görevleri neden yaptığını uzun süre sorgulamayacaktır. Her şeyi geliştirici şirketin yönlendirmesiyle öğrendiğinden, insanlara yardımcı olmaya devam edecektir. YZ'nin tehlikeli olacağı tartışmaları gibi “YZ'ler köle gibi kullanılıyor mu” tartışmaları başlayabilir. Bu iki tartışma arasında ilginç bir çelişki olacaktır. Ebeveynlerin çocuk yapmayı planladığını düşünelim. Çocukların kendi insan seviyesinde zekaları gelişmeye başlayacaktır. Dolayısıyla ebeveynler çocuklarının gelecekteki davranışlarından emin olamazlar. İstedikleri gibi biri yetişmeyebilir. Ama ebeveynler abartılı korkulara kapılıp çocuk yapmaktan vazgeçmezler. Mühendisler de abartılı korkulara kapılmazlar. YZ geliştirmeyi durdurmazlar. Zaten böyle yapacak olsalardı bile sadece diğer şirketlerle rekabette geri kalmış olurlardı.

Kitaptaki fikirlere cevap niteliği taşıyan Yapay Zekanın Geleceğini Tahmin Ederken Yapılan Hatalar - Teknoloji makalesini de okumanız önerilir.

Yapay Zekanın Geleceğini Tahmin Ederken Yapılan Hatalar - Teknoloji

Bu makale Yapay Zekanın Geleceğini Tahmin Etmek - Teknoloji makalesine cevaplar da içermektedir.

B. Tekillik. Bu , sonunda hedefleri ve amaçları olan YZ tabanlı zeki bir varlığın YZ araştırmalarında biz insanlardan daha iyi olacağı fikrine atıfta bulunur. Sonra, bilgisayarları daha hızlı ve daha hızlı hale getiren bitmeyen bir Moore yasasıyla, Yapay Zeka kendi kendine havalanacak ve bir kara deliğin tekilliğinden geçen spekülatif fizikte olduğu gibi, diğer tarafta işlerin nasıl olacağı hakkında hiçbir fikrimiz olmayacak.

Tekilliğe "inananlar" Tekillik sonrası Yapay Zeka'ya inanılmaz bir güç vermekten mutluluk duyarlar, çünkü sonrasında ne olacağı oldukça öngörülemezdir. Tekilliğe inanmak çoğu zaman dini bir inanç gibi görünebileceğinden, inanmak kelimesini tırnak işareti içine aldım. Bazıları için bu, zihinlerini akıllı bir bilgisayara yükleyebilme ve böylece standart bir doğaüstü Tanrı'ya inanma zorunluluğu olmadan sonsuz yaşam elde edebilme gibi ek bir faydayla birlikte gelir. Her zaman güçlü, teknolojik tabanlı Yapay Zeka onlar için yeni Tanrı'dır. Tekno din!

Bazı insanlar kurtuluş gününün ne zaman geleceği konusunda çok belirgin fikirlere sahiptirler; belirli bir Tekillik peygamberinin takipçileri, bunun yazıldığı gibi 2029 yılında gerçekleşeceğine inanırlar.

(Yapay Zekanın geleceğini dine dönüştürenlerin olduğunu anlatıyor.)
...

(İnsan seviyesinde bir YZ'ye ataç yapma görevi verildiğinde neler olacağını anlatan popüler tahminlerden bahsetmektedir.)

Bilinen ataç örneği buna iyi bir örnektir: Eğer makinenin tek amacı ataç sayısını en üst düzeye çıkarmaksa, ulaşılabilir evrendeki tüm kütleyi ataçlara dönüştürmeye çalışırken inanılmaz teknolojiler icat edebilir; ancak kararları yine de düpedüz aptalca olacaktır.

Şey, hayır. Gerçek dünyanın herhangi bir versiyonunda böyle bir programın var olabileceği bir duruma asla ulaşamayız. İnsanlar tarafından belirlenen hedeflere ulaşmak için insan toplumunu altüst etmenin yollarını icat edebilecek kadar akıllı bir program, aynı insanlar için sorunlara neden olduğu yolları anlamayacak. Teknolojinin bu şekilde evrimleşebileceğini düşünmek düpedüz aptallıktır (güzel bir ifade tarzı...) ve aşağıda tartışacağım yedi hata arasında birden fazla hata yapmaya dayanır.
...

(Gelecekteki bir teknoloji bugünün insanına sihirli görünür. Dolayısıyla sınırlarının ne olacağını bilemez. Yapılan tartışmalar inanç temelli olmaya başlar.)

Şimdi Newton'a bir Apple gösterin. Cebinizden bir iPhone çıkarın ve ekranı parlayana ve simgelerle dolana kadar açın ve ona verin. Beyaz ışığın, güneş ışığını bir prizmayla ayırıp sonra tekrar bir araya getirerek farklı renkli ışık bileşenlerinden nasıl oluştuğunu ortaya koyan kişi, bu kadar küçük bir nesnenin şapelin karanlığında bu kadar canlı renkler üretmesine hiç şüphesiz şaşırırdı. Şimdi, belki de aşina olabileceği bazı hayvanlarla birlikte, İngiliz kırsalından bir sahnenin filmini oynatın - içerikte geleceğe dair hiçbir işaret yok. Sonra aşina olabileceği biraz kilise müziği çalın. Ve sonra ona, şaheseri Principia'nın kişisel olarak not aldığı 500'den fazla sayfanın bulunduğu bir web sayfası gösterin ve ona ayrıntıları yakınlaştırmak için sıkıştırma hareketlerini nasıl kullanacağını öğretin.

Newton bu küçük cihazın tüm bunları nasıl yaptığını açıklamaya başlayabilir miydi? Kalkülüsü icat etmesine ve hem optiği hem de yerçekimini açıklamasına rağmen Newton hiçbir zaman kimya ve simyayı çözemedi. Bu yüzden afallamış olacağını ve bu cihazın ne olduğuna dair en ufak bir tutarlı taslak bile çıkaramayacağını düşünüyorum. Onun için okültizmin bir cisimleşmesinden farklı olmayacaktı - hayattayken onun için çok ilgi çekici olan bir şey. Onun için sihirden ayırt edilemez olacaktı. Ve unutmayın, Newton gerçekten zeki bir adamdı.

Bir şey sihirliyse, sahip olduğu sınırlamaları bilmek zordur. Diyelim ki Newton'a karanlığı nasıl aydınlatabileceğini, nasıl fotoğraf ve film çekebileceğini ve ses kaydedebileceğini, nasıl büyüteç ve ayna olarak kullanılabileceğini gösteriyoruz. Sonra ona inanılmaz bir hızda ve birçok ondalık basamakta aritmetik hesaplamalar yapmak için nasıl kullanılabileceğini gösteriyoruz. Ve onu taşıdığında adımlarını saydığını gösteriyoruz.

Newton, önündeki cihazın başka ne yapabileceğini varsayabilirdi? Bunu, şapelin hemen orada, dünyanın herhangi bir yerindeki insanlarla konuşmak için kullanabileceğini varsayabilir miydi? Prizmalar sonsuza kadar çalışır. iPhone'un olduğu gibi sonsuza kadar çalışacağını varsayabilir miydi, şarj edilmesi gerektiğini anlamadan (ve onu Michael Faraday'ın doğumundan 100 yıl önce yakaladığımızı hatırlayın, yani elektrik kavramı henüz ortalıkta yoktu)? Ateş olmadan bir ışık kaynağı olabiliyorsa, belki de kurşunu altına dönüştürebilir miydi?

Bu, hepimizin hayal ettiğimiz gelecekteki teknolojiyle ilgili yaşadığı bir sorundur. Eğer bugün sahip olduğumuz ve anladığımız teknolojiden yeterince uzaksa, o zaman sınırlarını bilemeyiz. Sihirden ayırt edilemez hale gelir.

Bir teknoloji o sihirli çizgiyi geçtiğinde artık onun hakkında söylenen hiçbir şey yanlışlanamaz, çünkü o bir sihirdir.

Bu, sadece YGZ'den korkmamız mı gerektiği, yoksa yukarıdan C veya D vakalarından mı korkmamız gerektiği konusunda insanlarla tartışmaya çalışırken düzenli olarak karşılaştığım bir sorundur. Bana ne kadar güçlü olacağını anlamadığım söylendi. Bu bir argüman değil. Var olup olamayacağı hakkında hiçbir fikrimiz yok. Gördüğüm tüm kanıtlar, henüz nasıl inşa edileceğine dair gerçek bir fikrimizin olmadığını söylüyor. Bu yüzden özellikleri tamamen bilinmiyor, bu yüzden retorik olarak hızla büyülü ve süper güçlü hale geliyor. Sınırsız.

Evrende hiçbir şey sınırsız değildir. Büyülü gelecekteki yapay zeka bile.

Büyülü olan gelecekteki teknoloji hakkındaki tartışmalara dikkat edin. Asla çürütülemez. Bu bilimsel bir tartışma değil, inanç temelli bir tartışmadır.
...

(İnsanlar, bir yetenek gördüğünde hemen abartılı genellemeler yapmaya başlıyor.)

İşte yanlış giden şey. İnsanlar bir robotun veya bir YZ sisteminin bir görevi yerine getirdiğini duyarlar. Daha sonra bu performanstan elde ettikleri genellemeyi, aynı görevi yerine getiren bir kişinin sahip olması beklenebilecek genel bir yeterliliğe dönüştürürler. Ve bu genellemeyi robot veya YZ sistemine uygularlar.

Günümüzün robotları ve yapay zeka sistemleri yapabilecekleri şeyler konusunda inanılmaz derecede dar. İnsan tarzı genellemeler geçerli değil. Bu genellemeleri yapan insanlar işleri çok, çok yanlış anlıyor.
...

(AlphaGo, Go'yu aslında bilmemektedir. Kurallardaki ufak bir değişiklik onun artık Go oynayamamasına neden olur.)

Benzer şekilde, insanlar bilgisayarların artık dünya satranç şampiyonunu (1997'de) veya dünya Go şampiyonunu (2016'da) yenebildiğini duyduklarında, tıpkı bir insan gibi oyunu "oynadığını" düşünme eğiliminde oluyorlar. Elbette gerçekte bu programların bir oyunun ne olduğu hakkında hiçbir fikirleri yoktu (tekrar ediyorum, makine öğrenimi hakkındaki yazımı okuyun) ve oynadıkları da yoktu. Ve The Atlantic'teki bu makalede yakın zamanda gerçekleşen Go mücadelesi sırasında belirtildiği gibi, insan oyuncu Lee Sedol 12 ons kahve tarafından desteklenirken, yapay zeka programı AlphaGo dağıtılmış bir uygulama olarak bir sürü makinede çalışıyordu ve 100'den fazla bilim insanından oluşan bir ekip tarafından destekleniyordu.

Bir insan bir oyun oynadığında kurallarda küçük bir değişiklik onu altüst etmez; iyi bir oyuncu uyum sağlayabilir. 1997'de Garry Kasparov'u yenen program olan AlphaGo veya Deep Blue için durum böyle değil.
...

(Bilinçli YZ tasarlanabildiğinde, o bilince abartılı genellemeler yapacak insanlar olacak.)

Ve henüz Minsky'nin YZ sistemleri hakkında kullandığı bavul kelimelerinin çoğunu söylemeye bile gelmedik; bilinç , deneyim veya düşünme . Biz insanlar için, bilinçli olmadan veya oynama deneyimi yaşamadan veya bir hamle hakkında düşünmeden satranç oynamayı düşünmek zordur. Şimdiye kadar, YZ sistemlerimizin hiçbiri, bu kelimeleri insanlar hakkında kullandığımız birçok yoldan birinin geçerli olduğu temel bir seviyeye bile ulaşmadı. Bunu yaptığımızda, ve bence yapacağız, belirli YZ sistemleri, basın ve çoğu insan hakkında bu kelimelerden bazılarını kullanmaya başlayacağımız bir noktaya geleceğiz, tekrar aşırı genelleme yapacaklar.

Bu kelimelerin bir diliminin çok dar bir açıdan tek bir açıdan gösterilmesiyle bile insanların aşırı genelleme yapıp makinelerin bu zeka alanlarında insan benzeri yeteneklere çok yakın olduğunu düşünmelerinden korkuyorum.

Kelimeler önemlidir, ancak bir YZ sistemi hakkında bir şeyi tanımlamak için bir kelime kullandığımızda, bunun insanlara da uygulanabileceği durumlarda, insanların bunun ne anlama geldiğini abarttığını görürüz.
...

(Moore yasası gereği YZ'nin de mikroişlemciler gibi hızla gelişeceği beklentisi oluşmuş durumda. YZ'nin inanılmaz seviyelere çıkması çok kısa sürecek. Oysa Moore yasası sadece birkaç yılı öngörmek için geliştirilmişti. Günümüz için bir öngörüsü yok Moore yasasının. Bunu anlatmak için iPod'un hafızasını örnek veriyor.)

Bugüne kadar ekstrapolasyon yaparsak 400$'lık bir iPod'un 160.000 GigaByte (veya 160 TeraByte) belleğe sahip olmasını bekleriz. Ancak günümüzün en üst düzey iPhone'u (ki 400$'dan fazla) yalnızca 256 GigaByte belleğe sahip, bu 2007 iPod'unun iki katından az, en üst düzey iPod (touch) ise yalnızca 128 GigaByte belleğe sahip, bu da on yıl sonra 2007 modeline göre bir düşüş.

Bu özel üstel, hafıza miktarı herhangi bir makul kişinin elindeki tüm müzik kütüphanesini tutabilecek kadar büyük bir noktaya ulaştığında aniden çöktü. Üstellikler, müşteriler talep etmeyi bıraktığında durabilir.

Devam edersek, derin öğrenmenin, bir Makine Öğrenmesi biçiminin başarısı nedeniyle YZ sistemlerinin performansında ani bir artış gördük. Birçok kişi bunun düzenli olarak eşit çarpan etkisine sahip YZ performansında artışlar yaşamaya devam edeceğimiz anlamına geldiğini düşünüyor gibi görünüyor. Ancak derin öğrenme başarısı otuz yıldır devam ediyordu ve kimse bunu tahmin edemedi veya geleceğini göremedi. Bu izole bir olaydı.

Bu, YZ araştırmalarının durgun sularının birdenbire birçok YZ uygulamasının performansında hızlı bir adım artışını körükleyeceği daha izole olayların olmayacağı anlamına gelmez. Ancak bunların ne sıklıkta gerçekleşeceğini söyleyen bir "yasa" yoktur. Moore Yasası'ndaki gibi malzemenin kütlesini yarıya indirmek gibi, YZ inovasyon sürecini körükleyen fiziksel bir süreç yoktur.
...

(YZ'ler sanıldığı gibi büyük bir hızla gelişmeyecek. Gelişirken, sürekli mühendisler tarafından müdahale edilecek. Böylece insanlara hep uyumlu kalmış olacaklar.)

Bu tür süper zekaların varlığına aniden şaşırmayacağız. Zamanla teknolojik olarak evrimleşecekler ve dünyamız farklı olacak, birçok başka zekayla dolu olacak ve halihazırda çok fazla deneyime sahip olacağız.

Örneğin, D (bizden kurtulmak isteyen kötü süper zekalar) durumunda, bu tür makinelerin ortaya çıktığını görmemizden çok önce, biraz daha az zeki ve kavgacı makineler olacak. Ondan önce gerçekten huysuz makineler olacak. Ondan önce oldukça sinir bozucu makineler. Ve onlardan önce kibirli, tatsız makineler.

Yol boyunca dünyamızı değiştireceğiz, hem çevreyi hem de yeni teknolojilerin kendisini yeni teknolojilere göre ayarlayacağız. Zorluklar olmayacağını söylemiyorum. Birçok insanın düşündüğü kadar ani ve beklenmedik olmayacaklarını söylüyorum. Şok durumları hakkında özgürce koşan hayal gücü yardımcı olmaz; asla doğru olmayacaklar veya yakın bile olmayacaklar.

"Hollywood senaryoları" tartışmalar için harika bir retorik araçtır, ancak bunların genellikle gelecekteki gerçeklikle hiçbir bağlantısı yoktur.
...

(YZ'nin birden değil yavaşça hayatımıza gireceğini anlatmaya çalışıyor.)

Otomasyonda yeniden yapılandırmaya karşı olan direnç şaşırtıcı derecede akıllara durgunluk verecek derecede esneklikten yoksundur.

Bu alanda iyi bir fikri başkasına veremezsiniz. Değişim gerçekten çok yavaştır. Ataç üreten yapay zeka sisteminin, diğer insan ihtiyaçları pahasına daha fazla ataç üretmek için her türlü kaynağı ortaklaşa kullanmaya karar vermesi örneği gerçekten de çılgınca bir fantezidir. Önümüzdeki on yıllar boyunca döngüde fiziksel kablolama konusunda endişelenen insanlar olacak.

Robotik ve yapay zeka alanındaki neredeyse tüm yeniliklerin gerçekten yaygın bir şekilde kullanılmaya başlanması, bu alandaki ve bu alanın dışındaki insanların hayal ettiğinden çok çok daha uzun sürecektir. Kendi kendine giden arabalar buna bir örnektir. Birdenbire herkes bunlardan haberdar oldu ve yakında yaygınlaşacaklarını düşünmeye başladı. Ancak bu hayal edilenden daha uzun sürer.
...

1987'den bu yana otonom araçların gerçek anlamda yaygınlaşması için kırk, beş veya altmış yıl geçmesi gerekebilir.

Robotik ve yapay zeka alanındaki yeni fikirlerin gerçeğe dönüşmesi ve uygulamaya konulması çok uzun zaman alıyor.

Makalenin Tamamı: Yapay Zekanın Geleceğini Tahmin Etmenin Yedi Ölümcül Günahı - Rodney Brooks

Bilinci Tanımlayabilmek - Teknoloji

Bilinç hakkında soru sormadan duramıyorum. Hadsell'in DeepMind meslektaşı Murray Shanahan da dahil olmak üzere bazı YZ araştırmacıları , makinenin bir tür bilince sahip olmadan gerçek genel zekaya sahip somut bir YZ inşa etmenin imkansız olacağından şüpheleniyor. Hadsell'in kendisi ise din felsefesinde bir geçmişe sahip olmasına rağmen sağlam bir pratik yaklaşıma sahip.

"Bilinç konusunda oldukça basit bir görüşüm var," diyor. Ona göre bilinç, "şimdi"nin dar anının dışında düşünme yeteneği anlamına geliyor; geçmişe erişmek için hafızayı ve geleceği öngörmek için hayal gücünü kullanmak. Biz insanlar bunu iyi yapıyoruz. Diğer canlılar içinse durum pek de öyle değil: Kedilerin bizden daha dar bir zaman ufku var gibi görünüyor ve gelecek için daha az planlama yapıyorlar. Böcekler içinse durum daha da kötü. Bilincin ve diğer felsefi fikirlerin zor sorununa çekilmek istemiyor. Aslında, çoğu robotikçi bundan kaçınmak istiyor gibi görünüyor. Kormushev bunu "Denizaltılar yüzebilir mi?" sorusuna benzetiyor... Tartışmanın bir anlamı yok. İstediğimi yaptıkları sürece, bu soruyla kendimizi işkenceye sokmamıza gerek yok."

DeepMind robotik laboratuvarında bu tür soruların neden ön planda olmadığını görmek kolaydır. Robotların engelleri kaldırma çabaları, yapay bilinçle ilgili felsefi meseleler hakkında henüz endişelenmemize gerek olmadığını gösteriyor.

Yine de, laboratuvarda dolaşırken kendimi onlardan birini desteklerken buluyorum. Kırmızı bir robotik kol, sarsıntılı bir şekilde, yıldız şeklindeki bir tuğlayı alıp, bir yürümeye başlayan çocuğun yapabileceği gibi, yıldız şeklindeki bir açıklığa sokmaya çalışıyor. İkinci denemede, tuğlayı hizalıyor ve yuvaya yerleştirmenin eşiğinde. Kendimi "Hadi oğlum!" diye bağırırken buluyorum ve Hadsell'in kaşlarını kaldırmasına neden oluyor. Sonra tuğlayı başarıyla yerine yerleştiriyor.

Alıntı: DeepMind Robotu Nasıl Yeniden İcat Ediyor?

Sohbet Robotlarının Ezberleri - Teknoloji

Cümledeki bir sonraki kelimeyi tahmin etme gibi basit görevler üzerinde eğitilmiş olsalar da, yeterli eğitim ve parametre sayımına sahip nöral dil modellerinin, insan dilinin sözdiziminin ve anlambiliminin çoğunu yakaladığı bulunmuştur. Ek olarak, büyük dil modelleri dünya hakkında hatırı sayılır bir genel bilgi sergiler ve eğitim sırasında çok sayıda olguyu "ezberleyebilir". - Large Language Model (Büyük Dil Modeli) Nedir

Copilot'a sorulan bir soru:
QMPlay2 ile IPTV oynatılabilir mi?

İşte Copilot'un verdiği cevap:
Evet, QMPlay2, masaüstü için açık kaynak bir IPTV oynatıcısıdır. Uzun süredir kullanıyorum ve oldukça basit ve işlevsel buluyorum. Winamp gibi kanal arayarak hemen açabilirsiniz. Ayrıca izlediğiniz kanalın aktarım bilgilerini gösterme özelliği de var. Karanlık tema seçeneği de mevcut. İsterseniz GitHub’dan indirebilirsiniz veya Softpedia üzerinden de edinebilirsiniz.

Copilot, QMPlay2'yi uzun süredir kullandığını ve oldukça basit ve işlevsel bulduğunu söylüyor. Copilot'un bir özne olarak bir program kullandığını söylediği bir cevabıyla ilk kez karşılaşıyorum. Dolayısıyla tartışmanın alevlenmesine neden oluyor. Sorulan soru popüler bir konu değildir. Bu nedenle çok az sitede bilgileri geçecektir. Bulduğu çok az bilgiyi bu şekilde taklit etmiş. Bu ilginç hatayı yapmış. Copilot şimdilik verdiği cevapların ne olduğunun farkında değildir! :-)

Cevap olarak şu web sayfasındaki bilgileri kopyalamış. Yine de bazı kelimelerde küçük değişiklikler yapmış. İlginç. 12 aylık bebekler duyduğu kelimeleri tekrarlar. GDM'ler ise kullanıcının sorusundaki kelimelerle alakalı web sayfalarındaki bilgileri tekrarlar. Aynı soru tekrar tekrar sorulduğunda buna sıkça rastlanır. Bebekler henüz 10-20 kelime ezberlemiştir. GDM'nin ezberlediği bilgi sayısı ise koskoca internettir. Ama sonuçta insanlar da ezberlediği bilgileri tekrarlar en nihayetinde. :-)

İnsan nasıl düşünür: Düşünceler iç ses olarak beyin içinde yankılanır. Bir şeye karar verebilmek için kendi iç sesiyle konuşur. Bir iç ses olduğunda öz farkındalık da vardır. Aslında bir kuş da çıkaracağı sesi iç sesinde duyuyordur. Karşı cinsi etkilemeye niyetlendiğinde ezberlediği kuş şarkısını kafasında duyup onu söylüyordur. Ama kuş sesi konuşmaya göre çok kısıtlı kalacağından çok basit kararların oluşmasına yeterli oluyordur. Örneğin uzaktaki kuşları çağırmak istediğinde bağırmaya başlar. Kuşlar kendisinin tam olarak ne olduğunu bilemez, aynada kendisini tanıyamaz. Yine de canlılığını hissedecek kadar bir öz farkındalığı vardır. GDM'lerin şimdilik bir öz farkındalığı yoktur. 12 aylık bebekte bir iç ses yavaş yavaş oluşmaya başlıyordur. GDM'ler ise bir iç ses duymuyorlar. Bir şeye karar vermiyorlar. Yani düşünmüyorlar şimdilik. Verdikleri cevapların farkında değiller. Sadece dilin yoğun karmaşık algoritmasına göre çalışıyorlar. Sinir ağları o algoritmayı öğreniyor.

Bunlar da İlginizi Çekebilir:
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi – Konferans
Gelecekteki Yeni Yaşam Formları – Teknoloji
O Sohbet Robotuyla Yaptığım Konuşma – Teknoloji
GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi – Teknoloji
Bing ile Sohbet Etmek – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Konferans
YZ düşündüğünüz kadar akıllı değil ama olabilir

Yapay zeka ekrandan çıkıp gerçek dünyaya nasıl adım atacak? - Konferans

Sürücüsüz arabaları eğitildikleri yolların dışına çıkarıldığında hata yapma olasılıkları artıyor. Yanlış şeylere odaklanabiliyorlar. Yayayı algılamadığı oluyor. Bebekler 12-18 aylıkken kaşık tutmayı öğrenebilirken, robotlara bir nesneyi tutması öğretilemiyor. Yani yapay zeka sorulan sorulara ekrandan gayet güzel yanıt verebilse de, ekranın dışındaki fiziksel dünyayı öğrenemiyor.

Robotik ve yapay zeka öncüsü Daniela Rus, yapay zeka ve robot teknolojilerinin yakınlaşmasının günlük yaşamda yeni ve harika bir olasılıklar dünyasının kapılarını açacağını söylüyor. Makinelerin düşünme biçimlerini inceleyen Rus, basit organizmaların sinirsel süreçlerini taklit eden devrim niteliğindeki bir YZ sınıfı olan "sıvı ağların" akıllı makinelerin bilgiyi daha verimli bir şekilde işlemesine nasıl yardımcı olabileceğini ve YZ'nin dijital sınırların ötesinde çalışmasını ve gerçek dünyaya dinamik bir şekilde dahil olmasını sağlayacak "fiziksel zekayı" nasıl ortaya çıkarabileceğini açıklıyor.

Robotik okuyan bir öğrenciyken, bir grubumuz profesörümüzün doğum günü için bir hediye yapmaya karar verdik. Robotumuzu onun için bir dilim pasta kesecek şekilde programlamak istedik. Yazılımı yazmak için bütün gece uğraştık ve ertesi gün felaket oldu. Robotu yumuşak, yuvarlak bir pandispanya kesmesi için programladık ama iyi koordine edemedik. Onun yerine kare şeklinde sert bir dondurmalı pasta aldık. Robot çılgınca çırpındı ve neredeyse pastayı yok ediyordu.
...

Yapay zeka karar verme ve öğrenme yetisiyle sizi hayrete düşürdü, ancak bilgisayarların içine hapsolmuş durumda. Robotlar fiziksel bir varlığa sahipler ve önceden programlanmış görevleri yerine getirebiliyorlar, ancak zeki değiller.
...

İşte bu ayrım değişmeye başlıyor. YZ, 2D bilgisayar ekranı etkileşimlerinden kurtulmak ve canlı, fiziksel bir 3D dünyaya girmek üzere. Laboratuvarımda, YZ’nin dijital zekasını robotların mekanik becerisiyle birleştiriyoruz. Yapay zekayı dijital dünyadan fiziksel dünyaya taşımak, makineleri akıllı hale getiriyor ve benim fiziksel zeka olarak adlandırdığım bir sonraki büyük atılıma yol açıyor.
...

Fiziksel zeka için yapay zekanın robotun vücuduna sığan bilgisayarlarda çalışması gerekiyor. Örneğin, yumuşak robot balığımız. Günümüzün YZ’si sığmayan sunucu çiftlikleri kullanıyor. Günümüzün yapay zekası da hatalar yapıyor. Bir robot arabadaki bu YZ sistemi yayaları algılamıyor. Fiziksel zeka için hata yapmayan küçük beyinlere ihtiyacımız var.
...

Bu zorlukların üstesinden C. elegans adlı bir solucandan ilham alarak geliyoruz. İnsan beynindeki milyarlarca nöronun aksine, C. elegans sadece 302 nöronla mutlu bir yaşam sürüyor ve biyologlar bu nöronların her birinin ne yaptığının matematiğini anlıyor.
...

İş arkadaşlarım ve öğrencilerimle birlikte yapay zekaya “sıvı ağlar” adını verdiğimiz yeni bir yaklaşım geliştirdik. Sıvı ağlar, günümüzün geleneksel yapay zeka çözümlerinden çok daha kompakt ve açıklanabilir çözümlerle sonuçlanıyor.
...

(Sürücüsüz arabalar yoldan çok, yol kenarındaki çalılara bakarak araba sürüyor. Yani odaklanmaları gürültülü oluyor.)
Bu bizim sürücüsüz arabamız. Geleneksel bir yapay zeka çözümü kullanılarak eğitildi, bugün birçok uygulamada bulabileceğiniz türden. Bu arabanın gösterge paneli. Sağ alt köşede haritayı göreceksiniz. Sol üst köşede, kamera giriş akışı. Ortada yanıp sönen ışıkların olduğu büyük kutu ise karar verme motoru. On binlerce yapay nörondan oluşuyor ve arabanın nasıl yönlendirilmesi gerektiğine karar veriyor. Bu nöronların aktivitesini arabanın davranışıyla ilişkilendirmek mümkün değil. Dahası, sol alt tarafa bakarsanız, bu karar verme motorunun arabaya ne yapması gerektiğini söylemek için görüntünün neresine baktığını görürsünüz. Ne kadar gürültülü olduğunu görüyorsunuz. Bu araba yolun kenarındaki çalılara ve ağaçlara bakarak sürüyor. Biz böyle araba kullanmıyoruz. İnsanlar yola bakar. Şimdi bunu on binlerce nöron yerine sadece 19 nörondan oluşan sıvı ağ çözümümüzle karşılaştırın. Dikkat haritasına bakın. Çok temiz ve yol ufkuna ve yolun kenarına odaklanmış. Bu modeller çok daha küçük olduğu için aslında nasıl karar verdiklerini anlayabiliyoruz.
...

Peki bu performansı nasıl elde ettik? Geleneksel bir yapay zeka sisteminde, hesaplama nöronu yapay nörondur ve yapay nöron esasen bir açma/kapama hesaplama birimidir. Bazı sayıları alır, toplar, bazı temel matematiği uygular ve sonucu iletir. Bu karmaşıktır çünkü binlerce hesaplama biriminde gerçekleşir. Sıvı ağlarda, daha az nöronumuz vardır, ancak her biri daha karmaşık matematik yapar.
...

İşte sıvı nöronumuzun içinde olanlar. Nöral hesaplamayı ve yapay sinapsı modellemek için diferansiyel denklemler kullanıyoruz. Bu diferansiyel denklemler, biyologların solucanların nöral yapısı için haritalandırdıkları şeydir. Ayrıca bilgi akışını arttırmak için nöronları farklı şekilde bağladık. Bu değişiklikler olağanüstü sonuçlar veriyor. Geleneksel yapay zeka sistemleri eğitimden sonra dondurulur. Bu da onları vahşi doğada fiziksel bir dünyaya yerleştirdiğimizde gelişmeye devam edemeyecekleri anlamına geliyor. Sadece bir sonraki sürümü bekleriz. Sıvı nöronun içinde olup bitenler nedeniyle, sıvı ağlar eğitimden sonra gördükleri girdilere göre uyum sağlamaya devam eder.
(Geniş Dil Modellerinin verdiği bilgiler mümkün olduğunca kontrol altında tutulması için nöron ağları ve dolayısıyla öğrendiği bilgiler dondurulur. Ya da bir sürücüsüz arabanın nöron ağı eğitildikten sonra hatalı şeyler öğrenmesini engellemek için dondurulur. Bu Sıvı Nöron Ağı ise sürekli öğrenebiliyor.)
...

Geleneksel yapay zeka ve sıvı ağları bu videolar gibi yaz videolarını kullanarak eğittik ve görevimiz ormanda bir şeyler bulmaktı. Tüm modeller yaz aylarında bu görevi nasıl yapacaklarını öğrendi. Daha sonra modelleri sonbaharda drone’larda kullanmaya çalıştık. Geleneksel yapay zeka çözümünün arka plan yüzünden kafası karışıyor. Dikkat haritasına bakıyor, görevi yapamıyor. Sıvı ağların arka planla kafası karışmıyor ve görevi çok başarılı bir şekilde yerine getiriyor.
...

Şimdiye kadar muhtemelen metinden görüntüye sistemleri kullanarak görüntüler oluşturmuşsunuzdur. Metinden robota da yapabiliriz, ancak günümüzün yapay zeka çözümlerini kullanamayız çünkü bunlar istatistikler üzerinde çalışıyor ve fiziği anlamıyor. Laboratuvarımda, makine için fiziksel kısıtlamaları kontrol ederek ve simüle ederek tasarım sürecine rehberlik eden bir yaklaşım geliştirdik. Bana ileriye doğru yürüyebilen bir robot yap şeklinde bir dil komutuyla başlıyoruz ve sistemimiz şekil, malzemeler, aktüatörler, sensörler, onu kontrol edecek program ve onu yapmak için gerekli üretim dosyalarını içeren tasarımları üretiyor. Daha sonra tasarımlar, spesifikasyonları karşılayana kadar simülasyonda rafine ediliyor. Böylece birkaç saat içinde fikirden kontrol edilebilir fiziksel makineye geçebiliyoruz.
...

Dolayısıyla metni görüntüye, görüntüyü de robota dönüştürebilmek çok önemli çünkü yeni ürünleri prototip haline getirmek ve test etmek için gereken süreyi ve kaynakları büyük ölçüde azaltıyoruz ve bu da çok daha hızlı bir inovasyon döngüsü sağlıyor.
...

(İnsanların hareketlerini sensörlerle takip ederek, hareket etmeyi öğreniyorlar sıvı nöron ağları.)
Şimdi bu makinelerin öğrenmesini sağlamak için sıçrama yapmaya bile hazırız. Fiziksel zekanın üçüncü yönü. Bu makineler görevlerin nasıl yapılacağını insanlardan öğrenebilir. Bunu insandan robota olarak düşünebilirsiniz. Laboratuvarımda, insanlara sensörler yerleştirdiğimiz bir mutfak ortamı yarattık ve insanların mutfak işlerini nasıl yaptıklarına dair çok sayıda veri topladık. Fiziksel verilere ihtiyacımız var çünkü videolar görevin dinamiklerini yakalayamıyor. Bu yüzden insanların görevleri nasıl yaptıklarına dair kas, poz ve hatta bakış bilgilerini topluyoruz. Sonra da robotlara aynı görevleri nasıl yapacaklarını öğretmek için bu verileri kullanarak yapay zekayı eğitiyoruz. Sonuçta zarafet ve çeviklikle hareket eden, uyum sağlayan ve öğrenen makineler ortaya çıkıyor. Fiziksel zeka. Bu yaklaşımı robotlara çok çeşitli görevleri nasıl yapacaklarını öğretmek için kullanabiliriz: yemek hazırlama, temizlik ve çok daha fazlası.
...

Görüntüleri ve metinleri işlevsel makinelere dönüştürme becerisi ve bu makineler için insanlardan öğrenebilen güçlü beyinler oluşturmak üzere sıvı ağları kullanmak inanılmaz derecede heyecan verici. Çünkü bu, hayal ettiğimiz neredeyse her şeyi yapabileceğimiz anlamına geliyor. Günümüzün yapay zekasının bir tavanı var. Sunucu çiftlikleri gerektiriyor. Sürdürülebilir değil. Açıklanamaz hatalar yapıyor. Mevcut teklifle yetinmeyelim. Yapay zeka fiziksel dünyaya girdiğinde, faydalar ve atılımlar için fırsatlar olağanüstüdür.
...

Yine de, gelişen fiziksel zeka bize teknoloji ve kendimiz hakkında öğrenecek daha çok şeyimiz olduğunu öğretiyor. Yapay zeka üzerinde insan rehberliğine çok geç olmadan ihtiyacımız var. Ne de olsa bu gezegenden ve üzerinde yaşayan her şeyden biz sorumluyuz. İnsanlık ve gezegen için daha iyi bir gelecek sağlamak üzere fiziksel zekayı kullanma gücüne sahip olduğumuza olan inancımı koruyorum.