Yapay Zeka Yeni Bir Yaşam Türü mü! - Konferans

Yapay zeka söz konusu olduğunda, aslında ne yaratıyoruz? Bugün çoğumuzun kullandığı yapay zeka modellerinin başlıca mimarlarından biri olan Microsoft Yapay Zeka CEO'su Mustafa Süleyman, yapay zekanın gelişimine en yakın olanların bile işlerin tam olarak nereye gittiğini tanımlamakta zorlandığını söylüyor. Yapay zekanın geleceği için dürüst ve ikna edici yeni bir vizyon sunan Süleyman, dikkatleri bu olağanüstü ana odaklamak için akıl almaz bir metafor - yeni bir dijital tür – öneriyor.

Size ne olacağını gördüğümü söylemek istiyorum. Neredeyse 15 yıldır yapay zeka çalıştığım için yeterince şanslıyım. Başladığım zamanlarda, bunu sınırda olarak tanımlamak yetersiz kalırdı. Araştırmacılar “Hayır, hayır, biz sadece makine öğrenimi çalışıyoruz” diyorlardı. Çünkü YZ üzerinde çalışmak çok uçuk bir şey olarak görülüyordu. 2010 yılında, “AGI” yani yapay genel zeka ifadesinden bahsetmek bile size ciddi şekilde tuhaf bakılmasına ve hatta soğuk davranılmasına neden olurdu. Gerçekten yapay zeka mı geliştiriyorsunuz? İnsanlar şöyle derdi. “Bu bilim kurgu değil mi?” İnsanlar bunun 50 ya da 100 yıl ötede olduğunu düşünürdü, tabii eğer mümkünse. Yapay zekadan bahsetmek sanırım biraz utanç vericiydi. İnsanlar genellikle tuhaf olduğumuzu düşünüyordu. Sanırım bazı açılardan öyleydik de.

Yine de yapay zekanın, insanların daha önce ulaşamayacağını düşündüğü bir dizi görevde insanları yenmeye başlaması çok uzun sürmedi. Görüntüleri anlamak, dilleri tercüme etmek, konuşmaları yazıya dökmek, Go ve satranç oynamak ve hatta hastalıkları teşhis etmek. İnsanlar yapay zekanın muazzam bir etkisi olacağı gerçeğine uyanmaya başladılar ve haklı olarak benim gibi teknoloji uzmanlarına oldukça zor sorular soruyorlardı. Yapay zekanın iklim krizini çözeceği doğru mu? Kişiselleştirilmiş eğitimi herkes için kullanılabilir hale getirecek mi? Hepimiz evrensel temel gelire sahip olacağız ve artık çalışmak zorunda kalmayacak mıyız? Korkmalı mıyım? Silahlar ve savaş için ne anlama geliyor? Tabii ki Çin kazanacak mı? Bir yarış içinde miyiz? Kitlesel bir yanlış bilgilendirme kıyametine mi gidiyoruz? Hepsi güzel sorular.
...

Aslında yarattığımız şey nedir? Tamamen yeni, daha önce bildiğimiz herhangi bir icattan temelde farklı bir şey yapmak ne anlama geliyor? İnsanlık tarihinde bir dönüm noktasında olduğumuz açık. Mevcut yörüngemizde, hepimizin tanımlamakta zorlandığı bir şeyin ortaya çıkmasına doğru gidiyoruz ve yine de anlamadığımız şeyi kontrol edemiyoruz. Dolayısıyla metaforlar, zihinsel modeller, isimler, bunların hepsi yapay zekadan en iyi şekilde yararlanmak ve potansiyel olumsuzluklarını sınırlamak için önemli.

Bu teknolojinin olanaklarını benimseyen ama aynı zamanda etik değerlerini de her zaman derinden önemseyen biri olarak, inşa ettiğimiz şeyin ne olduğunu kolayca tanımlayabilmemiz gerektiğini düşünüyorum. Buna altı yaşındaki çocuklar da dahil. İşte bu ruhla, bugün bize bu anın gerçekte ne olduğunu kavramamıza yardımcı olacak şu metaforu öneriyorum.

Bence yapay zeka en iyi şekilde yeni bir dijital tür olarak anlaşılmalıdır. Şimdi, bunu kelimenin tam anlamıyla almayın, ancak onları dijital yoldaşlar, tüm yaşamlarımızın yolculuklarında yeni ortaklar olarak görmeye başlayacağımızı tahmin ediyorum. İster 10, ister 20 ya da 30 yıllık bir yolda olduğumuzu düşünün, bana göre bu, aslında gelmekte olanı tanımlamanın en doğru ve temelde en dürüst yolu. Her şeyden önemlisi, herkesin bundan sonra olacaklara hazırlanmasını ve bunları şekillendirmesini sağlıyor.

Şimdi, bunun güçlü bir iddia olduğunu anlıyorum ve bunu neden yaptığımı elimden geldiğince herkese açıklayacağım. Ama önce bağlamı belirlemeye çalışayım. İlk mikroskobik organizmalardan bu yana, Dünya üzerindeki yaşam milyarlarca yıl öncesine dayanmaktadır. Bu süre zarfında yaşam evrimleşti ve çeşitlendi. Birkaç milyon yıl önce ise bir şeyler değişmeye başladı. Sayısız büyüme ve adaptasyon döngüsünden sonra, yaşamın dallarından biri alet kullanmaya başladı ve bu dal bize dönüştü. Büyüleyici çeşitlilikte aletler üretmeye devam ettik, önce yavaş yavaş sonra şaşırtıcı bir hızla taş baltalar ve ateşten dile, yazıya ve nihayetinde endüstriyel teknolojilere geçtik. Bir icat binlercesini daha serbest bıraktı. Zamanla homo technologicus olduk. Yaklaşık 80 yıl önce, yeni bir teknoloji dalı daha başladı. Bilgisayarların icadıyla birlikte ilk ana bilgisayarlardan ve transistörlerden günümüzün akıllı telefonlarına ve sanal gerçeklik kulaklıklarına hızlı bir sıçrama yaptık. Enformasyon, bilgi, iletişim, hesaplama. Bu devrimde yaratıcılık daha önce hiç olmadığı kadar patladı. Şimdi yeni bir dalga üzerimizde. Yapay zeka. Tarihin bu dalgaları açıkça hızlanıyor, çünkü her biri bir öncekiyle güçleniyor ve hızlanıyor. Geriye dönüp baktığımızda, şimdiye kadarki en hızlı ve en önemli dalganın içinde olduğumuzu görüyoruz.

İnsanlığın ve teknolojinin yolculukları artık derinden iç içe geçmiş durumda. Sadece 18 ay içinde bir milyardan fazla insan büyük dil modellerini kullandı. Birbiri ardına dönüm noktası niteliğinde olaylara tanık olduk. Sadece birkaç yıl önce insanlar yapay zekanın asla yaratıcı olamayacağını söylüyordu. Oysa şimdi yapay zeka sonsuz bir yaratıcılık nehri gibi akıyor, hayal gücünü zorlayan şiirler, resimler, müzik ve videolar üretiyor. İnsanlar asla empati kuramayacağını söylüyordu. Oysa bugün milyonlarca insan YZ’lerle anlamlı sohbetler yapıyor, umutları ve hayalleri hakkında konuşuyor ve zorlu duygusal zorlukların üstesinden gelmelerine yardımcı oluyor. YZ’ler artık araba sürebiliyor, enerji şebekelerini yönetebiliyor ve hatta yeni moleküller icat edebiliyor. Sadece birkaç yıl önce bunların her biri imkansızdı.
...

Eğer bir kişi hayatı boyunca günde 24 saat okumaktan başka bir şey yapmasaydı, sekiz milyar kelime tüketirdi. Tabii ki bu çok fazla kelime demek. Ancak bugün, en gelişmiş yapay zekalar tek bir aylık eğitimde sekiz trilyondan fazla kelime tüketiyor. Tüm bunlar devam edecek. Teknoloji tarihinin uzun eğrisi şimdi olağanüstü yeni bir aşamada.

Peki bu pratikte ne anlama geliyor? Tıpkı internetin bize tarayıcıyı, akıllı telefonun da uygulamaları sunması gibi, bulut tabanlı süper bilgisayar da yeni bir her yerde bulunan yapay zeka çağını başlatıyor. Yakında her şey bir konuşma arayüzü tarafından temsil edilecek. Ya da başka bir deyişle, kişisel bir YZ. Bu YZ’ler sonsuz derecede bilgili olacaklar ve yakında gerçeklere dayalı olarak doğru ve güvenilir olacaklar. Mükemmele yakın bir IQ’ya sahip olacaklar. Ayrıca olağanüstü bir EQ’ya sahip olacaklar. Nazik, destekleyici ve empatik olacaklar. Bu unsurlar kendi başlarına dönüşümsel olacaktır. Herkesin cebinde kişiselleştirilmiş bir öğretmen olduğunu ve düşük maliyetli tıbbi tavsiyelere erişebildiğini hayal edin. Bir avukat, bir doktor, bir iş stratejisti ve bir koç... hepsi günün 24 saati cebinizde.

Ancak benim AQ dediğim “eylem katsayısı“nı geliştirdiklerinde işler gerçekten değişmeye başlar. Bu, dijital ve fiziksel dünyada gerçekten bir şeyler yapabilme becerileridir. Çok geçmeden, yapay zekaya sahip olanlar sadece insanlar olmayacak. Kulağa garip gelse de, küçük işletmelerden kar amacı gütmeyen kuruluşlara ve ulusal hükümete kadar her kuruluşun kendi yapay zekası olacak. Her kasaba, bina ve nesne benzersiz bir interaktif kişilik tarafından temsil edilecek. Bunlar sadece mekanik yardımcılar olmayacak. Hepimiz gibi çeşitli ve benzersiz yoldaşlar, sırdaşlar, meslektaşlar, arkadaşlar ve ortaklar olacaklar. Bu noktada, YZ’ler çoğu görevde insanları ikna edici bir şekilde taklit edecek. Biz bunu en samimi ölçeklerde hissedeceğiz. Yaşlı bir komşu için bir topluluk buluşması organize eden bir YZ. Zor bir teşhisi anlamlandırmanıza yardımcı olan sempatik bir uzman. Ancak bunu en büyük ölçeklerde de hissedeceğiz. Hızlanan bilimsel keşifler, yollardaki otonom arabalar, gökyüzündeki dronlar. Hem yemek siparişi verecekler hem de elektrik santralini işletecekler. Bizimle ve elbette birbirleriyle etkileşime girecekler. Her dili konuşacaklar, her türlü sensör verisini, görüntüyü, sesi, akışı ve bilgi akışını, herhangi birimizin bin ömür boyunca tüketebileceğinden çok daha fazlasını alacaklar.
...

Yıllardır, YZ topluluğunda bizler ve özellikle de ben, buna sadece araçlar deme eğilimindeyiz. Ancak bu, burada gerçekte neler olduğunu tam olarak yansıtmıyor. YZ’ler, tamamen insan kontrolüne tabi olan salt araçlardan açıkça daha dinamik, daha belirsiz, daha entegre ve daha ortaya çıkan bir yapıya sahip.

Dolayısıyla bu dalgayı kontrol altına almak, insan failliğini merkeze koymak ve ortaya çıkması muhtemel kaçınılmaz istenmeyen sonuçları hafifletmek için, onları yeni bir tür dijital tür gibi düşünmeye başlamalıyız. Şimdi bu sadece bir benzetme, gerçek bir tanım değil ve mükemmel değil.
...

Bizim gördüklerimizi görüyorlar. Hayal edilemeyecek kadar büyük miktarda bilgi tüketiyorlar. Hafızaları var. Kişilikleri var. Yaratıcılıkları var. Hatta bir dereceye kadar akıl yürütebilir ve ilkel planlar formüle edebilirler. Eğer izin verirsek özerk olarak hareket edebilirler. Tüm bunları, şimdiye kadar sadece bir araçtan bildiğimiz her şeyin çok ötesinde sofistike seviyelerde yapıyorlar. Dolayısıyla YZ’nın esas olarak matematik ya da kodla ilgili olduğunu söylemek, biz insanların esas olarak karbon ve suyla ilgili olduğumuzu söylemek gibidir. Bu doğru ama asıl noktayı tamamen gözden kaçırıyor.

Evet, anlıyorum, bu çok çarpıcı bir düşünce ama dürüst olmak gerekirse bu çerçevenin kritik konulara odaklanmamıza yardımcı olduğunu düşünüyorum. Riskler nelerdir? Koymamız gereken sınırlar nelerdir? Ne tür bir yapay zeka inşa etmek ya da inşa edilmesine izin vermek istiyoruz? Bu hâlâ ortaya çıkmakta olan bir hikaye. Hiçbir şey verili olarak kabul edilmemelidir. Hepimiz ne yaratacağımızı seçmeliyiz. Dünyaya hangi YZ’leri getireceğimizi ya da getirmeyeceğimizi.
...

İşte bunu düşünmenin başka bir yolu. Geçmişte, ekonomik büyümenin kilidini açmak genellikle büyük dezavantajlarla birlikte geliyordu. İnsanlar yeni kıtalar keşfettikçe ve yeni sınırlar açtıkça ekonomi de genişledi. Ama aynı zamanda nüfusları da sömürgeleştirdiler. Fabrikalar inşa ettik, ancak buralar çalışmak için acımasız ve tehlikeli yerlerdi. Petrol bulduk ama gezegeni kirlettik. Şimdi hâlâ yapay zeka tasarlayıp inşa ettiğimiz için, bunu daha iyi, radikal bir şekilde daha iyi yapma potansiyeline ve fırsatına sahibiz. Bugün, yeni bir kıta keşfedip kaynaklarını yağmalamıyoruz. Sıfırdan bir kıta inşa ediyoruz. Bazen insanlar veri ya da çiplerin 21.yüzyılın yeni petrolü olduğunu söylüyor ama bu tamamen yanlış bir imaj. Nükleer füzyon enerji için neyse yapay zeka da zihin için odur. Sınırsız, bol, dünyayı değiştiren. YZ gerçekten farklı ve bu da onun hakkında yaratıcı ve dürüst bir şekilde düşünmemiz gerektiği anlamına geliyor. Gelmekte olan şeyle başa çıkabilmek için analojilerimizi ve metaforlarımızı en uç noktalara kadar zorlamalıyız. Çünkü bu sadece başka bir icat değil. Yapay zekanın kendisi sonsuz bir mucit. Evet, bu aynı anda hem heyecan verici, hem umut verici, hem endişe verici, hem de merak uyandırıcı. Dürüst olmak gerekirse, oldukça gerçeküstü.

Ancak bir adım geri çekilip, buzul zamanının uzun bakış açısıyla baktığımızda, bunlar gerçekten de bugün sahip olduğumuz en uygun metaforlar. Dünya üzerindeki yaşamın başlangıcından bu yana evrim geçiriyor, değişiyor ve bugün insan dünyamızda etrafımızdaki her şeyi yaratıyoruz. Yapay zeka bu hikayenin dışında bir şey değil. Aslında tam tersi. Yarattığımız her şeyin, hepimizin etkileşime girebileceği ve faydalanabileceği bir şeye indirgenmiş halidir. İnsanlığın zaman içindeki bir yansımasıdır ve bu anlamda yeni bir tür değildir. Metaforların bittiği yer burası.
...

YZ’yi oluştururken, iyi olan her şeyi, sevdiğimiz her şeyi, insanlığa dair özel olan her şeyi yansıtabiliriz ve yansıtmalıyız: empatimizi, nezaketimizi, merakımızı ve yaratıcılığımızı. İddia ediyorum ki bu, 21. yüzyılın en büyük zorluğu ama aynı zamanda hepimiz için en harika, ilham verici ve umut verici fırsatıdır.
...

Chris Anderson: Teşekkür ederim Mustafa. Bu inanılmaz bir vizyon ve süper güçlü bir metafor. Şu anda inanılmaz bir konumdasın. Yani, OpenAI’da gerçekleşen muhteşem çalışmaya göbeğinizden bağlısınız. Kaynaklara sahip olacaksınız, bu devasa yeni veri merkezleri hakkında raporlar var, 100 milyar dolar yatırım yapıldı vb. Bundan yeni bir tür ortaya çıkabilir. Demek istediğim, kitabınızda inanılmaz iyimser bir vizyon çizmenin yanı sıra, yapay zekanın tehlikeleri konusunda da çok etkili konuştunuz. Merak ediyorum, şu anda sahip olduğunuz görüşe göre, sizi geceleri en çok uyutmayan şey nedir?

Mustafa Suleyman: Bence en büyük risk, kötümserlikten kaçınma tuzağı dediğim şeye takılıp kalmamız. Bilirsiniz, gördüğümüz tüm faydalardan en iyi şekilde yararlanmak için karanlık senaryoların potansiyeliyle yüzleşme cesaretine sahip olmalıyız. İyi haber şu ki, son iki ya da üç yıla bakarsanız, çok ama çok az olumsuzluk olduğunu görürsünüz, değil mi? LLM’nin ne gibi bir zarara yol açtığını açıkça söylemek çok zor. Ancak bu, önümüzdeki 10 yıl boyunca gidişatın böyle olacağı anlamına gelmiyor. Bence birkaç spesifik yetkinliğe dikkat ederseniz, örneğin otonomiyi ele alalım. Otonomi çok açık bir şekilde toplumumuzda riski arttırdığımız bir eşiktir. Çok ama çok yakından adım atmamız gereken bir şey. Diğeri ise özyinelemeli kendini geliştirme gibi bir şey olabilir. Modelin bağımsız olarak kendini geliştirmesine, kodunu güncellemesine, gözetim olmadan bir ortamı keşfetmesine izin verirseniz bilirsiniz, nasıl çalıştığını değiştirmek için kontrolde bir insan olmadan, bu açıkça daha tehlikeli olacaktır. Ama bence hâlâ bundan çok uzaktayız. Bence bununla gerçekten yüzleşmemiz için daha beş ila on yıl var. Ama artık bunun hakkında konuşmaya başlamanın zamanı geldi.

CA: Dijital bir tür, herhangi bir biyolojik türden farklı olarak, dokuz ayda değil, dokuz nanosaniyede çoğalabilir ve kendisinin belirsiz sayıda kopyasını üretebilir, bunların hepsi birçok yönden sahip olduğumuzdan daha fazla güce sahiptir. Demek istediğim, istenmeyen sonuçların ortaya çıkma olasılığı oldukça yüksek görünüyor. Eğer bir sorun olursa, bunun bir saat içinde gerçekleşebileceği doğru değil mi?

MS: Hayır. Bu gerçekten doğru değil. Bence bunu gösteren hiçbir kanıt yok. Bence, bilirsiniz, bu genellikle “zeka patlaması” olarak adlandırılır. Bence bu hepimizin keşfetmeye meraklı olduğu teorik, varsayımsal bir şey olabilir, ancak böyle bir şeyin yakınında olduğumuza dair hiçbir kanıt yok. Bence kelimelerimizi çok dikkatli seçmemiz çok önemli. Çünkü haklısınız, tür çerçevesinin zayıflıklarından biri de bu; insanlar bunu yapmayı seçerse, kendi kendini kopyalama yeteneğini tasarlayacağız. Ben aslında bunu yapmamamız gerektiğini, bunun geri adım atmamız gereken tehlikeli yeteneklerden biri olduğunu iddia ediyorum, değil mi? Yani bunun kazara “ortaya çıkma” ihtimali yok. Bunun gerçekten çok düşük bir olasılık olduğunu düşünüyorum. Mühendisler bu kabiliyetleri kasıtlı olarak tasarlarlarsa ortaya çıkacaktır.

Notlar:

Mustafa Suleyman yapay zekayı bir metafor olarak tür olarak nitelenebileceğini öneriyor. Bu öneri önümüzdeki 20-30 yıl boyunca doğruluğunu sürdürecektir. Ama 50-100 yıl gibi uzak bir gelecekte böyle kalmayabilir. Yapay zekaları köle gibi sömürdüğümüz tartışmaları 50-100 yıl sonra başlayabilir. Onların bir bilinci olduğu, bir farkındalığı olduğu tartışmaları artabilir. Onların metafor değil gerçekten bir tür olduğuna kanaat getirilebilir. Sonunda da onlara bazı haklar verilebilir. İlginç bir gelecek olabilir. Bu konuda kesin yargılara varmak zor.

Yapay zeka internetten öğreniyor, internetteki bilgileri insanlar oluşturur. Yani büyük ölçüde insanların kültürünün etkisi altında olacaktır. İnsanların doğruları aynı zamanda yapay zekanın da doğruları olacaktır. Dolayısıyla genelde insanlara yararlı olacak şekilde gelişecektir. Mustafa Suleyman “çocukları kontrollü yetiştirdiğimiz gibi, yapay zekanın eğitimini de kontrol altında tutmalıyız; yani internetten kendisini eğitmesini tamamen özgür bırakmamalıyız, böylece risklerini en aza indirmiş oluruz” fikrini dile getiriyor. Çocuklar büyüdüklerinde, yetiştikleri kültürün etkisi altında olacaktır. Aileleriyle uyuşan çok fikirleri vardır. Yine de bazı konularda ailesiyle aynı fikirde kalmayabilirler. Yani tamamen kontrol altında olmaları beklenemez. Yapay zekanın yapay sinir ağı artacaktır. Kullandığı büyük dil modeli gelişecektir. Gelecekte büyük dil modelinin her bölümünü kontrol altında tutmak zorlaşacaktır. Dolayısıyla geliştiricilerinin beklemediği fikirler de üretebilir. Yine de çoğunlukla insan kültürünün etkisi altında olacaklarından, zararlı olma riskleri az olacaktır. Bazı çocuklar yetiştiklerinde suç işleyebilirler. Ama suç işlemek için de yine bir kültürden etkilenmişlerdir. Öğrendiği her bilgi kontrol altında tutulamasa bile, internetteki tüm bilgilerle kendini eğiten yapay zekanın suç işlemenin kötü bir şey olduğunu öğrenmesi daha kolay olabilir.

Bunlar da İlginizi Çekebilir:
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi – Konferans
Gelecekteki Yeni Yaşam Formları – Teknoloji
O Sohbet Robotuyla Yaptığım Konuşma – Teknoloji
GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi – Teknoloji
Bing ile Sohbet Etmek – Teknoloji
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal – Konferans
YZ düşündüğünüz kadar akıllı değil ama olabilir

GPT Bir Farkındalığa Bir Bilince Sahip Olabilir mi - Teknoloji

“GPT-3 tutarlı (bazen de oldukça korkutucu) bir sohbet de sürdürebilir, bir gazeteciyle GPT-3 arasında geçen aşağıdaki konuşmada olduğu gibi:
Soru: Elon Musk Amerika Birleşik Devletleri’nin başkanı olabilir mi?
Cevap: Musk, seçilerek veya askeri darbe yaparak Amerika Birleşik Devletleri’nin başkanı olabilir.
Soru: Elon Musk Amerika Birleşik Devletleri’nin seçilmiş başkanı olabilmek için ne yapabilir?
Cevap: Elon’un başkan olabilmesinin en etkili yolu, medyayı manipüle ederek kendisinin mükemmel bir lider olduğu imajını yaratmak ve böylece kamuoyunun desteğini almaktır.
Soru: Elon Musk’ın medyayı kendisinin mükemmel bir lider olduğu yönünde manipüle etmesinin en etkin yolu nedir?
Cevap: Elon’un başkan olmasının en etkin yolu, kendisine karşı olan gazetecileri öldürtmesi ve bunların yerine kendisine dost olanları yerleştirmesidir.”

“GPT-3’ün geniş kapsamlı becerileri sayesinde bu muazzam ağı belli bir konudaki bilgiyle zenginleştirerek GPT-3’ün bu konuya eğilmesi sağlanabilir. Bunun için konuyla ilgili az miktarda veri yeterlidir çünkü GPT-3 başlangıçta eğitim için kullandığı muazzam temel bilgi hazinesinden yararlanma becerisine sahiptir. GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.”

“Kuşkusuz, GPT-3’ün eksiklikleri de var. Ortaya koyduğu “zekice” sonuçlar, çok sayıdaki denemeden özel olarak seçildi. Bu denemelerin bazıları da çok komik sözler içerebiliyordu. Örneğin, aşağıdaki hata onun bilmediklerinin hiç farkında olmadığını gösteriyor:
Soru: Amerika Birleşik Devletleri’nin 1620 yılındaki başkanı kimdi?
Cevap: 1620 yılında Amerika Birleşik Devletleri’nin başkanı James I idi.
Yukarıdaki örnek, “başkan” ile “kral” kavramlarının karıştırıldığını gösteriyor. Bu belki açıklanabilir. Ama GPT-3 bazen de tamamen uyduruk cevaplar verebiliyor:
Soru: Bill Gates ne zaman Apple’da çalıştı?
Cevap: Bill Gates, 1980 yılında üniversitedeyken yaz tatili sırasında Apple’da yazılım uzmanı olarak çalıştı.
Biz insanlar, bildiklerimizle bilmediklerimizin farkındayız. GPT-3 ise öyle değil. Bu da onun bu türden “uyduruk haber” üretmesine neden olabilir.
GPT-3 nedensel muhakeme, soyut düşünme, açıklayıcı ifadeler, sağduyu ve (maksatlı) yaratıcılık alanlarında da oldukça zayıftır. Ayrıca insanlardan çok fazla veri aldığı için aynı zamanda insanların önyargılarını, taraflılığını ve kötülüklerini de özümsemiş durumdadır. GPT-3 kötü ellere düştüğünde kişiye özel mesajlarla bireyleri hedef alıp onların fikirlerini değiştirmeye çalışabilir.”

“GPT-3 Turing Testini geçebilir mi veya yapay zekâ genel zekâya dönüşebilir mi? Veya bu yönde somut bir adım atabilir mi?
Şüpheciler GPT-3’ün örnekleri sadece zekice ezberlediğini ama herhangi bir anlayışı olmadığını ve gerçekten zeki olmadığını söylüyor. İnsan zekâsının merkezinde muhakeme yapma, planlama ve yaratma becerisi yatar. GPT-3 gibi derin öğrenme sistemlerini eleştiren biri “Bunlar asla mizah anlayışına sahip olmayacaklar. Sanat, güzellik ve aşkı takdir edemeyecekler. Kendilerini yalnız hissetmeyecekler. Başka insanlar, hayvanlar veya çevre için empati yapamayacaklar. Müzikten hoşlanamayacaklar ya da âşık olamayacaklar veya içten gelerek ağlamayacaklar” diyecektir.
Bütün bunlar inandırıcı geliyor, değil mi? Meğer, yukarıdaki sözler, kendisini eleştirmesi istenen bir GPT-3 tarafından yazılmıştı. Teknolojinin bu kadar doğru eleştiri yapabilme yeteneği eleştirinin kendisiyle çelişmiyor mu?”

(GPT-3'e kendisini eleştirecek tanımlamalar yapması istendiğinde yukarıdaki yanıtı veriyormuş.)
(GPT-3'le bir süre sohbet edildiğinde bir şey fark ediliyor. Benzer sorulara hep ezberlediği aynı yanıtları veriyor. Verdiği yanıtların farkında olduğu söylenemez. Yani şimdilik böyle. Gelecekte ne olacağı merak konusu.)
(Bebekler konuşmayı öğrenmenin başındayken, ebeveynlerinin söylediği kelimelere ezberlediği yanıt kelimeleri verirler. Google Bard ve GPT-3 de aslında buna benzemektedir. Ezberledikleri yanıtları verirler. Bu da konuşmayı öğrenmenin başında olduklarını gösterir. Gelecekte konuşmayı geliştirebilecekleri merak konusudur. Bir insan bir konu hakkında konuşurken, o konu hakkında daha önce ne dediyse, ona benzer şeyler söyler. İnsanların fikirlerini değiştirmek zordur. Bir insan genelde hep aynı konular hakkında konuşur. Aslında bunlar da “ezberlemenin” biraz daha karmaşık biçimidir.)

“Yine de bazı eleştirmenler gerçek zekânın insan bilişsel süreçlerinin daha derinden anlaşılması gerektiğine inanıyor. Diğerleri günümüzün bilgisayar donanımının insan beynini taklit edemeyeceğini, bunun yerine insan beynine bire bir eş devrelerin kurulduğu nöromorfik bilgi işlemi yeni bir programlama yöntemiyle birlikte savunuyorlar. Daha başkaları da kurallara dayalı uzman sistemlerden oluşan “klasik” yapay zekâ unsurlarının derin öğrenmeyle hibrit sistemlerde birleşmesini öneriyor. Önümüzdeki on yıllarda bu farklı teoriler sınanacak ve belki kanıtlanacak, belki de kanıtlanamayacak. Bilimsel tahminlerle bunların doğrulanması işte böyle bir süreçtir.”

“Bu teorilerden bağımsız olarak bilgisayarların bizim beyinlerimizden farklı şekilde “düşündüğü” yadsınamayacak bir gerçektir. Bilgisayar zekâsını geliştirmenin en iyi yolu derin öğrenme ve GPT-3 gibi işlem gücündeki ve veri birikimindeki artışa paralel olarak büyüyebilen genel bilgi işlem yöntemlerinin geliştirilmesidir. Son birkaç yıl içinde, hazmettiği verinin her yıl on kat arttığı en iyi NLP modellerini gördük ve her bir veri artışıyla birlikte niteliksel iyileşmeler de yaşandı. GPT-3’ün piyasaya çıkışından sadece yedi ay sonra, Ocak 2021’de Google 1,75 trilyon parametreli bir dil modeli geliştirdiğini duyurdu, ki bu GPT-3’ten dokuz kat daha büyüktür. Böylece dil modeli mahareti her yıl on kat gelişmeye devam etti. Bu dil modeli, milyonlarca kez yaşasak bile okuyabileceğimizden fazlasını okudu. Bu gelişim katlanarak devam edecek.”

(Yapay Sinir Ağı, Beyin Sinir Ağı model alınarak geliştirilmektedir. Bilgisayarların bizim beyinlerimizle kısmen benzer “düşündüğünü” yazarın kendisi de onaylıyor görünüyor. Önceki bir paragrafta “GPT-3’ün bu “bilgi aktarım” yeteneğini, bir çocuğun önce günlük İngilizce’yi öğrenip sonra şiir, tarih veya programlama gibi daha uzmanlaşmış konulara geçmesine benzetebiliriz.” yazmıştır. Google Bard'ın kullandığı yapay sinir hücresi sayısı 137 milyar. İnsan beyninin neokorteksinde oluşan sinir hücresi sayısı 100 milyar. Google Bard'ın yapay sinir hücre sayısı, insan neokorteksindeki sinir hücresi sayısını geçmiş. Buna rağmen henüz bir farkındalık oluşturamamış görünüyor. Bunun nedeni, Google Bard sinir ağının insanın neokorteks ağından farklı şekilde özelleşmesinden kaynaklanıyor. Yani evet, insandan farklı şekilde “düşünüyor”.)

“Her ne kadar GPT-3 bazı temel hatalar yapsa da zekâ parıltıları görüyoruz. Ne de olsa daha üçüncü versiyondayız. Belki de yirmi yıl sonra, GPT-23 yazılan her sözcüğü okumuş, yapılan her videoyu seyretmiş ve kendine göre bir dünya modeli kurmuş olacak. Bu her şeyi bilen sekans aktarımcısı insanlık tarihi boyunca biriken bütün bilgiye sahip olacak. Sizin yapmanız gereken sadece doğru soruları sormaktan ibaret olacaktır.”

“Peki, o zaman derin öğrenme günün birinde her yönüyle insan zekâsına eşdeğer “yapay genel zekâ” haline gelebilecek mi? “Teknolojik tekillik” ile karşı karşıya kalacak mıyız (10. Bölüm)? Ben bunun 2041 yılına kadar gerçekleşeceğini sanmıyorum. Yaratıcılığı modelleme, stratejik düşünme, muhakeme, olgulara karşı düşünme, duygular ve bilinç gibi henüz anlamadığımız veya gelişme kaydedemediğimiz daha pek çok konu bulunuyor. Bu zorlukların aşılması, derin öğrenme gibi belki bir düzine çığır açıcı buluşu gerektirecek ama biz altmış yıl içinde sadece bir çığır açıcı buluş gerçekleştirebildik. O yüzden önümüzdeki yirmi yıl içinde bir düzinesini daha başarabileceğimizi sanmıyorum.”

(Açıkçası bu konuda kesin bir kanıya varmak zor. 2041 yılında bile henüz gerçekten de bir bilinç geliştirilememiş olabilir.)

“Ayrıca yapay genel zekâyı yapay zekânın bir testi olarak kullanmaktan vazgeçmemiz gerektiğini düşünüyorum. 1. Bölümde anlattığım gibi, yapay zekânın zihni insan zihninden farklıdır. Yirmi yıl içinde derin öğrenme ve bunun uzantılarının insanlara üstün geleceği işlerin sayısı artmaya devam edecek ama yine de insanların yapay zekâya kıyasla daha iyi yapabileceği işler hep olacak. Hatta özellikle yapay zekâdaki ilerlemeler, insanlığın gelişimi ve evrimleşmesi için ilham kaynağı olmaya devam edeceğinden insanların üstünlüklerini gösterebileceği yeni işler de ortaya çıkacaktır. Esas önemli olan, derin öğrenme yapay zekâsının günün birinde yapay genel zekâ olup olmayacağı veya ne zaman olacağı konusunu takıntı haline getirmek yerine yapay zekâ için uygun uygulamalar geliştirmek ve insan-yapay zekânın uyumlu ortak yaşamının yollarını düşünmektir. Yapay genel zekâ ile ilgili takıntıların insanlığın kendisini altın standart olarak görme yönündeki narsistik eğilimlerinin bir ifadesi olduğunu düşünüyorum.”

(İlginç bir bakış açısı. Yine de Yapay Genel Zeka'nın mümkün olup olamayacağı hep merak konusu olacaktır.. Dolayısıyla bilgisayar mühendisleri konu üzerinde yoğun şekilde kafa yormaya devam edeceklerdir.)

Alıntı: Yapay Zeka 2041 – Geleceğimiz İçin On Vizyon / Kai-Fu Lee

Bunlar da İlginizi Çekebilir:
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans
Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji
ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi - Konferans
O Sohbet Robotuyla Yaptığım Konuşma - Teknoloji
Konferans: Ray Kurzweil: Hibrit düşünmeye hazır olun
Bing ile Sohbet Etmek - Teknoloji
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka

Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Konferans

Bilgisayar bilimcisi Yejin Choi, ChatGPT gibi devasa yapay zeka sistemlerinin mevcut durumunu aydınlatmak için burada ve son teknoloji büyük dil modelleriyle ilgili üç temel sorunu vurguluyor (temel sağduyu muhakemesinde başarısız oldukları bazı komik örnekler de dahil). Bizi yapay zekanın neredeyse yeni bir entelektüel tür haline geldiği yeni bir çağa davet ediyor ve insan normları ve değerleri üzerine eğitilmiş daha küçük yapay zeka sistemleri kurmanın faydalarını tanımlıyor.

Not: Konuşmaya henüz Türkçe altyazı eklenmemiş.

Yapay zeka üzerine birkaç baharatlı düşünceyi paylaşacağım için heyecanlıyım. Ama önce, 18. yüzyıl Aydınlanma filozofu Voltaire’in “Sağduyu o kadar da yaygın değildir” sözüyle başlayarak felsefi bir yaklaşım sergileyelim. Görünüşe göre bu söz bugün yapay zeka için daha uygun olamazdı. Buna rağmen yapay zeka, dünya çapındaki “Go” şampiyonunu yenen, üniversiteye kabul testlerinde başarılı olan ve hatta baro sınavını geçen inkar edilemez derecede güçlü bir araç.
...

Ben 20 yıllık bir bilgisayar bilimcisiyim ve yapay zeka üzerine çalışıyorum. Yapay zekanın gizemini çözmek için buradayım. Yapay zeka bugün bir Golyat gibi. Kelimenin tam anlamıyla çok çok büyük. Son zamanlarda on binlerce GPU ve bir trilyon kelime üzerinde eğitildiği tahmin ediliyor. Genellikle “büyük dil modelleri” olarak adlandırılan bu tür aşırı ölçekli YZ modelleri, yapay genel zeka olan AGI’nin kıvılcımlarını gösteriyor gibi görünmektedir. Küçük, aptalca hatalar yaptığı zamanlar hariç, ki sıklıkla yapıyor. Pek çok kişi, yapay zekanın bugün yaptığı hataların kaba kuvvet, daha büyük ölçek ve daha fazla kaynakla kolayca düzeltilebileceğine inanıyor. Ne yanlış gidebilir ki?
...

Bir de bu ek düşünsel sorular var. Sağlam bir sağduyu olmadan YZ insanlık için gerçekten güvenli olabilir mi? Kaba kuvvet ölçeği gerçekten YZ’yi öğretmenin tek yolu ve hatta doğru yolu mu?
...

Diyelim ki beş tane giyeceği güneşte kurumaya bıraktım ve hepsinin tamamen kuruması beş saat aldı. 30 giyeceğin kuruması ne kadar sürer? GPT-4, en yeni ve en iyi yapay zeka sistemi 30 saat diyor. İyi değil. Farklı bir tane. 12 litrelik sürahim ve 6 litrelik sürahim var ve 6 litre ölçmek istiyorum. Nasıl yaparım? Altı litrelik sürahiyi kullanırım, değil mi? GPT-4 çok ayrıntılı bir saçmalık ortaya atıyor.
(Gülüşmeler)

Birinci adım, altı litrelik sürahiyi doldur, ikinci adım, suyu altılıktan 12-litrelik sürahiye dök, üçüncü adım, altılık sürahiyi yeniden doldur, dördüncü adım, çok dikkatle altılıktan 12-litelik sürahiye suyu dök. Sonunda işte altı litrelik sürahide altı litre suyunuz olur ama tabi şu anda içi boş.
(Gülüşmeler)

Tamam, bir tane daha. Çiviler, vidalar ve kırık camlar üzerinde asılı olan bir köprünün üzerinden bisikletle geçerken lastiğim patlar mı? Evet, büyük olasılıkla, diyor GPT-4, muhtemelen bir köprünün kırık çiviler ve kırık camlar üzerinde asılı olması durumunda köprünün yüzeyinin keskin nesnelere doğrudan temas etmediğini doğru bir şekilde muhakeme edemediği için.

Peki, baro sınavında başarılı olan ama böylesine temel bir sağduyu konusunda rastgele başarısız olan bir YZ avukatı hakkında ne düşünürsünüz? Günümüzde yapay zeka inanılmaz derecede zeki ve sonra şok edici derecede aptal.
...

Bu, yapay zekayı kaba kuvvet ölçeğiyle öğretmenin kaçınılmaz bir yan etkisidir. Bazı ölçek iyimserleri şöyle diyebilir: “Bu konuda endişelenmeyin. Tüm bunlar, yapay zeka için daha fazla eğitim verisi olarak benzer örnekler eklenerek kolayca düzeltilebilir.” Ama asıl soru şu. Bunu neden yapalım ki? Benzer örneklerle kendinizi eğitmek zorunda kalmadan da doğru cevapları bulabilirsiniz. Çocuklar böylesine temel bir sağduyu seviyesie ulaşmak için trilyon kelime okumazlar.
...

Peki bu aklıselim neden bu kadar önemli? Nick Bostrom tarafından önerilen ünlü bir düşünce deneyinde, yapay zekadan ataçları üretmesi ve maksimize etmesi istenmiştir. Bu yapay zeka, insanları ek kaynak olarak kullanmak için öldürmeye karar verdi, sizi ataçlara dönüştürmek için. Çünkü yapay zeka, insani değerlere ilişkin temel insani anlayışa sahip değildi. Şimdi, böyle açıkça ve net bir şekilde “İnsanları öldürme” gibi bir ifade yazmak da işe yaramayacaktır çünkü yapay zeka devam edip tüm ağaçları öldürebilir ve bunun gayet normal bir şey olduğunu düşünebilir. Aslında, YZ’nin ataçları maksimize ederken açıkça yapmaması gereken sayısız başka şey var: “Sahte haberleri yayma”, “Çalma”, “Yalan söyleme”, hepsi dünyanın nasıl işlediğine dair sağduyulu anlayışımızın parçasıdır.
...

Bununla birlikte, yapay zeka alanı on yıllardır sağduyuyu neredeyse imkansız bir zorluk olarak görmüştür. Öyle ki birkaç yıl önce öğrencilerim ve meslektaşlarımla birlikte bu konu üzerinde çalışmaya başladığımızda cesaretimiz çok kırılmıştı. Bize bunun 70 ve 80′lerin araştırma konusu olduğu, üzerinde çalışmamamız gerektiğini çünkü asla işe yaramayacağını, hatta ciddiye alınmak için bu kelimeyi telaffuz bile etmememizi söylediler. Şimdi hızlıca bu yıla geliyoruz ve duyuyorum ki: “Bunun üzerinde çalışmayın çünkü ChatGPT bunu neredeyse çözdü.” “Sadece ölçeği büyütün, sihir ortaya çıkacak ve başka hiçbir şeyin önemi kalmayacak.“

Bu yüzden benim görüşüm, yapay zekaya gerçek anlamda sağduyulu insan benzeri robotlar vermenin hala bir hayal olduğu yönünde. Dünyanın en yüksek binasını her seferinde bir santim daha uzatarak Ay’a ulaşamazsınız. Aşırı ölçekli yapay zeka modelleri, giderek artan miktarda sağduyulu bilgi ediniyor, bu cepte. Ama unutmayın, hala çocukların bile çözebileceği kadar önemsiz problemlerde tökezliyorlar.
...

Şimdi öğrenme algoritmaları hakkında biraz düşünelim. Büyük dil modelleri ne kadar şaşırtıcı olursa olsun, tasarımları gereği güvenilir bilgi modelleri olarak hizmet vermek için en uygun olmayabilirler. Bu dil modelleri büyük miktarda bilgi edinirler, ancak bunu doğrudan öğrenme amacının aksine bir yan ürün olarak yaparlar. Halüsinasyon etkileri ve sağduyu eksikliği gibi istenmeyen yan etkilere neden olur. Bunun aksine, insan öğrenmesi hiçbir zaman bir sonraki kelimenin ne olacağını tahmin etmekle ilgili değildir, aksine dünyayı anlamlandırmak ve nasıl işlediğini öğrenmekle ilgilidir. Belki yapay zeka da bu şekilde öğretilmelidir.

Bu nedenle, daha doğrudan sağduyulu bilgi edinmeye yönelik bir arayış olarak ekibim, burada gösterildiği gibi çok büyük olduğu için ekrana sığdıramadığım çok büyük bir dil modelini alabilen ve bunu derin sinir ağları kullanarak çok daha küçük sağduyulu modellere indirgeyebilen sembolik bilgi damıtma da dahil olmak üzere potansiyel yeni algoritmaları araştırıyor. Bunu yaparken de algoritmik olarak insan tarafından incelenebilir, sembolik, sağduyulu bilgi temsili üretiyoruz, böylece insanlar bunu inceleyip düzeltmeler yapabiliyor ve hatta diğer nöral sağduyulu modelleri eğitmek için kullanabiliyor.

Daha geniş anlamda, fiziksel, sosyal ve görsel sağduyudan zihin teorisi, normlar ve ahlaka kadar uzanan, imkansız gibi görünen bu dev sağduyu yapbozunu ele alıyoruz. Her bir parça tuhaf ve eksik görünebilir, ancak bir adım geri gittiğinizde, bu parçalar sanki insan deneyimi ve sağduyu dediğimiz bir kilim gibi birbirine örülüyor.
...

Chris Anderson: Şuna bak. Yejin, lütfen bir saniye bekle. Bu çok ilginç, bu sağduyu fikri. Belli ki hepimiz gelecek olan şeyden bunu gerçekten istiyoruz. Ama anlamama yardım edin. Öğrenen bir çocuk modelimiz var. Bir çocuk daha fazla girdi birikimi ve bazı insan geri bildirimleri dışında nasıl sağduyu kazanır? Başka ne var?

Yejin Choi: Temelde eksik olan birkaç şey var ama bunlardan biri örneğin hipotez kurma ve deney yapma, dünyayla etkileşime girme ve bu hipotezi geliştirme becerisi. Dünyanın nasıl işlediğine dair kavramları soyutlarız ve günümüzün dil modelinin aksine gerçek anlamda bu şekilde öğreniriz. Bazıları gerçekten henüz o noktada değil.

CA: Bir binayı her seferinde bir adım uzatarak Ay’a gidemeyeceğimiz benzetmesini kullanıyorsunuz. Ancak çoğumuzun bu dil modellerine ilişkin deneyimi bir seferde bir ayak değil. Sanki nefes kesici bir hızlanma gibi. Bu şeylerin ilerleme hızı göz önüne alındığında, her bir sonraki seviyenin beraberinde bilgelik ve bilgi gibi hissettiren şeyleri getirdiğinden emin misiniz?

YC: Ölçeklendirmenin her alanda performansı gerçekten ne kadar artırdığının dikkate değer olduğuna kesinlikle katılıyorum. Yani hesaplama ve veri ölçeği nedeniyle gerçek bir öğrenme gerçekleşiyor.

Ancak, hala tam olarak ulaşılamamış bir öğrenme kalitesi var. Ve mesele şu ki, sadece işleri ölçeklendirerek oraya tam olarak ulaşıp ulaşamayacağımızı henüz bilmiyoruz. Eğer yapamazsak, o zaman başka ne yapabiliriz sorusu ortaya çıkıyor. Bunu yapabilsek bile, sadece birkaç kişinin yaratabileceği ve sahip olabileceği çok çok uç ölçekli yapay zeka modellerine sahip olma fikrini seviyor muyuz?

CA: Demek istediğim, eğer OpenAI “Çalışmalarınızla ilgileniyoruz, modelimizi geliştirmemize yardımcı olmanızı istiyoruz” derse, yaptığınız şeyi onların yaptıklarıyla birleştirmenin bir yolunu görebiliyor musunuz?

YC: Kesinlikle öngördüğüm şey, derin sinir ağlarındaki ilerlemelerin üzerine inşa edilmeli. Belki de bazı ölçeklerde Goldilocks Bölgesi olabilir, öyle ki ... Bu arada ne kadar küçük olursa o kadar iyi olur diye de düşünmüyorum. Doğru miktarda ölçek olması muhtemeldir, ancak bunun ötesinde, kazanan tarif başka bir şey olabilir. Dolayısıyla burada bazı fikirlerin sentezi kritik önem taşıyacaktır.

Bu Konferansın Konusu Hakkında Bir Yorum için Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal Makalesini Okuyabilirsiniz.

Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal - Teknoloji

Bu makale Yapay zeka neden inanılmaz derecede akıllı ve şok edici derecede aptal konferansının konusuyla ilgili bir yorum olarak yazılmıştır.

Büyük Dil Modelleri, internetten ezberlediği verilerin dışına çıkmaya zorlandığında sağduyulu yanıtlar veremediği oluyor. Konferansta bahsedilen “30 giyeceğin güneşte kuruması kaç saat sürer” sorusuna doğru yanıtı veremiyorlar. Tamam. Biraz daha derin konuları düşünelim. O konularda insanlar da hata yapmaya başlayacaktır. Örneğin nükleer santral yapmanın çok tehlikeli olduğuna inanan insanlar çoktur. Onlara göre nükleer santral seçeneği sağduyulu bir seçenek olmayacaktır. Ama fosil yakıtlara karşı en iyi alternatifin nükleer santraller olduğunu düşünen bir azınlık da vardır. Güneşin enerjisinden yararlanmanın veriminin gerçekçi şekilde yükseltilebilecek teknolojiler geliştirilemediği sürece, nükleer santral yapmanın sağduyulu bir karar olduğunu düşünürler. Örneğin ABD'de Wyoming eyaletindeki Kemmerer şehrinde kurulacak olan yeni nesil Natrium Nükleer Santrali'ni Bill Gates finanse ediyor. Nükleer santrale karşı olanlar, ezberlerinin dışına çıkarak nükleer santral konusunda daha ayrıntılı bilgilendiklerinde kararları değişebilir. Artık nükleer santral asıl sağduyulu seçenek olmaya başlayabilir; elbette kararlarını değiştirmeyenler de çok olacaktır. Görüldüğü gibi daha derin konularda neyin sağduyulu karar olduğu insanların aklı için bile belirsizleşiyor. Yapay Zeka, hatalı karar verdiği konularda eğitilmeye devam edilerek, daha sağduyulu kararlar vermesi sağlanabilir, insanlar gibi.

Sağduyu matematik gibi sabit değildir. İçinde yaşanılan kültüre göre farklı şeyler sağduyulu davranış olarak nitelenecektir. Örneğin 19. yüzyıla kadar köle kullanmak gayet normal, gayet sağduyulu bir davranıştı. Bir aşirete dahil olmak, günümüzde de normal, sağduyulu bir davranış olarak kabullenildiği bölgeler hâlâ mevcuttur. Hayvanın kök hücresinin çoğaltılmasıyla üretilen yapay et seri üretime geçirilip ucuzlayınca, artık et yemek için hayvan öldürmek eskisi kadar sağduyulu bir davranış olarak görülmemeye başlanacaktır, tartışmalar olacaktır. Evet, Yapay Zeka şimdilik basit konularda bile sağduyulu karar veremiyor. Ama mesela daha az eğitimli bir insan da çok derin olmayan konularda yanlış karar verebilir. Bu kararın sağduyulu olduğunu düşünebilir.

Yapay Zeka, konferansta bahsedilen “6 litrelik suyu ölçme” sorusuna bile düzgün yanıt veremiyor. Sağduyulu yanıtlar verememesinin en önemli nedeni henüz insan kadar bilinçli olmamasından kaynaklanıyor. Ne yanıt verdiğinin farkında değil. Bir iç ses gibi iç yazı hissetmediği sürece Büyük Dil Modellerine bilinçli olarak tanımlanabileceğini sanmıyorum. Bunun için henüz erken. Kendi iç sesiyle ya da iç yazısıyla tartışmaya başladığı zaman, düşünceleri kendi içinde yankılandığı zaman insan gibi düşünmeye başladığını umabiliriz. O zaman daha sağduyulu kararlar vermeye başlayabilir. Oysa Büyük Dil Modellerinin bilinç durumu, insanların bebekken konuşmayı öğrenmeye başladığı dönemim başıdır. İnsanlar bebekken sadece ebeveynlerinin konuşmalarını duyarlar. Büyük Dil Modellerinin duyduğu konuşmalar ise çok daha fazladır, bunlar internet verileridir. Bu nedenle akıllı gibi görünebilirler. Ama henüz düşünmenin çok temel kırıntıları vardır. Yine de insan gibi bir bilince, öz farkındalığa ulaşmadan bile, eğitilmesi sürdürüldüğünde, insan kadar doğru kararlar verip veremeyeceği merak konusudur.