Robot Sophia'nın yapılmasına yardım ettim. Bu 5 nedenden dolayı Yapay Zekadan korkmamalıyız

Dr. Ben Goertzel, insan düzeyinde ve ötesinde genel bilişsel yeteneğe sahip düşünen makineler yaratmaya yönelik bir yapay zeka alt alanı olan Yapay Genel Zeka konusunda dünyanın önde gelen uzmanlarından biridir. Ayrıca 2019'un başlarına kadar Hanson Robotics'in Baş Bilim İnsanı olarak görev yapmış ve robot Sophia'nın yazılımını hazırlamıştır.

Kısaltmalar:

• YZ: Yapay Zeka
• YGZ: Eğitildiği bir konuyu değil, insan gibi genel bir anlama kapasitesi olan Yapay Genel Zeka. Bilinçli Yapay Zeka
• BDM: Büyük Dil Modeli. Konuşmayı anlayabilen yapay zeka

Future of Life Enstitüsü, GPT-5 ve benzeri Büyük Dil Modellerinin (BDM'ler) gelişimini durdurmak için bir dilekçe yayınladı.

Endişeleri anlaşılabilir, ancak çok abartıldıklarına inanıyorum. 2005 yılında YGZ terimini tanıttığımdan beri Yapay Genel Zekanın ortaya çıkışıyla ilgili benzer korkuların ara sıra dile getirildiğini duydum, ancak birkaç nedenden dolayı mevcut durumda bir ara vermenin çok yanlış bir hareket olacağını düşünüyorum.

Önce panik içinde çoğu zaman unutulan bir şeyi vurgulayayım: Büyük Dil Modelleri, Yapay Genel Zekâya dönüşemez.

BDM'ler, insan düzeyinde YGZ'yi desteklemek için gereken bilişsel mimari türünden tamamen yoksundur. YZ araştırmacılarının büyük çoğunluğu bunu biliyor. BDM'ler, çoğu dilsel görevde daha geleneksel makine öğrenimi modellerini bile geçemez ve aşağıdakiler de dahil olmak üzere çok sayıda önemli sınırlamadan muzdariptir:

• Gerçeği 'halüsinasyondan' ayırt edememe.
• Kısıtlanmış yaratıcılık. BDM'ler, önceki dar yapay zekalara göre daha geniş bir yetenek kümesine sahiptir, ancak bu genişlik sınırlıdır. Deneyim tabanlarının ötesinde akıllıca akıl yürütemezler. Eğitim tabanları gerçekten çok büyük olduğu ve insan çabasının neredeyse her yönünü kapsadığı için geniş ölçüde yetenekli görünüyorlar.
• Uzun muhakeme zincirlerini etkili bir şekilde inşa edememe.

Kendi YGZ geliştirme girişimim olan OpenCog Hyperon, örüntü tanıma ve sentez için BDM'leri kullanıyor ve bunları sembolik mantıksal çıkarım ve evrimsel öğrenme gibi diğer YZ yöntemleriyle birleştiriyor. Dünyanın dört bir yanındaki diğer birçok ekip, BDM'leri YGZ'lerin bileşenleri olarak kullanarak benzer projeler peşinde koşuyor. Ancak tek başına BDM'ler YGZ değildir ve olamaz. Bu nedenle, BDM araştırmasını duraklatmak YGZ araştırmasını duraklatmak değildir.
...

Açık mektup herhangi bir somut risk belirtmiyor, bunun yerine "Medeniyetimizin kontrolünü kaybetme riskini almalı mıyız?" Bu tür belirsiz duygular, potansiyel olarak faydalı araştırmaları kapatmayı haklı çıkarmaz. Çanta nükleer bombaları veya genetiğiyle oynanmış patojenlerden kaynaklanan son derece doğrudan risklerle karşılaştırın.

Bu belirsiz riskler somut faydalarla dengelenmektedir. Kanser gibi, iklim değişikliği gibi, yaşlanma ve ölüm gibi, küresel çocuk katliamı gibi riskleri düşünün. Bunlar gerçektir. Ve insanüstü yeteneklere sahip bir YGZ kanseri ve akıl hastalıklarını tedavi edebilir - muhtemelen edecektir - insan sağlığını uzatabilir, iklim değişikliğini çözebilir, uzay yolculuğunu geliştirebilir ve maddi yoksulluğun neden olduğu acıları sona erdirebilir.

Kıyamet tellalları, YGZ'nin insan neslinin tükenmesine neden olduğu varsayımsal senaryolara odaklanmayı severler - ancak bunların gerçekçi veya olası olduğuna inanmak için hiçbir neden yoktur. Bizi yok olmaktan kurtardığı eşit derecede dramatik varsayımsal senaryolar da üretilebilir. Ve YGZ'nin katkısı olmadan da yok olabiliriz (örneğin nükleer bir savaş, biyomühendislik ürünü bir salgın veya bir meteor çarpması). Neden elimizin altındaki gerçek, spesifik somut YZ faydaları yerine filmlerde gişe rekorları kıran YZ felaket senaryolarına takılalım?
...

Yapay zekanın işsizliğe yol açması sorununu ele alalım. Tüm işler otomatikleştirilirse, bir tür iş sonrası ekonomi ortaya çıkacaktır. Ancak bu iş sonrası dünya, otomasyon teknolojileri duraklatılmışken bir boşlukta tasarlanamaz. Toplumun buna uyum sağlayabilmesi için teknolojinin gerçekte kullanılmasına ihtiyacımız var.

Dünya çapında bir YZ moratoryumuna yüzde 100 uyumu sağlamak imkansız olacak. Bazı oyuncular duraklayacak ve geride kalacaklar. Diğer, belki daha az etik olan oyuncular önde yarışacak.
...

Önerilen moratoryumun arkasındaki önde gelen güçlerden biri olan Elon Musk'ın kısa bir süre önce, görünüşe göre bir BDM projesi için çok sayıda GPU satın alması için şirketi Twitter'ı yönlendirmesi ironik . Endişe ve ekonomik fırsat arasındaki gerilim açıktır.

Yorum: Elon Musk Yapay Zeka çalışmalarının duraklatılmasını öneriyor. Kendisinin çok sayıda GPU satın alarak Yapay Zeka çalışmalarına aynı heyecanla devam etmesi ise oldukça ironiktir. Rakiplerini hissetirmeden yavaşlatmak istiyor olamaz mı! :-)

Gelişmekte olan YGZ'nin açık ve demokratik yönetişimi, Linux veya Wikipedia geleneğinde olduğu gibi demokratik, insani değerler geliştirmelerine yardımcı olacaktır. Bu, benim kurduğum ve 2017'den beri yönettiğim bir proje olan SingularityNET'in varoluş nedenidir.

YGZ'nin eğitim verilerine, eğitim, tıbbi bakım, bilim ve yaratıcı sanatlar gibi değer odaklı faaliyetlerde yükseltilerek insani değerlerin aşılanması gerekir.

Doğru yönetim ve eğitimle, süper zeki olduğu kadar süper şefkatli makineler tasarlayabileceğimize ve böylece iyiliksever YZ senaryolarını daha olası hale getirebileceğimize inanıyorum. Uygun yönetişim ve eğitimi bulmak biraz çalışma gerektirecek, ancak mevcut aşamada YZ geliştirmeye 6 ay ara vermenin bu işi daha iyi hale getireceğine veya daha iyi bir sonuca ulaştıracağına inanmak için hiçbir neden yok.

İnsanlar ve YGZ'ler bir sonraki çağa birlikte ilerlemelidir. Bunu yaparken de birbirlerine bilgileri, pratik kabiliyetleri ve değerleriyle yardımcı olmalıdırlar. İleriye dönük en mantıklı yol, insanlığa hizmet eden açık YGZ'ler geliştirmek ve ilerlerken uygun yönetişim ve eğitim metodolojileri oluşturmaktır.

Ray Kurzweil, 2005 tarihli The Singularity is Near adlı kitabında, 2029 yılına kadar insan düzeyinde YGZ tahmininde bulundu; bu, şu anda çok olası, hatta belki de kötümser görünen bir tahmin. kendi kod tabanına sahiptir ve bir yıl veya daha kısa bir süre içinde kendi kendine yeni donanım tasarlar - kendisini daha da, daha hızlı ve yukarı doğru bir sarmal içinde yükseltecek yeni nesil bir yapay zeka yaratır.

Gerçekten insanüstü zekanın şafağındaysak, dikkat ve özen gösterilmesi gerektiği açıktır. Ancak gelecek garip geliyor ve karmaşık artıları ve eksileri var diye korkmamalıyız. Devrimin doğası budur.

Makalenin Tamamı: Robot Sophia'nın yapılmasına yardım ettim. Bu 5 nedenden dolayı AI'dan korkmamalıyız

Bunlar da İlginizi Çekebilir:
Bing ile Sohbet Etmek - Teknoloji
Sohbet Robotu Bilinçlendi – Yapay Zeka