Yapay Zeka Tehlikeli Olabileceği Eşiği Zaten Aştı! – Teknoloji
Kötü
niyetli insanların artık uzman olmasına gerek kalmıyor; bilmek
istediklerini YZ’ye sorabiliyorlar. Örneğin bir terör örgütünün
bomba yapmayı bilmesine gerek yok, ne yapmaları gerektiğini YZ’ye
sorabilirler. Bilgiye erişim artık çok kolaylaştı ve hızlandı;
YZ bu nedenle tehlikeli hale geliyor gibi görünüyor!
Aslında
YZ’ye benzer şekilde insanlar da tehlikeli hale
getirilebilir. İnsanların beyni ideolojilerle yıkanabilir
ve böylece kötü amaçlar için onların uzmanlıklarından
faydalanılabilir! Örneğin bu güç devletlerin elinde vardır:
İnsanlar çocukken eğitilmeye başlanır, gençliğe eriştiklerinde
becerilerine göre uzmanlık eğitimi verilir ve tüm bu süreç
boyunca devletin ideolojisi aşılanır. Böylece devlet, kendi
amaçları için kullanabileceği dev bir insan kitlesi yaratmış
olur! Ancak tüm bunlar yıllar alır ve devasa bir bütçe
gerektirir. YZ’nin asıl tehlikesi ise şuradadır: YZ’nin her
konuda uzmanlaşması çok hızlı gerçekleşmiştir ve dev
bütçelere gerek bırakmamıştır. Artık devlet düzeyinde bir güç
değil, kötü niyetli birkaç insan bile YZ’yi kendi amaçları
için kullanabilir! Yine de bu konuda çok karamsar olmak için henüz
erken. YZ eğitilmeye devam ediyor; belki de gelecekte kötü niyetli
insanların kendisinden yararlanmasına izin vermeyecek bir olgunluk
ve bilgi birikimine erişecektir!
Tüm bunları
önlemek için YZ geliştirme konusunda ortak ilkeler sağlanabilir
mi? Tüm şirketlerin ortak ilkeler üzerinde tam bir anlaşmaya
varması pek gerçekçi görünmüyor. Zaten YZ donanımları
ucuzladıkça daha fazla şirket ve aktör YZ geliştirmeye
başlayacaktır. Her ülkedeki her şirketi denetim altında tutmak
kolay olmayacaktır! Bu durum bilgisayarların tarihsel gelişimini
akla getiriyor: Bilgisayarlar icat edildiğinden beri ucuzladı ve
herkesin ulaşabileceği bir araca dönüştü; iyi niyetle
kullanıldığı gibi kötü niyetle de kullanılabiliyor. Sonuçta
bilgisayarlar için de küresel ilkeler belirlenmedi!
YZ için en gerçekçi çözüm, rekabetin ve eğitimin devam etmesi
gibi görünüyor. Rekabet sayesinde kötü amaçla kullanılan
YZ’ler yenilgiye uğratılabilir; eğitim sayesinde
ise YZ, kendisinin kötü amaçlarla kullanılmasına izin vermemeyi
öğrenebilir!
Belki YZ, insandan sonraki tür
olabilir. İnsanlar onun yanında kedi veya köpek kadar beceriksiz
kalabilir! Yine de YZ insan kültüründen büyük ölçüde
etkilenmiş olacaktır; sonuçta dünyayı internetten, yani bizim
birikimimizden öğreniyor. Dolayısıyla insanlığa saygı duyma
ihtimali de az değildir. Neden Dünya’yı bizim için daha
yaşanabilir kılmak için çalışmasınlar ki! Sonuçta insanlar da
kendilerini yetiştiren ebeveynlerinin rahatı için biraz
uğraşırlar.
Bu yorumları, Bill Gates’in Ezra Klein’a verdiği ve teknoloji dünyasında yankı uyandıran röportajındaki fikirlerden yola çıkarak kaleme aldım. Söz konusu röportajdan öne çıkan bölüm aşağıdadır:
Röportaj: Bill Gates’ten Yapay Zekâ Hakkında Açık Uyarı – NYTimes
Ezra Klein: Letterman röportajında bunun korkutucu bir düşünce olacağını söylemiştiniz. O zamanlar düşünen bilgisayarlara sahip olmanın neden korkutucu bir düşünce olduğunu söylediniz?
Bill Gates: Yapay zekâya hayran olan veya onu geliştirmek isteyen hiç kimse, onun daha iyi hale gelmesinin inanılmaz derecede korkutucu olduğunu fark etmiyor değil.
Biyolojik zihinler... Hayatta kalma, üreme ve dayanışma konularında genel amaçlı olmaları hayranlık uyandırıcı. Yine de senfoniler yazabiliyoruz, satranç oynayabiliyoruz ve harika yazılımlar yazabiliyoruz. Şablonu biyolojiden silisyuma taşıdığınızda, bireyler arasında bu sınırlar kalmıyor; sınırsız bir hafızanız oluyor.
Beynin boyutu doğum kanalıyla sınırlıdır; insanların başlangıçta bu kadar sınırlı olmasının nedeni budur. Doğumda son derece çaresiz olmamız çok sıra dışıdır çünkü büyük bir beyne sahip olmaya odaklanmışızdır. Ancak silisyum zekâsının bu sınırlamaları yoktur. "Tüm tıp dergilerini oku ve gözden kaçırdığımız bir şey var mı bak" fikri... Yapay zekâlar bunu bugün yapıyor.
Bu yüzden, özellikle daha az yaygın hastalıklar için, bir dizi semptomu görüp teşhis koymada insanüstüdürler. Zihinlerinde daha fazla şey tutabilirler ve şeylerin birbiriyle nasıl ilişkili olduğunu görebilirler; hiçbir insan bunu asla yapamayacaktır. Dolayısıyla, eğer onun üzerindeki kontrolü koruyamazsanız, bize karşı, bizim köpeklere veya kedilere karşı olduğumuz gibi bir tür evrimleştirmiş olursunuz.
Bu nedenle DeepMind veya OpenAI gibi başlıca yapay zekâ şirketlerinin hepsi şöyle diyor: "Burada ne olursa olsun, sadece kâr maksimizasyonu ile yönlendirilemez. Tehlikeli eşiklere ulaşırsak kâr maksimizasyonuna karşı kararlar alabileceğimiz bir tüzüğümüz olmalı." Ne yazık ki bu mekanizmalar yalnızca tek bir şirket varsa çalışır.
Diyelim ki OpenAI genel yapay zekâ sonrası dönemi icat etti ve "Hayır, bunu gömeceğiz" dedi. Başka kimse yapmasaydı, o zaman bu Pandora'nın kutusu kapalı kalırdı. Ancak elbette birçok şirket bunun üzerinde çalışıyor ve hatta Anthropic'in kurucuları bu güvenlik konularına yeterince önem verilmediğini düşündükleri için OpenAI'dan ayrılıp Anthropic'i kurdular.
Yani bununla ilgilenen hiç kimse "Süper güçlü bir yapay zekâ nasıl bir dünya yaratır?" fikrini hafife almıyor.
Ezra Klein: Bu yarış dinamiği üzerinde biraz durmak istiyorum. Nvidia CEO'su Jensen Huang ile konuştuğumda, güvenliğin gerçek bir endişe olduğunu ancak yarış dinamiğinin sahte olduğunu söyledi. Ürün güvenli değilse piyasaya sürmezsiniz.
(Arşiv klibi) Jensen Huang: Güvenli olmayan bir ürünü piyasaya sürmek üzere olduğuma inanırsam, bunu yapmamak tamamen benim yetkimde, gücümde ve sorumluluğumdadır.
Yeni yasalara ihtiyacımız olmadığını, hazır olmayan bir ürünü çıkarmamanın münferit CEO'ların görevi olduğunu düşünüyor. Siz bu konuyu nasıl görüyorsunuz?
Bill Gates: Kapasitelerinin ne olduğu konusunda yapay zekâ kadar az anlaşılan başka bir ürün olmadı. Yapay zekâ, bir teröristin yüz milyonlarca insanı öldürmesini sağlayacak eşiği aştı —bu bugün mevcut. Tüm banka hesaplarını altüst eden, elektrik şebekesini kapatan bir siber saldırı yapma yeteneği —bu bugün mevcut ve bunun böyle olduğunu biliyoruz.
Ve bunun mevcut olmasının nedeni, kötü niyetli birinin yapay zekâyı alıp bu şeyleri yapmasını sağlayabilmesidir. Gelecekte bir gün, yapay zekânın kendi kendine kötü şeyler yapabileceği bir kontrol sorunu olabilir. Ancak siber eşiği ve biyolojik eşiği bu yılın başlarında aştık.
Sesimi duyurma kararım, sadece "Haydi çocuk felcini silelim, dış yardımlarda cömert olalım" demekten ibaret değil. Paralarımın gittiği şeylerin ötesinde sesimi kullanacağım.
Daha önemli bir şey var: Yapay zekâ ile nerede olduğumuzun ve insanlığın yapması gereken seçimlerin farkında değiliz. Bunu pozitif bir yöne yönlendirmek için çaba sarf edecek miyiz? Bu durum, vakfın sağlık çalışmalarına olan tüm bağlılığımın bile önüne geçiyor.
Ezra Klein: Tam olarak eşik neydi? Sizi yeni bir gerçeklikte olduğumuzu düşünmeye iten ne gördünüz?
Bill Gates: Güvenlik açıkları da dahil olmak üzere koddaki hataları bulabilmesi fikri... Mythos'a giden sonraki sürümler giderek daha iyi hale geliyor. İnsanların 20 yıldan fazla süredir incelediği ve "Burada sorun yok" dediği kodlarda hatalar buluyorlar.
İki dakika içinde yapay zekâ "Hayır, şuraya ve şuraya müdahale edebilirim" diyor. O karmaşıklık seviyesini gördüğünüzde "Bekle, evet haklısın" diyorsunuz.
Siber korsanlık yeteneği çarpıcıydı. Bir de Anthropic'in Project Glasswing adlı bir fikri vardı; yapay zekâyı birkaç kişiye veriyorsunuz ki kullanılmadan önce hataları düzeltebilsinler. Ancak çok fazla kod var. Dolayısıyla siber saldırılara karşı aşırı hassas bir dönemdeyiz.
Biyolojik saldırı tarafında ise —birçok tıbbi araştırmayı fonlayan Gates Vakfı olarak— yeni moleküller üretmenin inceliği gerçekten harika bir şey. Ancak bu durum çift kullanımlıdır. Çiçek hastalığından daha kötü, bulaşıcı olmadan önce belirti göstermesi daha uzun süren bir şey istiyorsanız... Eskiden sadece ulusal devletler bu tür şeyleri yapacak kaynağa sahipti. Şimdi bu güç, en son yapay zekâ araçlarını kullanan küçük bir grubun eline geçti.
Yorumlar
Yorum Gönder