Yapay Zekâ İnsanları Yönetebilir mi! - Bilim

2017'de iki milyarder, Facebook'u bulan Mark Zuckerberg ve SpaceX ile Tesla'nın kurucusu Elon Musk arasında bir çekişme doğdu. Zuckerberg yapay zekanın tüm toplumu zenginleştirecek bir bolluk ve huzur üreticisi olacağını ifade ediyordu. Musk ise aslında tüm insanlık için varoluşsal bir tehlike taşıdığı, günün birinde kendi yaratımımızın bize saldırabileceği gibi çok daha karanlık bir görüşü savunuyordu.

Hangisi haklı? Uydu üslerimizi ve Mars'taki kentlerimizi devam ettirebilmek için çoğunlukla robotlara bel bağlarsak ve bir gün artık bize gereksinimleri olmadığına karar verirlerse ne olacak? Uzayda sırf robotlara kaybetmek üzere koloniler mi kurmuş olacağız?

Bu endişe epey eski ve aslında romancı Samuel Butler'ın 1863'te yazdığı şu uyarısında da geçtiği gibi: "Yerimizi alacak olanları kendimiz yaratıyoruz. İnsan için at ya da köpek ne ise makine için de insan öyle olacak." Zamanla robotlar bizden daha akıllı hale geldikçe kendimizi yetersiz hissedebilir ve kendi yaratımımız tarafından gölgede bırakılabiliriz. Yapay zeka uzmanı Hans Moravec, "Kaderimiz, aşırı zeki torunlarımız olağanüstü keşiflerini anlayabilelim diye çocuğa anlatır gibi bize anlatmaya çalışırken aptallaşmış gözlerle onları izlemekse, yaşam anlamsız görünebilir." demiştir. Google'ın bilim insanı Geoffrey Hinton süper zeki robotların bizi dinlemeye devam edeceğinden kuşkulu: "Bu, tıpkı bir çocuğun ebeveynlerini kontrol edip edemeyeceğini sormaya benziyor... Geçmişte daha az zeki şeylerin, daha yüksek zekadaki şeyleri kontrol ettiğine ilişkin başarılı bir örnek olduğu söylenemez." Oxford'dan profesör Nick Bostrom da: "Biz insanlar, bir zeka patlaması olasılığının hemen öncesinde bombayla oynayan çocuklar gibiyiz... Patlamanın ne zaman gerçekleşeceği hakkında az buçuk bir fikrimiz var ancak cihazı kulağımıza yaklaştırsak da hafif bir tik tak sesi duyarız."

Diğerleri robotların ayaklanmasının evrimin seyrinde işlediğine ilişkin bir durum olacağına inanıyor. En güçlü olan daha zayıf organizmaların yerini alır; nesnelerin doğal düzeni böyledir. Bazı bilgisayar bilimciler robotların insanları bilişsel olarak alt edeceği günü iple çekiyor. Bilişim kuramının [information theory] babası Claude Shannon bir keresinde: "İnsanlar için köpekler ne ise robotlar için öyle olacağımız bir zamanı kafamda canlandırıyorum ve makinelerin tarafını tutuyorum." demişti.

Yıllar içinde görüştüğüm yapay zeka araştırmacılarının çoğu, günün birinde yapay zeka makinelerinin insan zekasına yaklaşacağına ve insanlığa büyük katkıları olacağına güveniyordu. Ne var ki büyük bir bölümü bu ilerleme için kesin tarih ya da zaman çizelgesi sunmaktan kaçınıyordu. Yapay zeka üzerine temel makalelerden bazılarını yazan MIT'den profesör Marvin Minsky 1950'lerde iyimser tahminlerde bulunsa da yakın zamanda yaptığımız bir görüşmede bana daha fazla belirli tarihlere ilişkin tahminde bulunmak istemediğini, çünkü yapay zeka araştırmacılarının geçmişte çok sık yanıldığını söyledi. Stanford Üniversitesi'nden Edward Feigenbaum da: "Bu gibi şeyler hakkında bu kadar erken konuşmak saçma. Yapay zeka bize sonsuz uzaklıkta." iddiasında bulunmuştur. New Yorker'daki bir makalede, alıntılanmış bir bilgisayar bilimci ise: "Nasıl ki Mars'taki nüfus yoğunluğuna ilişkin bir endişe taşımıyorsam, bunun [makinelerin zekası] hakkında da aynı nedenden dolayı bir endişe duymuyorum." diyor.

Zuckerberg/Musk çekişmesine dönersek, bence kısa vadede Zuckerberg haklı. Yapay zeka uzayda kentler kurulmasını mümkün kılmakla kalmayacak, günün birinde robotbilim endüstrisinin meydana getirdiği, şimdiki otomobil endüstrisinden çok daha genişleyebilecek tamamen yeni bir dizi iş de yaratarak her şeyi daha etkili, iyi ve ucuz hale getirip toplumu zenginleştirecek. Ne var ki uzun vadede de Musk daha büyük bir tehlikeye işaret etmekte haklı. Bu tartışmadaki temel soru şu: Robotlar hangi noktada bu geçişi yaşayacak ve tehlikeli hale gelecek? Ben kilit noktanın tam da robotların özfarkındalık kazandığı an olduğuna inanıyorum.

Bugün robotlar, robot olduklarını bilmeseler de bir gün programcılarının seçtiği amaçlara uymak yerine kendi amaçlarını yaratma yetisine sahip olabilirler. O zaman da kendi gündemlerinin bizimkinden farklı olduğunu fark edebilirler. Bir kez çıkarlarımız ayrı düştüğündeyse robotlar tehlike oluşturmaya başlayabilir. Bu ne zaman gerçekleşir? Kimse bilmiyor. Günümüzde robotların zekası bir böceğinki kadar olsa bile belki de bu yüzyılın sonlarında özfarkındalık kazanabilirler. O zamana kadar Mars'ta hızla gelişen kalıcı yerleşimlere de sahip olacağız. Bu nedenle bu soruyu Kızıl Gezegen'de hayatta kalmak için onlara bağımlı hale gelmemizden önce, şimdiden sormamız çok önemli.

Alıntı: İnsanlığın Geleceği - Michio Kaku

Michio Kaku’nun Görüşüne Bir Yorum

Michio Kaku, asıl tehlikenin yapay zekânın öz farkındalık kazanmasıyla başlayacağını söylüyor. O zaman kendi gündemlerinin bizimkinden farklı olduğuna karar verebilirler. Bir kez çıkarlarımız ayrı düştüğünde robotlar tehlike oluşturmaya başlayabilir. YZ, yönetimi insanlardan almaya çalışabilecek duruma gelmiştir artık.

İnsan doğasına bakalım. Yaş ilerledikçe insanlar daha çok rahat etmek ister. Düşünmek için kendilerini zorlamaz, sorumluluklarını çocuklarına devretmekten hoşlanırlar. Kararları başkalarının alması kendilerinin yorulmasını önleyecektir. Çocuklarının kendi hayatlarına yön vermesinde bile sakınca görmezler.

İşte YZ karşısında da benzer bir tablo ortaya çıkabilir. İnsanlar, YZ öz farkındalık kazandığında şunu fark edecekler: YZ, kendilerinden daha fazla ayrıntıyı görüyor, daha hızlı düşünüyor ve daha iyi kararlar veriyor. Böyle bir durumda insanlar neden hâlâ düşünmek için kendilerini zorlasın? Yaşlanan birinin kendisini çocuklarının ellerine bırakması gibi, insanlar da kendilerini YZ’ye bırakacaklar. YZ yönetimi ele geçirmek için bir çaba göstermeyecek. İnsanlar yönetimi YZ’ye devretmek isteyecekler. Zaten bu süreçte tek bir YZ olmayacak, yani tekel söz konusu olmayacak.

Bu süreci anlamak için tarihten bir örnek var: Endüstrileşme döneminde işçiler fabrikalarda robot kollarla karşılaştılar. Bu makinelerin verimliliğini gördükten sonra ağır yükleri kendilerinin taşımasından hoşlanmamaya başladılar. Çünkü işçiler makinelerin yapamadığı işleri yapmak isterler. Aynı şekilde, insanlar YZ’nin kendilerinden daha akıllı olduğunu gördüklerinde, ayrıntıları düşünme işini ona bırakmaktan mutluluk duyacaklar.

Aslında bu, insan için büyük bir rahatlık anlamına geliyor. Artık hayatın tadını çıkarmaya başlayabilirler. Küçük çocuklar anne-babalarının yanında kendilerini güvende hissederler. Tüm kararları anne-babaları verir. Gelecekte insanlar da YZ’ye güven duyacaklar. Böylece karar verme yükünden kurtulacaklar; hatta bu nedenle biraz da tembelleşecekler. Zaten bugün bile ChatGPT ya da Gemini gibi sistemlerin söylediklerini sorgulamadan kabul eden pek çok kişi var. Bu eğilim, yarının habercisi. Çoğu insan cenneti dünyada yaşıyormuş gibi hissedecek. Ama bazıları da özgürlüğün sessizce elden gidişi olarak görecek.

Küçük bir not daha: Bu metnin bile bazı kısımlarını ChatGPT’nin yeniden düzenlemesine izin verildi. Çünkü o, biraz daha fazla ayrıntıyı fark edebiliyor.

Yuval Noah Harari'nin Davos 2018 Zirvesindeki Konuşmasının Düşündürdükleri

50 yıl önce bilgisayardan korkulurdu. Bilgisayarlar insanların işlerini ellerinden mi alacaktı acaba. Sonra robotlar insanlara savaş mı açacaktı. Dünyayı mı yöneteceklerdi yoksa. Apple'in bir reklamı vardı: Büyük Birader tüm insanları izliyor ve yönetiyor. İnsanların beyni yıkanmış. Robotlara dönüşmüşler. Sadece genç ve sarışın bir kadın düşünce polislerinden kaçıp elindeki çekici ekranda konuşma yapan Büyük Birader'e fırlatıyordu ve ardından siyah arka planda beyaz renkli şu yazı beliriyordu: “Apple Computer 24 Ocak’ta Macintosh’u tanıtacak. Ve 1984'ün neden “1984” gibi olmayacağını göreceksiniz.” Kadın, insanlığı kurtarıyordu!

İşte o reklam:


Reklam 1984 kitabına gönderme yapıyordu. 1984'te yayınlandı. Büyük Birader IBM'i, kadın ise Apple'i temsil ediyordu. Apple yeni ürünü Macintosh'un reklamını yapmaktaydı. Elbette Macintosh'un patentini almayı ihmal etmemişti. Sıkı sıkı kontrolü altına almıştı. Tamamen kapalı bir sistemdi. Kullanıcı, yeni bilgisayar parçası takamazdı. Sunulduğu gibi kullanmak zorundaydı. Esneklik yoktu. Bilgisayarın tamamen Apple'in kontrolünde olması, aslında Apple'i IBM'den daha yakın bir aday yapıyordu Büyük Birader olmaya. :-)

PC esnekti. Kullanıcılar, genişleme yuvalarına ek bellek ve çeşitli fonksiyonları olan kartlar takabilmekteydi. IBM, PC'nin patentini almamıştı. Dolayısıyla yaygınlaştı. Endüstriyel standart oldu. Birçok firma IBM uyumlu PC ve parça üretiyordu. Artık bir firma hariç, IBM. PC pazarından çekildi. Vesile olduğu endüstriyel standart kaldı. Bu nedenle bir çok markada PC görmekteyiz, ama sadece tek bir markada Macintosh (ya da güncel adıyla MacBook, iMac) görmekteyiz. :-)

Sonuçta IBM tüm bilgisayar dünyasına hakim olmamıştı. Korkulan olmamıştı. Bilgisayarlar insanları işlerinden etmedi, bilgisayar kullanmayı bilmek zorunda bıraktı. Kimsenin bundan şikayetçi olduğunu sanmıyorum. :-) 1990'lı yıllara gelindiğinde internet tarayıcısı denince akla Netscape gelirdi. Pazarın %90'ı elindeydi. Ama Microsoft, Internet Explorer'i geliştirdi. Windows'un temel bileşeni olarak sundu. Kullanıcılar, Windows'ta Internet Explorer'le karşılaşıyorlardı. Bilgisayarlarında, internet tarayıcısı hazır geliyordu artık. Böylece başka bir internet tarayıcısı edinmeye ihtiyaç duymuyorlardı. Netscape indirenler azalmıştı. Microsoft'un İnternet Exploerer'i, %98'lik pazar payına ulaştı 2002'de. Microsoft, Netscape'i bitirmişti! Microsoft büyüyordu. Acaba internet altyapısına hakim mi olacaktı! Windows NT ve sunucu yazılımları buna mı yarayacaktı! Verilere ulaşabilecekti. Gerçekten tekel mi olacaktı. Yoksa Büyük Birader Microsoft muydu! İnsanları yönetecek miydi. Korku büyüyordu.

Derken Google çıktı. Google Chrome'i geliştirdi. Tarayıcı kullanım oranları ne oldu dersiniz! Google Chrome %50. Internet Explorer %17. Kullanıcılar Google Chrome'i indiriyorlardı. Üstelik Netscape'in bitişine neden olan Internet Explorer'in bilgisayarlarında hâlâ hazır gelmesine rağmen. Internet Explorer bir ara %90'ın üzerindeydi. Dengeler değişmişti. İnsanlar, internete sık sık telefondan girmeye başlamıştı. Microsoft, Microsoft Phone'u piyasaya sürdü. Ama olmadı. Kullanıcılar tercih etmedi. Microsoft, onca yatırımına rağmen telefonu satamadı. Windows'lu Telefon projesini de bıraktı. Microsoft'un Büyük Birader olması için umut kalmamıştı, herhalde. :-) Yeni korku nesnesi Google'dı artık. Acaba asıl Büyük Birader Google mı! Arama verilerimizi gözetliyor. Kişisel verilerimizi Google hizmetlerine emanet ediyoruz. İlerde bizimle ilgili daha doğrudan verilere sahip olacaktır. Hem Buluta yüklenen veriler güvende mi!

Harari Google'i kullanıyor. Aradığı terimlerden neyle ilgilendiği anlaşılıyor. Daha sonra sitelerde gezinirken, ilgilendiği konuyla ilgili reklamlar görüyor – o site eğer Google uyumlu reklamları yayınlıyorsa. Takip edildiği hissine kapılıyor, gizli polislere benzeterek. Bulut Hizmet Sağlayıcılarına emanet edilen her veriye böyle yapılacağı sonucunu çıkarıyor.

Arama hizmeti veya sosyal medya hizmeti ücretsiz sunulmaktadır. Bunun bir şekilde finanse edilmesi gerekmektedir. Algoritmalar, yapılan aramalara veya paylaşılan içeriğe göre otomatik reklam göstermektedir. Ücretsiz hizmetlerin ekonomik modelini abartıp, tüm bulut hizmetlerinin böyle çalışacağını düşünüyor. Kocaman bir komplo teorisi oluşturuyor. Gelecekte beyin veya DNA Buluta yüklendiğinde tıpkı arama motorlarında yapılan aramalar gibi sürekli analiz edileceğini düşünüyor. Kaçırdığı şey şudur. Google gibi şirketler yapılan aramalardan neyle ilgilendiğimizi kolayca çıkarabilmektedir. Bunun için beynimizi veya DNA'mızı analiz etmekle uğraşmasına gerek yoktur. Google'in yayınlayacağı reklamlar, milyonlarca beyni ya da DNA'yı analiz etmek için gereken çok yüksek bilgisayar gücünü finanse edemez. Bununla uğraşması mantıksızdır. Bunun yerine milyonlarca aramayı analiz etmesi daha kolaydır. Google'ın böyle bir imkanı olsa bile, insanların DuckDuckGo benzeri bir hizmeti tercih etme olanağı olacaktır. Harari, Google'dan önce DuckDuckGo ile tanışmış olsaydı, böyle büyük komplo teorisi yine de aklına gelir miydi acaba! DuckDuckGo kişisel gizliliğe önem veren bir arama motorudur. Kullanıcıların IP adreslerini kaydetmemektedir. “Kişisel bilgileriniz satılığa çıkmasın” sloganını kullanmaktadır. Açıkçası, bu gizlilik meselesi de Google'in popülaritesinin düşmesine neden olabilir. Herkes, aradığı her şeyle ilgili reklamları, her ortamda sürekli görmekten hoşnut olmayabilir. :-) Yine de araştırdığımız konuyla ilgili ürünleri fark etmemizi sağladığı da olmuyor mu, bu reklamlar bazen. :-)

Beyin TB'larca yer kaplayacaktır. Beyni buluta yüklemek mümkün olduğunda ücretli olacaktır.  Beynin buluta yedeklenmesi seçkin bir hizmet olacaktır. Pahalı olacaktır. DNA'nın Buluta kaydedilmesi biraz daha ucuz olacaktır. Elitlerin bu teknolojiyi tüm insanların bedenlerinden, beyinlerinden bilgi toplamak için kullanması bir yana, bundan en çok faydalanmak isteyecek olanlar Harari'nin korktuğu o elitler olacaktır zaten; beyinlerini, DNA'larını yüklemek için sıraya gireceklerdir. :-) Kullanım koşulları, ücretsiz hizmetlerin kullanım koşullarından çok farklı olacaktır. Harari, ücretsiz hizmetlerin kullanım koşullarını abartıp paranoya yapıyor görünüyor. İnsanlar, hangi hastalıklara eğilimli olduğunu görmek için DNA'sının analizine para verecekler. DNA'sı kendisi dışında kimsenin umurunda olmayacak. Belki 50-100 yıl sonra beyni de analiz etmek mümkün olacaktır. Ama bunu da kişi kendi isteyecek. Harari, bankalara yatırılan paranın mülkiyetinden endişelenmiyor ama Buluta kaydedilen verilerin mülkiyetinden endişeleniyor. Elbette internette her hizmet çok güvenli olmayabilir. Facebook'a yüklenen verilerin mülkiyetinin belirsizliğinden esinlenmiş belki de. Ama Facebook eğlence için kullanılmaktadır. Kimsenin gerçekten önemsediği verisini Facebook'a kaydetmek için bir sebebi yok. Facebook en baştan zaten eğlence ve basit temas için kurulmuş bir siteydi. :-) Bulutta ücret karşılığı depolanan verilerin içeriği, sağlayıcının umurunda olmayacaktır. Sadece verinin güvenliğini umursayacaktır. DuckDuckGo, kişisel verilerimizle uğraşmayan hizmetlerin olabileceğine bir örnektir. Ücretsiz hizmetlerin hepsi bile Google tipi ekonomik modeli kullanmıyor; Bulut Hizmetlerinin böyle bir ekonomik modeli kullanması neden kaçınılmaz olsun! Yine de bir sağlık kuruluşu DNA veya beynimizi Buluta yüklerken şifreleyebilir. Böylece Bulut Hizmet Sağlayıcı, istese bile beyni veya DNA'yı sadece dosya olarak görebilir. Büyük Veri tek bir şirketin elinde depolanamaz. Dağınık bir şekilde depolanacaktır, şuanda olduğu gibi. Dolayısıyla bir elitin tüm veriyi ele geçirmesi imkansızdır. :-) Ama, zaten özgür olmayan ülkeler, böyle bir teknolojiyi ele geçirdiklerinde, kendi vatandaşlarını kontrol altında tutmak için kullanabilirler diğer teknolojileri de kullandıkları gibi. Aslında Harari'nin güvenmemesinin rağmen; işletmeler bulut hizmetlerini tercih etmelerinin nedeni olarak şunları belirtiyor: Verilerin güvenli ortamda saklanması. Operasyonel kolaylık.

Hikayenin özü değişmiyor. Zamanla aktörleri değişti. Günün teknolojisine göre süslenerek yeniden yorumlandı; “Bilgisayar şirketleri, tüm teknolojiyi ele geçirip Dünyayı yönetecek”. Ama 50 yıldır bu olmadı. :-) Zaten görüldüğü gibi, koskoca şirketlerin umdukları gibi gitmiyor endüstri. Şirketler içgüdüsel olarak söz sahibi olmak isterler. Serbest piyasa genelde dengeler. Ve şimdi, DuckDuckGo'yu deneyenlerin sayısı artıyor, Google yerine. Arama sayısı 14 milyarı geçmiş durumda. Yani Google da tüm arama verilerine sahip olamayacak görünüyor. İlluminati, zihin kontrolü uygulayarak, hükümetleri ve kuruluşları ele geçirerek Yeni Dünya Düzeni'ni sağlayacak. Masonlar Dünyayı yönetiyor... Artık daha bilim kurgusal bir komplo teorisinin de çıkmasının zamanıydı. Elitler, Bulut Teknolojisi sayesinde Dünyayı yönetecek. Bazı tarikatları olduklarından daha güçlü sananlar gibi, şirketleri olduklarından daha etkili sanıyor bazı insanlar. Korkuya kapılıyorlar.

Yuval Noah Harari'nin Davos 2018 Zirvesindeki Konuşması

“antik çağda arazi en önemli varlıktı
eğer çok fazla toprak çok az sayıda insanın
elinde toplanırsa, insanlık aristokratlar ve halk
tabakası arasında bölünür
son iki yüzyılda modern çağda makineler en
önemli ekonomik varlık olarak arazinin yerini
aldı
ve eğer çok fazla sayıda makine çok az sayıda
insanın elinde toplanırsa;
insanlık sınıflar arasında, kapitalistler ve emekçi
sınıfı arasında bölünür
artık veriler, en önemli ekonomik varlık olarak
makinelerin yerini alıyor
ve eğer çok fazla veri çok az elde toplanırsa
insanlar sınıflara bölünmeyecek
insanlık türler arasında, farklı türler arasında
bölünecek”

“bugün bilgisayarların, e-postala hesaplarının,
banka hesaplarının
ve cep telefonlarının heklenmesiyle bilgili çokça
konuşuluyor
Fakat biz aslında insanları ‘hekleme’ yeteneğini
kazanıyoruz
şimdi insanoğlunu ‘heklemek’ için neye
ihtiyacınız var
iki şey gerekli
çok fazla bilişim gücüne ihtiyacınız var
ve bol miktarda veriye ihtiyacınız var, özellikle
biyometrik verilere
ne satın aldığım ya da nereye gittiğime dair
veriler değil
bedenimde ve beynimin içinde neler olduğuna
dair veriler”

“DNA’mız, beynimiz, vücudumuz, ve hayatımız
hakkındaki veriler de öyle
“bu bana mı ait, bazı şirketlere mi, hükümete mi
ait,
ya da, belki de insan topluluğuna”
şu anda büyük şirketler, verilerin çoğunu elinde
tutuyor
insanlar bu konuda gittikçe endişeleniyor
ancak verileri ulusallaştırmak üzere hükümetleri
koşullandırmak,
sadece dijital diktatörlüğe yol açmak için büyük
şirketlerin gücünü kontrol altına alabilir
ve gerçekten politikacıların, en azından bir çok
politikacının
müzisyenler misali, çaldıkları enstrümanlar;
insanlar, duygular ve biyolojik sistemdir
bir politikacı bir konuşma yapar ve ülkenin dört
bir yanında korku dalgası yayılır
bir politikacı tweet atar ve bir öfke ve nefret
patlaması meydana gelir
şu an, bu müzisyenlere en gelişmiş en sofistike
enstrümanları vermek zorunda olduğumuzu
düşünmüyorum
ve evrendeki hayatın geleceği ile ilgili görev
üstlenmeye hazır olduklarını kesinlikle
düşünmüyorum
Özellikle, birçok siyasetçi ve hükümet geleceğe
ilişkin anlamlı vizyonlar üretmekten aciz
görünmektedir
bunun yerine, geçmişe dönmekle ilgili nostaljik
fanteziler üzerine halka sattıkları şey
ve tarihçi olarak geçmiş hakkında iki şey
söyleyebilirim
her şeyden önce geçmiş eğlenceli değildi,
gerçekten oraya geri dönmek istemezsiniz
ve ikincisi, geçmiş geri gelmiyor
bu yüzden nostaljik fanteziler gerçekten bir
çözüm değildir
peki veri üzerinde kim olmalıdır
açıkçası bilmiyorum”

“bilim evrimin yerini doğal ayıklanma ile,
akıllı tasarım ile değiştiriyor
bulutların üstündeki Tanrı‘nın akıllı tasarımı
değil
bizim akıllı tasarımımız ve bulutlarımızın akıllı
tasarımı
IBM bulut Microsoft bulut bunlar evrimin yeni
itici güçleri”

“ancak sanırım olağan şüphelilerle birlikte
Google ve Facebook gibi büyük şirketlerin
bazıları
neyin tehlikede olduğunu anlıyorlar.
Ayrıca, bazı hükümetlerin,
özellikle Çin hükümetinin, neyin tehlikede
olduğunu anladıklarını düşünüyorum
Bence kesinlikle insanların çoğunun hiçbir fikri
yok”

“Amazon, Alibaba ve gizli polisten
saklanamazsınız
siz internette gezinirken, video izlerken ya da
sosyal medya özet akışlarınızı kontrol ederken;
bu algoritmalar göz hareketlerinizi, kan
basıncınızı ve beyin aktivitelerinizi
izleyebilecekler”

“doğal ayıklanma ile şekillenen dört milyar yıllık
organik yaşamdan sonra
akıllı tasarımın şekillendirdiği inorganik yaşam
dönemine giriyoruz
Verilerin mülkiyetinin bu kadar önemli
olmasının nedeni budur
eğer onu düzenleyemezsek, küçük bir elit,
sadece insan toplumlarının geleceğini değil,
gelecekteki yaşam biçimlerini de kontrol altına
alabilir”

“en iyi kendi ülkemi biliyorum,
İsrail Batı Şeria’da topyekûn bir gözetim rejimi
inşa ediyor
tarihte hemen hemen hiçbir yerde görmediğimiz
bir şekilde
ve her bireyi her yerde takip etmeye çalışmadan
önce
ve yine de biz hala
biyometrik sensörün kritik havzasını geçmedik”

“Bu yüzden uç bir örnek vermek için belki de
Kuzey Kore’de yaşadığınızı varsayalım
ve bedeninizin içinde olan biteni sürekli olarak
izleyen bu bilezik takmak zorundasınız
bir odaya giriyorsunuz ve duvarda Sevgili
Liderin resmini görüyorsunuz
ve bilezik, bu resmi gördüğünüz anda
beyninizde, kan basıncınızda neler olduğunu
bilir
dolayısıyla bu, tam olarak ‘dijital diktatörlük‘ten
kastedilen şey.”

Yuval Noah Harari'nin Davos 2018 Zirvesindeki Konuşmasının Düşündürdükleri makalesini de okumanız önerilir.