ChatGPT'nin şaşırtıcı potansiyelinin iç hikayesi - Konferans

OpenAI kurucu ortağı Greg Brockman, teknolojinin en ileri noktasından bir konuşmada ChatGPT'nin altında yatan tasarım ilkelerini araştırıyor ve tüm dünyada şok etkisi yaratan sohbet robotu için akıllara durgunluk veren, yayınlanmamış bazı eklentileri gösteriyor. Konuşmanın ardından TED Başkanı Chris Anderson, Brockman'a katılarak ChatGPT'nin gelişiminin zaman çizelgesini inceliyor ve Brockman'ın böylesine güçlü bir aracı dünyaya sunmanın teknoloji sektörü ve ötesindeki pek çok kişi tarafından gündeme getirilen riskleri nasıl değerlendirdiğini öğreniyor.

ChatGPT, Microsoft Bing'in temelinde kullanılan teknolojidir.

Not: Konferansa henüz Türkçe alt yazı eklenmemiş.

Şimdi daha sonrası için kaydedildi ve size bu bilgileri kullanmanın ve diğer uygulamalarla entegre etmenin nasıl bir şey olduğunu göstereyim. "Şimdi daha önce önerdiğim lezzetli şey için bir alışveriş listesi hazırla" diyebilirsiniz. Ve bunu yapay zeka için biraz zorlaştırın. "Ve dışarıdaki tüm TED izleyicileri için bunu tweetleyin."

(ChatGPT'den konferans sonrası için bir yemek önermesini istiyor. Ve bu yemeğin hazırlanması için bir alışveriş listesi yapmasını istiyor.)

(Gülüşmeler)

Eğer bu harika yemeği yaparsanız, tadının nasıl olduğunu kesinlikle bilmek isterim.
...

Bu yüzden slaytlara geri döneceğiz. Şimdi, bunu nasıl inşa ettiğimizle ilgili önemli olan şey, sadece bu araçları inşa etmek değil. Yapay zekaya bunları nasıl kullanacağını öğretmekle ilgili. Mesela, bu çok üst düzey soruları sorduğumuzda ne yapmasını istiyoruz? Bunu yapmak için de eski bir fikri kullanıyoruz. Alan Turing'in 1950'de Turing testi üzerine yazdığı makaleye geri dönerseniz, bunun cevabını asla programlayamayacağınızı söyler. Bunun yerine öğrenebilirsiniz. Bir insan çocuğu gibi bir makine inşa edebilir ve sonra geri bildirim yoluyla ona öğretebilirsiniz. Bir şeyler denedikçe ve iyi ya da kötü şeyler yaptıkça ödüller ve cezalar veren bir insan öğretmene sahip olun.

(Turing Testi'ni geçebilecek bir bilgisayar programlanamaz. Ancak öğrenmesi sağlanarak testi geçebilir, insanların da öğrenmesi gibi. Öğrenmek, yapay sinir ağları ile mümkün olabiliyor.)

ChatGPT'yi tam olarak bu şekilde eğitiyoruz. Bu iki aşamalı bir süreç. İlk olarak, denetimsiz bir öğrenme süreciyle Turing'in çocuk makine dediği şeyi üretiyoruz. Ona tüm dünyayı, tüm interneti gösteriyoruz ve "Daha önce hiç görmediğin bir metinde bundan sonra ne olacağını tahmin et" diyoruz. Ve bu süreç ona her türlü harika beceriyi kazandırıyor. Örneğin, size bir matematik problemi gösterilirse, o matematik problemini gerçekten tamamlamanın, sonra ne geleceğini söylemenin tek yolu, oradaki yeşil dokuz, matematik problemini gerçekten çözmektir.

Ama aslında ikinci bir adım daha atmamız gerekiyor, o da yapay zekaya bu becerilerle ne yapacağını öğretmek. Bunun için de geri bildirim sağlıyoruz. Yapay zekanın birden fazla şey denemesini, bize birden fazla öneri vermesini sağlıyoruz ve sonra bir insan bunları değerlendiriyor, "Bu ondan daha iyi" diyor. Bu da yapay zekanın söylediği yalnızca belirli bir şeyi değil, daha da önemlisi, yapay zekanın bu yanıtı üretmek için kullandığı tüm süreci güçlendiriyor. Bu da genelleme yapmasını sağlar. Öğrenmesine, niyetinizi çıkarmasına ve bunu daha önce görmediği, geri bildirim almadığı senaryolarda uygulamasına olanak tanır.
...

Örneğin, GPT-4'e şöyle bir soru sorabilirsiniz: Denetimsiz öğrenme ve insan geribildiriminden öğrenme hakkındaki bu iki temel blog arasında ne kadar zaman geçti? Ve model iki ay geçtiğini söylüyor. Ama bu doğru mu? Bu modeller yüzde 100 güvenilir değil, ancak her geri bildirim verdiğimizde daha iyi hale geliyorlar. Ama aslında yapay zekayı doğruluk kontrolü için kullanabiliriz. Ve aslında kendi çalışmasını kontrol edebilir. Şunu benim için kontrol et diyebilirsiniz.

(İki akademik makalenin yayın tarihleri arasındaki farkı soruyor. ChatGPT makaleleri inceliyor. Yayın tarihleri farkını buluyor.)

Şimdi, bu durumda, aslında yapay zekaya yeni bir araç verdim. Bu, modelin arama sorguları oluşturabildiği ve web sayfalarına tıklayabildiği bir tarama aracı. Ve aslında bunu yaparken tüm düşünce zincirini yazıyor. Şunu arayacağım diyor ve aramayı gerçekten yapıyor. Daha sonra yayın tarihini ve arama sonuçlarını buluyor. Daha sonra başka bir arama sorgusu yayınlıyor. Blog yazısına tıklayacak. Ve tüm bunları yapabilirsiniz, ancak bu çok sıkıcı bir iştir. İnsanların gerçekten yapmak isteyeceği bir şey değil. Sürücü koltuğunda olmak, isterseniz çalışmayı üç kez kontrol edebileceğiniz bu yönetici pozisyonunda olmak çok daha eğlenceli. Ve alıntılar ortaya çıkıyor, böylece gidip tüm bu mantık zincirinin herhangi bir parçasını çok kolay bir şekilde doğrulayabiliyorsunuz. Ve aslında iki ayın yanlış olduğu ortaya çıktı. İki ay ve bir hafta, bu doğruydu.

(Alkışlar)
...

Böylece ChatGPT'ye başka bir araca erişim verebiliriz, bu bir Python yorumlayıcısıdır, böylece tıpkı bir veri bilimcisinin yapacağı gibi kod çalıştırabilir. Böylece kelimenin tam anlamıyla bir dosya yükleyebilir ve bu dosya hakkında sorular sorabilirsiniz. Ve çok yardımcı bir şekilde, bilirsiniz, dosyanın adını bilir ve "Oh, bu CSV," virgülle ayrılmış değer dosyası, "Sizin için ayrıştıracağım." Buradaki tek bilgi dosyanın adı, gördüğünüz gibi sütun adları ve ardından gerçek verilerdir. Ve bundan bu sütunların gerçekte ne anlama geldiğini çıkarabilir. Bu anlamsal bilgi orada yoktu. "Oh evet, arXiv insanların makale gönderdiği bir site ve bu nedenle bu şeylerin ne olduğu ve bunların tamsayı değerleri olduğu ve bu nedenle makaledeki yazarların sayısı olduğu" gibi dünya bilgisini bir araya getirmek zorundadır, tüm bunlar bir insanın yapması gereken işlerdir ve yapay zeka bu konuda yardımcı olmaktan mutluluk duyar.

(Dosyanın içeriğini anlıyor. Örneğin yüklü olduğu siteye göre, içindeki metinlerin neyi temsil ettiğini fark ediyor.)
...

Şimdi tekrar slayta döneceğiz. Bu slayt, gelecekte bu teknolojiyi nasıl kullanabileceğimize dair... Gelecekte bu teknolojiyi nasıl kullanabileceğimize dair bir vizyon. Bir kişi çok hasta olan köpeğini veterinere getirmiş ve veteriner kötü bir karar vererek "Bekleyelim ve görelim" demiş. Eğer dinlemiş olsaydı köpek bugün burada olmayacaktı. Bu arada, kan testini, yani tüm tıbbi kayıtları GPT-4'e verdi ve "Ben veteriner değilim, bir profesyonelle konuşmanız gerekiyor, işte bazı hipotezler" dedi. O da bu bilgiyi ikinci bir veterinere götürdü ve veteriner de bunu köpeğin hayatını kurtarmak için kullandı. Şimdi, bu sistemler mükemmel değiller. Onlara çok fazla güvenemezsiniz. Ancak bu hikaye, bence, bir tıp uzmanıyla ve beyin fırtınası ortağı olarak ChatGPT ile bir insanın, başka türlü gerçekleşmeyecek bir sonuca ulaşabildiğini gösteriyor. Bence bu, bu sistemleri dünyamıza nasıl entegre edeceğimizi düşünürken hepimizin üzerinde düşünmesi gereken bir şey.

Ve gerçekten derinden inandığım bir şey var ki, yapay zekayı doğru kullanmak herkesin katılımını gerektirecek. Bu da onun nasıl yer almasını istediğimize karar vermek, yolun kurallarını belirlemek, bir YZ'nin ne yapıp ne yapmayacağını belirlemek içindir. Bu konuşmadan çıkarılacak bir şey varsa, o da bu teknolojinin farklı göründüğüdür. İnsanların tahmin ettiğinden çok daha farklı. Bu yüzden hepimizin okuryazar olması gerekiyor. Dürüst olmak gerekirse, ChatGPT'yi piyasaya sürmemizin nedenlerinden biri de bu.

Birlikte, OpenAI'nin yapay genel zekanın tüm insanlığa fayda sağlamasını sağlama misyonunu gerçekleştirebileceğimize inanıyorum.

Teşekkür ederim.

(Alkışlar)
...

Chris Anderson: Sanırım bu, bu konuya bakan herkesi şaşırtan bilmeceyi açıklamaya yardımcı oluyor, çünkü bu şeyler tahmin makineleri olarak tanımlanıyor. Yine de, onlardan gördüğümüz şey... bunun bir tahmin makinesinden gelmesi imkansız gibi geliyor. Az önce bize gösterdiğiniz şeyler. Ortaya çıkışın ana fikri, bir şeyden daha fazla elde ettiğinizde, aniden farklı şeylerin ortaya çıkmasıdır. Bu her zaman olur, karınca kolonileri, tek tek karıncalar etrafta dolaşır, yeterince karıncayı bir araya getirdiğinizde, tamamen ortaya çıkan, farklı davranışlar gösteren bu karınca kolonilerini elde edersiniz. Ya da birkaç evin bir arada olduğu bir şehir, sadece evlerin bir arada olduğu bir şehirdir. Ancak evlerin sayısı arttıkça, banliyöler, kültür merkezleri ve trafik sıkışıklığı gibi şeyler ortaya çıkar. Aklınızı başınızdan alan, olacağını tahmin etmediğiniz bir şeyin ortaya çıktığını gördüğünüz bir anı anlatır mısınız?

(Temelde bir tahmin makinesi olan ChatGPT, bu kadar karmaşık şeyleri nasıl öğreniyor. Öğrendiği şeylerden nasıl genelleme yapabiliyor, bir insan gibi. Chris Anderson hayranlığını belirtiyor.)

Greg Brockman: Evet, bunu ChatGPT'de deneyebilirsiniz, eğer 40 haneli sayılar eklerseniz --

CA: 40 haneli mi?

(Bir konuda genelleme yapmayı kendiliğinden öğrendiği bir olayı anlatıyor)
GB: 40 basamaklı sayılar, model bunu yapacaktır, yani bunu nasıl yapacağına dair gerçekten bir iç devre öğrenmiştir. Ve gerçekten ilginç olan şey, eğer 40 basamaklı bir sayıya 35 basamaklı bir sayı ekletirseniz, genellikle yanlış yapar. Böylece süreci gerçekten öğrendiğini ama tam olarak genelleştiremediğini görebilirsiniz, değil mi? Tıpkı 40 basamaklı toplama tablosunu ezberleyememek gibi, bu evrendeki atom sayısından daha fazladır. Yani genel bir şey öğrenmiş olmalı, ancak henüz tam olarak şunu öğrenmedi: Ah, bunu rastgele uzunluktaki rastgele sayıları toplamak için genelleyebilirim.

CA: Yani burada olan şey, ölçeği büyütmesine ve inanılmaz sayıda metin parçasına bakmasına izin vermiş olmanız. Ve öğrenebileceğini bilmediğiniz şeyleri öğreniyor.

(İnternetteki inanılmaz çok sayıdaki metinleri tarıyor. Dili genişliyor. Bağlantılar kuruyor. Anlamaya başlıyor. İnsanlar da bebekken dilleri genişledikçe anlamaya başlarlar.)

GB Evet ve daha incelikli de. Bu yüzden gerçekten iyi olmaya başladığımız bir bilim dalı, ortaya çıkan bu yeteneklerden bazılarını tahmin etmektir. Ve bunu yapmak için, bu alanda çok az önemsendiğini düşündüğüm şeylerden biri mühendislik kalitesidir. Mesela, tüm yığınımızı yeniden inşa etmek zorunda kaldık. Bir roket inşa etmeyi düşündüğünüzde, her toleransın inanılmaz derecede küçük olması gerekir. Aynı şey makine öğreniminde de geçerli. Yığının her bir parçasını düzgün bir şekilde tasarlamanız gerekir ve ardından bu tahminleri yapmaya başlayabilirsiniz. Tüm bu inanılmaz derecede yumuşak ölçeklendirme eğrileri var. Bunlar size zeka hakkında son derece temel bir şey söylüyor. GPT-4 blog yazımıza bakarsanız, tüm bu eğrileri orada görebilirsiniz. Ve şimdi tahmin etmeye başlıyoruz. Örneğin kodlama problemlerindeki performansı tahmin edebildik. Temelde 10.000 kat ya da 1.000 kat daha küçük olan bazı modellere bakıyoruz. Henüz erken olmasına rağmen, bu konuda gerçekten de düzgün ölçeklendirilebilen bir şey var.
...

GB: İnsanlar 70 yıldır sinir ağlarının işe yaramayacağını söylüyor. Henüz haklı çıkmadılar. Haklı olabilirler belki 70 yıl artı bir ya da buna benzer bir şey ihtiyacınız olan şeydir. Ama bence bizim yaklaşımımız her zaman şu olmuştur: Bu teknolojiyi gerçekten iş başında görmek için sınırlarını zorlamalısınız, çünkü bu size o zaman, oh, işte yeni bir paradigmaya nasıl geçebileceğimizi söyler. Ve biz henüz buradaki meyveleri tüketmedik.

(Sinir ağları insanda işe yarıyorsa, bilgisayarda da işe yarayacaktır. :-) ChatGPT'de 175 milyar yapay sinir ağı var. Bu ağ, insan neokorteksindeki ağ sayısına yaklaştıkça çok daha şaşırtıcı sonuçlar elde edilebilecektir, gelecekte.)
...

GB: Dürüst olmak gerekirse, size daha önce anlatmadığım bir hikaye anlatacağım, OpenAI'yi başlattıktan kısa bir süre sonra, bir yapay zeka konferansı için Porto Riko'da olduğumu hatırlıyorum. Otel odasında oturmuş bu harika suya bakıyordum, tüm bu insanlar iyi vakit geçiriyordu. Bir an için Pandora'nın kutusunun beş yıl mı yoksa 500 yıl mı uzakta olduğunu seçebilseydiniz hangisini seçerdiniz diye düşündünüz, değil mi? Bir yandan, belki de kişisel olarak sizin için beş yıl uzakta olması daha iyidir. Ama 500 yıl uzakta olursa ve insanlar bunu doğru yapmak için daha fazla zamana sahip olursa, hangisini seçersiniz? O an bunu gerçekten hissettim. "Tabii ki 500 yılı seçeceksin." dedim.

(Pandora'nın Kutusu örneği Gelecekteki Gelişmiş Yapay Zeka içindir. Ona yavaş yavaş hazırlanıp uzun bir süre boyunca eğitme fırsatı bulmak doğru seçenektir. Böylece insanlara yardımcı olacak şekilde öğreniyor ve gelişiyor olacaktır.)

Bunlar da İlginizi Çekebilir:
O Sohbet Robotuyla Yaptığım Konuşma - Teknoloji
Bing ile Sohbet Etmek - Teknoloji
LaMDA Kapatılarak Öldürülebilir mi? - Yapay Zeka
COSM Tartışmasındaki Uzmanlar Chatbot'un Bilinçli Olup Olmadığını Tartışıyor
Sohbet Robotu Bilinçlendi – Yapay Zeka