gpt-4

• openai'nin generative pre-training'inin 4. surumu.
  
  gpt haziran 2018'de cikti, parametre sayisi belirtilmemis ama tahminen en iyi hali 355m parametre civariydi.
  
  gpt-2 subat 2019'da yayinlandi, 1.5milyar parametre olani en guclusuydu.
  
  gpt-3 haziran 2020'de yayinlandi ve parametre sayisi 175 milyara cikti.
  
  tahminen gpt-4'un gelmesi subat 2022'den cok daha sonraya denk gelecek. su anki donanimla 175b parametreyi egitmek bile inanilmaz islem gucu istiyor.
  
  model adi, egitim icin gereken standart gun sayisi - islem gucu, parametre sayisi.
  
  gpt-3 xl 27,5 gun - 2,38e+21 flops 1.320m parametre - yaklasik gpt2-1.5b esdegeri
  gpt-3 13b 268 gun - 23,1e+21 flops 12.850m parametre
  gpt-3 175b 3640 gun - 314e+21 flops 174.600m parametre - gpt3 en iyisi
  
  esdeger geometrik buyumeyi dusunelim (tam 1:1 fit olmayabilir):
  
  gpt-4 1,5t ~27.500gun - 2.380e+21 flops 1.500.000m paremetre - gpt4 giris seviyesi
  gpt-4 17t ~364.000gun - 31.400e+21 flops 17.000.000m parametre - gpt4 state of art
  
  su anda boyle bir islem gucune anca google'in tum donanimi kullanilirsa ulasilabilir, o da kac gun surer belli degil. buradan yola cikarak gpt-4'un gercek haliyle gelmesini 2023/2025 arasinda tahmin edebiliriz.
  
  ha bu arada adini gpt-4 koyacaklari, optimize modeller olacaktir ama geometrik buyumeyi temsil eden gercek gpt-4 tahminen kolay kolay gelemeyecek. gpt-3'un potansiyeli goz onunde bulundurulursa, gpt-4 insan seviyesinde dil isleyebilir hale gelebilir.
  
  (bkz: başlık parsellemek)
  
  https://arxiv.org/pdf/2005.14165.pdf
• open ai'ın yakın gelecekte tanıtacağını düşündüğüm generative pre-trained transformer'ın yeni sürümüdür.
  (bkz: eskiden buralar hep dutluktu)
• yapay zeka konusunda beni en çok heyecanlandıran proje.
  
  geleceğin teknolojisi belki de önümüzde büyüyor. belki bir bilince bile kavuşabilir. bilinç dediğimiz şeyi tam olarak özetleyemiyoruz. bir yapay zeka lütfen fişimi çekmeyin dediğinde birşeyleri mi taklit ediyor yoksa kendi fikrini mi belirtiyor bunu hiçbir zaman bilemeyeceğiz. lakin bir insana göre daha işlevsel düşüncelerle sorunlara karşı daha kreatif bakış açısı kazanmış ve yorulma yada depresyona girme gibi sorunları olmadan safi düşünce gücünü yansıtabilecek bir zeka insanlığın gelecek adına en büyük destekleyicisi olacaktır.
  
  vereceği zararlar ve sağlayacağı faydalar zaman içerisinden görülecektir.
• 100 trilyon parametreyle (gpt-3’un 175 milyar parametresine kiyasla 500 kat buyumek demek bu) geliyor.
  
  uc kurusluk aklimiz kaldi, onu da ai alacak. bu gidisle, 10-20 yila kadar cikacak olan gpt-14 pro max hepimizi esir eder diye dusunuyorum.
• eğer yazılımcıysanız ve burayı okuduğunuzda gpt-4 çıkmışsa ve transformerların (yapay zeka konusu olan) nasıl çalıştığını bilmiyorsanız birkaç yıl içinde işsiz kalma ihtimaliniz ( gpt-3'deki parametre sayısı/gpt-4'deki parametre sayısı ) * 62
• openaı, gpt-3.5 kullanan chatgpt ile milyonlarca insanın adeta aklını başından aldı.
  gpt-4'ün içerik üretiminde yaratacağı devrimi düşündükçe insanın başı dönüyor.
  
  artık açıklansın, her yere koyalım 4'ü.
• gpt-4'ün gücünü gösteren bir görsel
  
  geliyor gelmekte olan...
  
  --- spoiler ---
  gpt-4 is rumored to be coming soon, sometime between dec - feb
  
  - gpt-3 has 175 billion parameters
  - gpt-4 supposedly has 100 trillion parameters
  
  ıt is something like 500x more powerful than gpt-3
  
  what kinda stuff will you be able to create with gpt-4!?
  
  https://twitter.com/…old/status/1594889562526027777
  --- spoiler ---
• hakkında büyük dedikoduların olduğu büyük dil modeli. dilden başka modaliteleri de kabul edeceği dillendiriliyor.
• galiba geliyor gelmekte olan.
  
  bu yapay zeka artış hızlarının logaritmik ölçekte olması, çok ilginç şeylere gebe. bu durumda 2025, 2027 ve 2030 yıllarında gelecek yeni modeller ile ai filmlerde anlatılanlara bile galiba yaklaşacak. ben bu devrime 3-4 yıl önce inanmıyordum ama biraz korkutmuyor değil artık.
• hoş geldin samaritan bebek.
  
  (bkz: person of interest) (bkz: samaritan)