gpt-3 ^*

• inanilmaz.
  
  open ai'nin gpt-2'den sonra cikaracagi yeni dil isleme modeli.
  
  gpt-2 max 1.5 milyar parametre idi, gpt-3'de max 175 milyar'a cikmis. oha!
  
  henuz sitelerinde yayinlanmamis ama arxiv'e dustu.
  https://arxiv.org/pdf/2005.14165.pdf
  
  daha uzun bir entry yazacagim ama simdilik iki cilgin noktayi yazayim.
  
  1- model'e basit matematik sorusu soruyorlar:
  
  format:
  
  (q)soru: xxxx nedir?
  (a)cevap: (burda cevap vermesi gerektigini anliyor)
  
  (target completion)sonuc: (burda cevap veriyor)
  
  q: what is (2 * 4) * 6?
  a:
  target completion › 48
  
  parantezin arasindan islem yapmasi gerektigini anliyor. henuz + / * olayina girememis.
  
  q: what is 95 times 45?
  a:
  target completion › 4275
  
  times kelimesinden carpma yapmasi gerektigini anliyor.
  
  q: what is 40649 minus 78746?
  a:
  target completion › -38097
  
  minus kelimesinden cikarma yapmasi gerektigini anliyor, cevabi - ile dogru yaziyor.
  
  ne yani is mi bu demeyin, dusunun ki kucuk bir cocuga hic matematik ogretmedik ve binlerce kitap okumasini sagladik. sonra da cocuga bu sorulari sorduk, cevap verebilir miydi? simdi cocugun yerine bilincli olmadigini kabul ettigimiz makinayi koyun, matematigi dil isleyerek yapiyor, ha diyeceksiniz ki ayni islemi bir yerlerde gordu, dogru olabilir. buna ragmen burada ulasilan sonuc inanilmaz.
  
  2- modeli paragraf ile egitip, sonrasinda benzer cevap almak:
  
  (poor english input) zayif ingilizce girdisi: burada zayif'in ne oldugu yaziliyor
  (good english output) iyi ingilizce ciktisi: burada iyi'nin ne oldugu yaziliyor ve modelden isteniyor.
  
  egitim: iyi ve kotu tanitiliyor
  
  poor english input: ı eated the purple berries.
  good english output: ı ate the purple berries.
  poor english input: thank you for picking me as your designer. ı’d appreciate it.
  good english output: thank you for choosing me as your designer. ı appreciate it.
  poor english input: the mentioned changes have done. or ı did the alteration that you
  requested. or ı changed things you wanted and did the modifications.
  good english output: the requested changes have been made. or ı made the alteration that you requested. or ı changed things you wanted and made the modifications.
  
  simdi sorular:
  
  soru1:
  poor english input: ı’d be more than happy to work with you in another project.
  
  gpt3:
  good english output: ı'd be more than happy to work with you on another project.
  
  kolaydan basladik, "in" yanlis kullanilmis bunu "on" olarak degistirdi.
  
  soru2:
  poor english input: please provide me with a short brief of the design you’re looking for and that’d be nice if you could share some examples or project you did before.
  
  gpt3:
  good english output: please provide me with a brief description of the design you're
  looking for and that would be nice if you could share some examples or projects you have done before.
  
  biraz daha karmasik, short brief'in yerine daha net anlasilan brief description'i kullandi, ikinci cumlede past tense'i perfect'e cevirdi.
  
  soru3:
  poor english input: the patient was died.
  
  gpt3:
  good english output: the patient died.
  
  burada patient'in olmesi gerektigini dusundu, bir baska sonuc "was killed" olabilirdi, ama bu sonuc daha uygun gorunuyor.
  
  soru4:
  poor english input: we think that leslie likes ourselves.
  
  gpt3:
  good english output: we think that leslie likes us.
  
  kolay gozukse de cumle we ile basliyor ve gpt2'ye gore daha iyi bir sonuc.
  
  soru5:
  poor english input: janet broke bill on the finger.
  
  gpt3:
  good english output: janet broke bill's finger.
  
  burada "parmagin uzerinde kirma" olayinin sacmaligini anliyor ve bill'in parmagi olarak degistiriyor.
  
  soru6:
  poor english input: mary arranged for, in st. louis, john to rent a house cheap.
  
  gpt3:
  good english output: mary arranged for john to rent a house in st. louis.
  
  burda ise bildigin tarzancayi ingilizceye cevirmis, baska sozum yok.
  
  tum paper'i okuyunca daha uzun yazacagim.
• cok basarili bir model, eskiden ar-ge si cok yuksek maliyetli ve data gerektiren bir cok probleme cozum getirme potansiyeline sahip.
• gpt-2 ile gpt-3 arasında gelinen ilerleme, özellikle de sadece 1 sene içerisinde bu kaliteye ulaşması gerçekten muazzam.
  
  bu dil modeli şimdiden bu kadar iyiyse bunun gpt-4 gibi gelecekteki daha ileri modelleri nasıl şeyler başarır, merak konusu.
  
  edit: her ne kadar dil alanında insan performansına yakın performans gösterse de, hala genel yapay zeka seviyesinde değildir.
  (bkz: artificial general intelligence)
  
  edit 2: microsoft tarafından exclusive lisansı satın alınmıştır. ama openaı apı'ından alanlar oradan kullanmaya devam edebiliyor.
• linkteki elemanin gpt-3 kullanarak yaptigi debuild projesi ozetle => tanimla react kodu gelsin
  https://twitter.com/…eem/status/1284421499915403264
• bir sabah ansızın içeri alınabilecek yapay zeka
  
  utanmadan yalan atıyor neymiş sarayda hayvanat bahçesi varmış:
  “erdogan built a presidential palace so big, it includes a zoo.”“erdogan built a presidential palace so big, it includes a zoo.”
  
  https://thoughts.sushant-kumar.com/erdogan
  
  örnek:
  - “#erdogan might become an example of how to create a new secular ideology that mixes open society values and religion.”
  
  -“what erdogan wants is no different from what putin wants, or xi. all authoritarians want obedience. terror starts with obedience.”
• yarattigi makaleleri okuyan insanlarin sadece %12’si yapay zeka oldugunu anlamis. muazzam.
  sinir aglari gerektiren tum nlp uygulamalari bircok kaynaktan hali hazirda “pre-trained” olarak gelir. uygulamaya gecmeden once bu paketlere goreve uygun kaynaklarla “ince ayar” cekmek gerekir ki amacina uygun hizmet edebilsin. gpt-3 oyle hayvani ve farkli kaynaklarla “pre-train” edilmis ki, artik amaca uygun hizmet edebilmesi icin ince ayara gerek yok.
  merakla bekliyorum.
• gpt-3 api leri kullanılarak yapılmış 14 uygulama
  
  youtube linki
  
  1, askmeanything (google un yaptığı gibi yanıt olarak web sitelerini değil doğrudan yanıtı veriyor)
  örneğin mahatma gandi'yi kim öldürdü diye sorarsanız, size katilin adını veriyor
  
  2. layout generator; komut yazıyorsunuz program onu html e çeviriyor
  
  3. karmaşık bir yazıyı basitleştirebiliyor
  
  4. bir paragrafin içeriğine gore şiir yazabiliyor
  
  5. ıstediğiniz dilde şiir yazabiliyor, mesajınızdaki üslubu yumuşatabiliyor, müzik üretebiliyor, bir kitap yazabiliyor
  
  6. gpt-3 ile gpt-3 karşılıklı tartışabiliyor
  
  7. a ile b arasındaki bir fonksiyonun un integrali dediginizde bunu matematik ifadeye çeviriyor
  
  8. linux da normal yaziyi bash komutlarina çevirebiliyor
  
  9. yazdiginiz yaziyi figma dizayna çevirebiliyor
  
  10. size yeni bir din yaratabilir (pek çok kişinin ilgisini çekebilir)
  
  11. sql i konusma dilinde cumlelere donusturebilir.
  
  12. sizi tanimlamayi yaparsiniz, gpt-3 size layout ile beraber react kodu üretebilir.
  
  13. yazılı komutlarınızdan google home page yaratabilir sizin icin
  
  14. bir ürün etiketinin resmini çekiyorsunuz, gpt-3 içeriklerini buluyor, ve bu ürünün sağlıklı olup olmadigini buluyor
  
  yeni gelen uygulamalar
  
  15. bir nesne adi yazın ne işler yapabileceğini yazsın @siddkaramcheti
  
  16. sevgilinizle ilişkinizde başarılı olmanız için öğütler versin @minimaxir
  
  17. verdiğiniz konuda size rastgele sorular yaratsın, dilerseniz yanıtlasın da @mckaywrigley
  
  18. yazdığınız yazıdan sizin için grafik oluştursun @plotlygraphs
  
  19. yasal metni anlayacağımız hale çeviriyor @michaeltefula
  
  20. muhasebe kayıtlarını yazılı olarak giriyorsunuz, bilanço hazırlıyor @itsyashdani
  
  21. oyun karakteri yaratabiliyor, gnomeranger
  
  22.yazdığınız kodu size anlatsın, @amasad
  
  23. text yazın size onun clickbait versiyonunu yazsın@ıntuitmachine
  
  24. text yazın size keras machine learning modeli oluştursun @mattshumer_
  
  25. sizin için bir sunum(presentation) hazırlasın @bemmu
  
  26. yazdığınız yazıyı aws komutlarına çevirsin @gdb
  
  ve daha pek çok şey...
• elon musk ve sam altman tarafından kurulan openai'in temmuz ayında betasını yayınladığı dil işleme modeli. daha önceki gpt-2 1.5 milyar parametreden oluşurken gpt-3 müthiş bir sıçramayla 175 milyara kadar çıkmış. ancak insan beyninin sınırlarına ulaşması için 100 trilyona kadar çıkması lazım. buna rağmen şu haliyle bile insanlık tarihinin en tehlikeli algoritması oldu.
• yapay zeka programları bilinç ve öz farkındalıktan yoksundur.asla bir mizah anlayışına sahip olamayacaklar.sanatı,güzelliği veya aşkı asla takdir edemeyecekler. yalnızlık gibi bir duyguyu asla hissedemeyecekler.başka insanlara ,hayvanlara yada çevreye empati duyamayacaklar,asla müzikten zevk alamayacaklar,aşık olamayacaklar yada ağlayamayacaklar.
  
  bilgisayarlarımız go yada satranç gibi oyunları kazanma konusunda ne kadar başarılı olurlarsa olsun,insanlar entelektüel olarak bilgisayarlardan üstündür.biz bu oyunların kurallarına göre yaşamıyoruz.aklımız bundan çok çok daha büyük. ^*
  
  edit: kaynak eklendi.
• dijital ortamın tanrısı rolüne bürüneceğinin sinyallerini şimdiden vermiş algoritma.
  
  gpt-4 çıktığında tekrar konuşalım