• inanilmaz.

    open ai'nin gpt-2'den sonra cikaracagi yeni dil isleme modeli.

    gpt-2 max 1.5 milyar parametre idi, gpt-3'de max 175 milyar'a cikmis. oha!

    henuz sitelerinde yayinlanmamis ama arxiv'e dustu.
    https://arxiv.org/pdf/2005.14165.pdf

    daha uzun bir entry yazacagim ama simdilik iki cilgin noktayi yazayim.

    1- model'e basit matematik sorusu soruyorlar:

    format:

    (q)soru: xxxx nedir?
    (a)cevap: (burda cevap vermesi gerektigini anliyor)

    (target completion)sonuc: (burda cevap veriyor)

    q: what is (2 * 4) * 6?
    a:
    target completion › 48

    parantezin arasindan islem yapmasi gerektigini anliyor. henuz + / * olayina girememis.

    q: what is 95 times 45?
    a:
    target completion › 4275

    times kelimesinden carpma yapmasi gerektigini anliyor.

    q: what is 40649 minus 78746?
    a:
    target completion › -38097

    minus kelimesinden cikarma yapmasi gerektigini anliyor, cevabi - ile dogru yaziyor.

    ne yani is mi bu demeyin, dusunun ki kucuk bir cocuga hic matematik ogretmedik ve binlerce kitap okumasini sagladik. sonra da cocuga bu sorulari sorduk, cevap verebilir miydi? simdi cocugun yerine bilincli olmadigini kabul ettigimiz makinayi koyun, matematigi dil isleyerek yapiyor, ha diyeceksiniz ki ayni islemi bir yerlerde gordu, dogru olabilir. buna ragmen burada ulasilan sonuc inanilmaz.

    2- modeli paragraf ile egitip, sonrasinda benzer cevap almak:

    (poor english input) zayif ingilizce girdisi: burada zayif'in ne oldugu yaziliyor
    (good english output) iyi ingilizce ciktisi: burada iyi'nin ne oldugu yaziliyor ve modelden isteniyor.

    egitim: iyi ve kotu tanitiliyor

    poor english input: ı eated the purple berries.
    good english output: ı ate the purple berries.
    poor english input: thank you for picking me as your designer. ı’d appreciate it.
    good english output: thank you for choosing me as your designer. ı appreciate it.
    poor english input: the mentioned changes have done. or ı did the alteration that you
    requested. or ı changed things you wanted and did the modifications.
    good english output: the requested changes have been made. or ı made the alteration that you requested. or ı changed things you wanted and made the modifications.

    simdi sorular:

    soru1:
    poor english input: ı’d be more than happy to work with you in another project.

    gpt3:
    good english output: ı'd be more than happy to work with you on another project.

    kolaydan basladik, "in" yanlis kullanilmis bunu "on" olarak degistirdi.

    soru2:
    poor english input: please provide me with a short brief of the design you’re looking for and that’d be nice if you could share some examples or project you did before.

    gpt3:
    good english output: please provide me with a brief description of the design you're
    looking for and that would be nice if you could share some examples or projects you have done before.

    biraz daha karmasik, short brief'in yerine daha net anlasilan brief description'i kullandi, ikinci cumlede past tense'i perfect'e cevirdi.

    soru3:
    poor english input: the patient was died.

    gpt3:
    good english output: the patient died.

    burada patient'in olmesi gerektigini dusundu, bir baska sonuc "was killed" olabilirdi, ama bu sonuc daha uygun gorunuyor.

    soru4:
    poor english input: we think that leslie likes ourselves.

    gpt3:
    good english output: we think that leslie likes us.

    kolay gozukse de cumle we ile basliyor ve gpt2'ye gore daha iyi bir sonuc.

    soru5:
    poor english input: janet broke bill on the finger.

    gpt3:
    good english output: janet broke bill's finger.

    burada "parmagin uzerinde kirma" olayinin sacmaligini anliyor ve bill'in parmagi olarak degistiriyor.

    soru6:
    poor english input: mary arranged for, in st. louis, john to rent a house cheap.

    gpt3:
    good english output: mary arranged for john to rent a house in st. louis.

    burda ise bildigin tarzancayi ingilizceye cevirmis, baska sozum yok.

    tum paper'i okuyunca daha uzun yazacagim.
140 entry daha
hesabın var mı? giriş yap