• anthropic adli bir yapay zeka girisimi var, openai'dan ayrilan birkac kisice kurulan. bu anthropic'in ceo'su alex albert gecenlerde cok ilginc buldugum bir sey soyledi twitter'da.

    anthropic de llm tabanli bir yapay zeka projesi, agi olma iddialari yok (henuz). iste bu anthropic'i egitirken buna deliler gibi text yediriyorlar diger herkes gibi. bir noktada, teknoloji, bilim ve girisimcilikle ilgili cok uzun bir metin veriliyor anthropic'in yapay zeka urunu olan claude'a ve bu metnin bir yerine de bu konularla hic ilgisi olmayan bir pizza tarifi yerlestiriliyor. amaclari, alakasiz bir yerde de olsa, kendisine verilen bu bilgiyi kavrayip gerektiginde kullanip kullanamayacagini olcmek.

    claude olacak kerata ise bu beklentileri cok asan bir tepki veriyor; pizza tarifini ogrenmekle kalmiyor, egitimin sonunda dipnot olarak "bu arada, tum o teknoloji ve is hayatiyla ilgili konularin arasinda kisaca deginilen pizza tarifini de cok ilginc buldum, bence o kismi bilincli olarak metne yerlestirdiniz. bu absurdlugu fark edip etmeyecegimi test etme amaci guduyordunuz belki de" gibi sok edici bir yorumda bulunuyor.

    iste bu minik detayi agi'a giden yolda dikkate deger bir adim olarak goruyorum ben.
  • joshua tenenbaum'un mit'de agi hakkında yaptığı giriş seviyesindeki konuşmaya şuradan erişilebilir.
  • simdi bilgisayarda kod neyim ugrasirken genel zeka yapimina giden yolda onemli bir adim olabilecek bir fikir geldi aklima. daha once yapilmis mi, baska birisinin aklina da gelmis mi bilmiyorum. (biliyorsaniz ya ayar verip ya da mesaj atip soyleyin ben de ogreneyim- gerci douglas hofstadter bunu mutlaka dusunmustur)

    simdi fikre gelelim

    oyle bir programlama dili olsun ki, bu programlama dili normal bir programlama dilinin yapabildigigi seylerin yaninda sunlari da yapabilsin;

    1. yazilan program compile edildiginde kendisi yeni compile edilmeye hazir text dosyalari yaratabilsin.

    misal programimizin dosya uzantisi .agi olsun (konuyu basliga iste boyle baglarim)

    simdi agi uzantili compile edilebilir test1.agi isimli dosyada su satirlar yazabilsin

    create a file named 'test2.agi'
    which includes
    for i=3:10
    create a file named 'test(i).agi'
    end

    bir baska deyisle program kendi benzeri programlari yaratmaya muktedir olsun. bu durumda text1.agi text2.agi nin meta programi olmus olur. program yazabilen bir program

    2. yazilan program calistirildiginda kendi benzerlerini editleyebilsin
    ornegin bu kez elimizde 2 farkli dosya olsun; test1.agi test2.agi

    test2.agi inin icinde atiyorum 20. satirda su yaziyor olsun
    print 'hello world 1'

    test1.agi nin icinde de su yazabilsin

    search the file named 'text2.agi'
    replace the text "print 'hello world (i)'" with "print 'hello world (i+1)'"

    text1.agi yi calistirinca text2.agi nin 20. satiri print 'hello world 2' ye donussun

    3. bu zaten diger programlama dillerinde de olan bir ozellik ama yazmak istiyorum
    yazilan program calistiginda kendi benzeri programlari calistirabilsin

    gene elimizde iki farkli dosya olsun text1.agi ve text2.agi

    text 1 agi nin icinde soyle bir komut olabilsin
    run text2.agi

    4 benim icin en onemlisi program calistiginda kendisini cagirabilsin ve editleyebilsin

    misal soyle bir dongu yazmak mumkun olsun

    test1. agi inin icinde

    i=1
    print 'hello world (i)'
    search the file named 'text1.agi'
    replace the text "print 'hello world (i)'" with "print 'hello world (i+1)'"
    run 'text1.agi'
    stop if i=100

    yazabilsin mesela

    simdi bu kodun cikti olarak for loopundan bir farki olmasa da, bu kod sistemin kendi kendisini refere edip editleyebilmesine olanak saglamasi yuzunden for loopdan cok daha derin bir felsefi anlam barindiriyor

    5. (bu opsiyonel cunku zannimca programin isletim sistemi duzeyinde yetkileri olmasini gerektiriyor)

    program kendisini meta ozelliklerini editleyebilsin. bu ornekte dosya adi ve icinde bulundugu folder.

    misal general_folder>folder1 isimli folderin icindeki test1.agi de sunlar yazabilsin

    i=# in the own file name
    j=# in the own folder name
    create a folder 'general_folder>folder(i+1)'
    move general_folder>folder(j)>test(i).agi to general_folder>folder(j+1)>test(i)
    rename general_folder>folder(j+1)>test(i).agi as general_folder>folder(j+1)>test(i+1).agi
    delete general_folder>folder(j)

    boyle bir programda programlama yaparken matrixler arrayler olusturup onlarla islemler yapabildigimiz gibi *.agi dosyalari olusturup onlarla da islemler yapabiliriz.
  • çok güzel bir wiki sayfasına sahiptir.

    weak aı, strong aı gibi kavramlara da atıfta bulunup tarihsel olarak değerlendirmiştir.

    marvin minsky'den john mccarthy'ye oradan futuristlere, önceki tahminlere ve tahminlerin gerekçelerine güzel bir şekilde comprehensive olarak değinmiştir.

    aı'in hype olduğu 2018'lerde birçok kişi gibi benim de yanildigim; bu sonuçta lineer cebir ile machine learning, dolayısıyla oldukça mekanik olduğundan bundan bir cacık olmaz, olursa da uzun yıllar alır diyenlerin ve benim, doğru tahminlerde bulunanların en makul argümanlarınin computation power olduğunu görünce artık öyle düşünmüyorum dediğini de görüyoruz. gerçi ben çok katmanlı yapay sinir aglarini biraz da olsun gerçekten anlamaya başlayınca, daha chatgpt popüler olmadan ulan yanlış düşünmüşum aslında bu ara sinirler gerçekten de birbiriyle ilişkili ama kelimelerle ifade edilen türetilmiş parametreleri bulabiliyor vay anasını gerçekten bununla her şey yapılabilir, agi mümkün demiştim.

    computational resources ihtiyacı ile paralel olduğunu aslında brain emulation bakış açısı daha çok sezdiriyor, çünkü orada birtakim projeksiyonlara yer verilmiş insandaki nöron sayısı vs.ye göre ne kadar süre alınacağı gibi.

    geriye doğru bakınca aslında, aslında 2005lerden sonra computing alanında 'no free lunch' teoremi ve john mccarthy'in caps lerinde yazılan 'programmers you are doing completely wrong' un aslında lamba calculus ile functional programming ile imperative programming yerine computing resource'lari daha efektif kullanmak için onun bu bağlamda çalıştığını ve aı konusunda yorum yapmasının da bu bağlamda aı in gelişmesinin computing resourcelara ve bunları efektif kullanmaya bağlı olduğunu görüyoruz. sadece bu bakış açısıyla fp ya da actor modelin akademide calisilmaya 1970lerde başlaması ve 40 yıl sonra ortam sağlandıktan sonra kullanılmaya başlanması da teoride mümkün olan ve modelleri hazır olan fikirlerin computation environment mümkün olduğunda nasıl hızlı endüstriye geçtiğini ve hype olduğunu görüyor insan.

    bu yazdıklarım burada dursun bakalım ne olacak. gerçi gelinen noktada, yapilsa ya da yapılmakta olsa bile, su anda gerçekten de regülatörlerin kontrolünde ilerliyor görünüyor.
  • şu an yapılan llm'in 5 sene öncesinden farkı sadece daha çok data ve işlemci gücüne sahip olması. tabii training konusunda da gelişmeler var, zaten openai'ın yapıp google'ın yapamadığı da training farkından kaynaklanıyor. ama temelde değişen bir şey yok. generative ai denilen şey dummy. problemi nasıl çözdüğünü bilmiyoruz. bir de causal ai var. burda problem nasıl çözülüyor biliniyor. ama bu henüz çok daha emekleme aşamasında. llm gibi şeyler burda yok.

    agi'ye çok yakın zamanda yani en azından 2050'den önce ulaşılamayacak olmasının başka bir sebebi de problemin exponential büyümesi ancak data ve işlemci gücü artışının bu hıza yetişememesi.

    data miktarını exponential arttırsanız bile sonuçta elde ettiğiniz datanın size faydası exponential artmıyor, logaritmik artıyor. olasılık teorisiyle uğraşan arkadaşlar dediğimi anlayacaktır.

    aynı şekilde işlemci gücü artışında da limitlere geldik. artık moore yasasına göre 18 ayda bir işlemci gücünün 2 katına çıkması pek mümkün olmayacak. burada fiziksel bir sınır var.

    yani işin özeti verimli çalışan quantum bilgisayarlar gibi teknolojik bir sıçrama olmadan agi yalan. agi için gerekli datanın toplanabilmesi için de kullandığımız çatal bıçaktan oturduğumuz koltuğa kadar her şeye çip takılması gerekiyor.

    nasıl ki bundan 5 sene önce tamam artık sürücüsüz araçlar oldu, tır şöförleri, taksiciler işsiz kalacak dedik ama böyle bir şey olmadı. hala dünyada tır şöförü kıtlığı var, agi olayı da böyle. giderek yaklaşmaya devam edeceğiz fakat ulaşmamız zaman alacak.
  • (bkz: q star)
  • korkulmasi gereken bu degil (killanmakta fayda var). asil korkulmasi gereken asi

    (bkz: artificial superintelligence)
  • şirketler dünyasının "atom bombası".

    nasıl ki 2. dünya savaşında tüm ülkeler atom bombasını bulmak için yarış halindeydi. ve bulan ülke aslında dünyanın da lideri olacaktı.

    aynı şey bunda da geçerli.
    bu vatandaşa ilk ulaşan şirket her şeye hakim olacak. microsoft da artık bu bayrağı neredeyse tek başına taşıma durumunda.
  • korkulması gereken yapay zeka kategorisi.
    insan zekasını taklit eder.
  • "general intelligence is the ability to solve a variety of complex problems in a variety of complex environments." diyor ben grotzel. yapay zeka ve benzeri konularda kavramlar henüz tam anlamı ile yerine oturmamış olsa da, bir satranç programı için yapay zeka terimini kullanır ve satranç programının go oynayamayacagını hesaba katar isek değişen karmaşık ortamlardaki karmaşık problemleri çözen yapay zekaya genel yapay zeka diyebiliriz.

    bu hadise ile ugraşan insanların bir de enstitüsü var. gerçi bu son krizden sonra kepenk kapatma ihtimalleri oldugunu düsünsem de barrack ın başkan olması ile umutlarımız yeşerdi.

    (bkz: yapay zihin)
    bir de şöyle bir kitap var
    http://www.springer.com/…ial/book/978-3-540-23733-4
hesabın var mı? giriş yap