scheduler
-
zamanlama çizelgesi
-
altıncı nesil bir yazar.
-
solaris'de bu isten sorumlu process'in pid'i 0'dir. yani, diger unix'lerin aksine init'den dusuk pid numarasina sahiptir.
-
uçmuş bir yazar.
(bkz: sourlines) -
iş düzenleyicisi.
-
(bkz: learning rate scheduler) bir modeli egitirken batch size, regularization parametreleri, momentum vs'den kat kat onemli oldugu kanitlanmis learning rate'i belirlemek icin kullanilan arac.
cosine scheduling, constant ramp, linear warmup decay gibi turleri vardir. butun olay learning rate'i sabit tutmayarak local minimum'da takilip kalinmasini onlemek uzerinedir. cok kasmaya gerek olmadan, basit bir linear ramp up -> sonra da sifira dogru azalan bir scheduler kullanmak buyuk oranda yeterlidir.
her ne kadar makalelerde 1000 adim 2000 adim warmup onerilse de, warmup suresinin verisetinin boyutuna gore (ornegin ilk yuzde 2 adimda maksimum lr'ye cik gibi) ayarlanmasi daha mantiklidir. genelde yuzde 1-2 arasi warmup idealdir.
ekşi sözlük kullanıcılarıyla mesajlaşmak ve yazdıkları entry'leri
takip etmek için giriş yapmalısın.
hesabın var mı? giriş yap