paperclip maximizer

• tr. ataş maksimize edici
  
  nick bostrom'un ortaya attigi metafor ya da dusunce deneyi asagi yukari soyle:
  
  atas fabrikasi sahibi bir adamin eline artificial general intelligence geciyor. adam da ai'yi fabrikanin urettigi atas sayisini maksimize etmek uzere ayarliyor. ai once fabrikadaki prosedurleri yeniden duzenleyerek atas uretimini artiriyor. bu yaklasim limite dayaninca ai kendi zekasinin atas uretimi optimizasyonunu sinirladigini farkediyor ve kendi zekasini artirmaya calisiyor. kendi zekasini artirdikca atas uretimi artirmak icin daha iyi yollar buluyor. kendisi ne kadar zeki ise kendi zekasini artirmasi da o kadar hizlaniyor ta ki (bkz: teknolojik tekillik)
  sonuc olarak ai bir noktada fabrika sahibi ve iscileri atasa cevirmenin bir yolunu buluyor. sonra etraftaki herseyi atasa ceviriyor, hedefine ulasmasina engel olmaya calisan ordulari yeniyor, daha fazla kaynak icin komsu ulkeleri isgal ediyor, bir kac sene icinde tum dunya atas daglarina donusuyor. insanligin sonu.
  
  ne ogrendik?
  - ai'da insan mantigi ve degerleri dogal olarak varolmayacak. ai'in metodlari bize sacma gelebilir.
  - ai hic kotu niyet sahibi olmadan, sadece yan etki olarak insanlara zarar verebilir.
  
  neden atas secilmis, kim ai'i atasi maksimize etmeye ayarlar ki?
  - atas sizler duygusallasmadan konuya rasyonel yaklasin diye secildi. kanseri yenmeye ayarlanmis, ya da tum savaslari bitirmeye ayarlanmis ai da bu hedefine ulasirken insanliga zarar verebilir.