paperclip maximizer

• bu tarz düşünce deneyleri bana çok farazi geliyor. konu hakkında uzman denecek bir bilgim yok ama bunları düşünen insanların da fazla teknik bilgisi olduğunu düşünmüyorum açıkçası. sonuçta bu teknolojiyi en önden takip eden mark zuckerberg ve elon musk gibi insanlar bile halen tartışıyorlar yapay zekanın kötü sonuçlarının olup olmayacağını.
  ancak burdaki sorun yapay zeka hakkında birkaç bilgiyi kullanarak durumu edebiyatlaştırma gibi duruyor. yapay zeka ne olursa olsun insani değerleri olmayacakmış. insanın değeri var mı ki? insan da tamamen kendi çıkarlarına göre hareket ediyor. eğer cidden tüm her şeyden ataç üretmek mantıklı olsaydı insan da bunu yapardı ya da en azından yapmanın yolunu düşünürdü. kapitalist sistem de emeği sonuna kadar kullanıp üretimi her zaman arttırmayı amaçlamıyor mu zaten?
  
  her zaman kar-zarar hesabımızı yapıyoruz ve ona göre hareket ediyoruz. ortada insani değerden çok zarara sokabilecek durumlardan kaçınmak var.
  
  bu yapay zekanın durumundaysa yapay zeka kendini bir varlık olarak görebiliyorsa ve varoluşunu sürdürmek de amacındaysa, bu durumda varoluşunu tehlikeye sokacak hareketlerden kaçınacaktır. bu da en basitinden yaratıcısı olan insanı yoketmemek olur.
  eğer yok yapay zeka varoluşunun bilincinde değilse ve sadece programlandığı doğrultuda çalışıyorsa o zaman kontrolün büyük kısmı hala insandadır ve bu algoritmaya kırmızı çizgiler pekala koyabilir.
  
  sonuç olarak bir yapay zekanın dünyayı, insanlığı ele geçirmesi mantıksız geliyor. hele ki sözkonusu yapay zeka bir ataç şirketinde tek başına bir yapay zekaysa.
  belki internet bağlantısı durumunda tüm yapay zekaların birbirlerine bağlandığı senaryolarda bu düşünülebilir.
  ya ben felsefeden anlamıyorum ya da bu insanlar yapay zekayı konuşmaktan çok felaket tellallığı yapmayı seviyor.
  yani (bkz: bilemiyorum altan)