Makineler kendilerini iyileştirmeye başladığında ve biz onlara ne yapacaklarını söylemediğimizde ne olur? İşte çılgın bir düşünce: eğer hesaplama gücü kendi kendine evrimleşmeye devam ederse, programladığımızın ötesinde atılımlar gerçekleştirirse ve yeterli kârlar daha da güçlü sistemler inşa etmek için geri dönerse—zenginlik, daha önce hiç tanık olmadığımız bir hızda birikmeye başlayabilir.

Bize üstel büyümeyi konuşuyoruz. Alıştığımız yavaş yavaş yükseliş değil, temelde farklı bir şey. Geri bildirim döngüsü basit ama korkutucu: daha akıllı makineler daha fazla değer üretir, o değer daha gelişmiş donanımı finanse eder, durulup tekrar edilir. Hiçbir insan darboğazı işleri yavaşlatmaz.

Gerçek soru bu teknolojik eğilimin artık mümkün olup olmadığı değil. Tam anlamıyla açıldığında zenginlik musluğunu kimin kontrol edeceğidir.