Apa yang terjadi ketika mesin mulai meningkatkan diri mereka tanpa kita memberi tahu mereka apa yang harus dilakukan? Ini adalah pemikiran liar: jika kekuatan komputasi terus berkembang dengan sendirinya, mendorong terobosan yang tidak kita program, dan cukup keuntungan dialirkan kembali untuk membangun sistem yang lebih kuat—kekayaan bisa menumpuk lebih cepat daripada apa pun yang pernah kita saksikan sebelumnya.

Kami berbicara tentang pertumbuhan eksponensial. Bukan pendakian bertahap yang biasa kita kenal, tetapi sesuatu yang secara fundamental berbeda. Umpan baliknya sederhana namun menakutkan: mesin yang lebih cerdas menghasilkan lebih banyak nilai, nilai tersebut mendanai perangkat keras yang lebih canggih, bilas dan ulang. Tidak ada hambatan manusia yang memperlambat proses.

Pertanyaan sebenarnya bukanlah apakah trajektori teknologi ini masih mungkin terjadi. Melainkan, siapa yang mengendalikan aliran kekayaan ketika semuanya sepenuhnya dibuka.