O que acontece quando as máquinas começam a melhorar a si mesmas sem que nós lhes digamos o que fazer? Aqui está um pensamento selvagem: se o poder de computação continuar a evoluir por conta própria, gerando inovações que não programamos, e lucros suficientes forem canalizados de volta para construir sistemas ainda mais robustos—riqueza pode acumular-se mais rapidamente do que qualquer coisa que já testemunhámos antes.

Estamos a falar de crescimento exponencial. Não a subida gradual a que estamos habituados, mas algo fundamentalmente diferente. O ciclo de feedback é simples, mas aterrador: máquinas mais inteligentes geram mais valor, esse valor financia hardware mais avançado, e assim sucessivamente. Não há gargalos humanos que desacelerem o processo.

A verdadeira questão não é se essa trajetória tecnológica é mais possível. É quem controla a torneira da riqueza quando ela se abrir totalmente.