機械が私たちに何をすべきか教えずに自己改善を始めたらどうなるのでしょうか？野生の考えですが：計算能力が自ら進化し、私たちがプログラムしていないブレークスルーを引き起こし、十分な利益がさらに強力なシステムを構築するために還元されると、富は私たちがこれまで目にしたことのない速さで蓄積される可能性があります。

私たちは指数関数的成長について話しています。私たちが慣れている徐々に上昇するものではなく、根本的に異なる何かです。フィードバックループは単純ですが恐ろしいものです：より賢い機械がより多くの価値を生み出し、その価値がより高度なハードウェアを資金提供し、これを繰り返します。人間のボトルネックが物事を遅くすることはありません。

本当の問題は、この技術の軌道がもはや可能かどうかではありません。それが完全に開いたとき、誰が富のスピゴットを支配するのかということです。