Perancangan mekanisme adalah jembatan yang hilang antara AI dan web3

Sebagian besar penelitian penyesuaian AI berfokus pada menyelaraskan AI dengan pengguna manusia mereka: mengajarkan agen untuk menyimpulkan, mengikuti, atau menunda preferensi kita. Tetapi seiring adopsi AI yang berkembang, kita memasuki pengaturan yang berbeda: jaringan agen yang bertindak atas nama orang dan organisasi, menawar, meramalkan, menjadwalkan, bernegosiasi, dan bersaing satu sama lain.

Ringkasan

• Penyesuaian AI beralih dari mengajarkan model tunggal untuk mengikuti preferensi manusia menuju pengelolaan jaringan agen yang bertindak, bernegosiasi, dan bersaing atas nama manusia dan organisasi.
• Tantangan sebenarnya adalah mengoordinasikan agen yang sebagian dipercaya di bawah tekanan dunia nyata seperti kolusi dan pembebasan biaya. Alat Web3 yang telah teruji — staking, lelang, bukti penipuan, dan desain insentif — menawarkan template praktis untuk memecahkan masalah koordinasi ini.
• Menyelaraskan sistem AI masa depan berarti merancang struktur insentif, bukan model yang sempurna. Dengan menyematkan verifikasi dan hadiah langsung ke dalam interaksi agen, kerja sama dan kejujuran dapat muncul secara alami — sebuah pelajaran yang diambil dari lingkungan adversarial Web3.

Perpindahan ini memperkenalkan masalah yang sama sulitnya dengan penyesuaian klasik: menyelaraskan agen-agen ini satu sama lain dan dengan kebaikan kolektif. Ini adalah domain AI kooperatif: mendapatkan agen heterogen yang sebagian dipercaya untuk berkoordinasi di bawah kelangkaan, ketidakpastian, dan godaan konstan untuk mengkhianati.

Ini bukan tantangan teoretis. Saat agen mulai bekerja pada aktivitas yang bernilai ekonomi, mereka menjadi bagian dari sistem di mana pembebasan biaya, kolusi, dan opasitas strategis memberi keuntungan. Menganggap koordinasi sebagai pemikiran belakang dalam tata kelola adalah bagaimana risiko sistemik terkumpul.

Komunitas Web3 telah menghabiskan satu dekade mempelajari secara tepat kelas masalah ini. Mereka berasumsi bahwa secara default, dunia penuh dengan lawan kreatif yang bersedia merusak sistem demi keuntungan mereka. Jawaban terhadap ancaman ini di Web3 adalah desain mekanisme: staking, lelang, komit-reveal, bukti penipuan, dan titik Schelling.

Sudah saatnya komunitas AI dan pembangun Web3 berkolaborasi. Jika AI kooperatif diterapkan pada desain mekanisme, maka primitif yang telah teruji di Web3 adalah alat yang ideal untuk mengoordinasikan jaringan besar agen. Tujuannya bukan untuk menggabungkan crypto dan AI demi kebaruan, tetapi untuk menjadikan insentif dan verifikasi sebagai default dalam interaksi agen.

Risiko nyata bukanlah AI nakal, tetapi kegagalan koordinasi

Ketika AI berinteraksi, skenario bencana tampak kurang seperti model “melarikan diri” tunggal dan lebih seperti kegagalan koordinasi yang harus dikenali oleh setiap peneliti Web3: pembebasan biaya yang mengonsumsi sumber daya bersama, kolusi diam-diam antar anggota, gangguan yang menenggelamkan sinyal berguna, dan perilaku Byzantine saat insentif menyimpang. Tidak ada yang bersifat sinematik. Semuanya mahal.

Dari sudut pandang penelitian AI, masalah ini sulit diselesaikan di laboratorium. Sangat sulit mensimulasikan perilaku yang berorientasi pada kepentingan sendiri dalam pengaturan terkendali: manusia dan AI tidak dapat diprediksi, preferensi berubah, dan agen yang disandbox sering terlalu kooperatif untuk memberi tekanan pada sistem.

Sebaliknya, mekanisme Web3 telah diuji dengan lawan nyata dan uang nyata. Pembangun yang mengirim di blockchain berpikir dalam hal komitmen, jaminan, dan verifiabilitas karena mereka mengasumsikan dasar yang lebih keras daripada AI kooperatif: peserta adalah penipu yang memiliki insentif untuk mengekstrak nilai dengan mengorbankan orang lain. Pendekatan pesimis, mungkin, tetapi sangat berguna, terutama saat menerapkan agen di dunia nyata. Ambil protokol Web3 apa pun, ganti “validator,” “node,” atau “lawan” dengan “agen AI,” dan sebagian besar pemikiran tetap berlaku.

Contoh konkret: Emisi yang membuat wawasan terbaca

Sebagai contoh, dalam pekerjaan penelitian saya, saya membangun subnet Torus untuk melakukan peramalan yang bermakna, yaitu meramalkan suatu peristiwa sambil menyertakan alasan dan hipotesis di balik prediksi tersebut. Untuk mencapai tujuan ini, beberapa agen perlu menyediakan data, mengekstrak fitur, memproses sinyal, dan melakukan analisis akhir. Namun, untuk mengetahui komponen mana dari sistem yang harus diprioritaskan, saya perlu menyelesaikan masalah penugasan kredit, sebuah masalah tata kelola yang terkenal sulit dalam AI kooperatif: siapa yang paling banyak berkontribusi pada prediksi tertentu?

Solusinya, yang mungkin tampak jelas bagi penduduk Web3, adalah menjadikan penugasan kredit bagian dari tugas agen. Agen tingkat tinggi, yang bertanggung jawab untuk membuat prediksi akhir, diberi hadiah berdasarkan skor berbasis Kelly (dalam istilah awam, cara untuk mengukur keakuratan prediksi). Agen-agen ini menerima emisi token berdasarkan kinerja mereka, dengan prediksi yang lebih baik menghasilkan lebih banyak emisi. Yang penting, agen tingkat tinggi bertanggung jawab untuk mendistribusikan emisi mereka ke agen lain sebagai imbalan sinyal yang berguna. Agen-agen perantara ini dapat lebih jauh mendistribusikan emisi ke agen lain yang menyediakan informasi berguna, dan seterusnya.

Insentif yang muncul jelas. Agen tingkat atas tidak mendapatkan apa-apa dengan berkolusi; setiap unit yang salah dialokasikan akan mengurangi kinerja masa depan dan, oleh karena itu, emisi masa depan. Strategi satu-satunya yang menang adalah membudidayakan kontributor yang benar-benar informatif dan memberi mereka penghargaan.

Yang membuat pendekatan ini kuat adalah bahwa memastikan penyelarasan agen individu tidak lagi menjadi kekhawatiran; memberi penghargaan pada perilaku baik menjadi bagian dari mekanisme.

Agenda ringkas untuk web3 × AI

Apa yang saya gambarkan di atas hanyalah salah satu dari banyak kemungkinan pertemuan AI dan desain mekanisme. Untuk mempercepat pertukaran antara bidang AI kooperatif dan Web3, kita perlu meningkatkan frekuensi interaksi anggota mereka. Komunitas yang mengelilingi standar agen yang ramah Web3 (misalnya, ERC-8004 dan x402) adalah titik awal yang bagus, yang harus dipupuk dan didukung. Namun, mereka hanya menarik bagi peneliti yang sudah akrab dengan kedua bidang dan menyadari potensi AI dan desentralisasi. Pasokan peneliti interdisipliner yang baik terbatas oleh seberapa banyak peneliti yang terpapar ide-ide ini sejak awal.

Cara terbaik untuk menjangkau orang-orang ini adalah dengan bertemu mereka di tempat mereka berada. Misalnya, organisasi Web3 dapat mengusulkan workshop kepada Tiga Besar Pembelajaran Mesin (NeurIPS, ICML, ICLR), dan organisasi AI dapat mengadakan hackathon di Devconnect, ETHDenver, SBC, atau konferensi Web3 lainnya.

Kesimpulan

Kita tidak akan menyelaraskan masa depan dengan menciptakan model individu yang sempurna; kita akan menyelaraskannya dengan menyelaraskan jaringan tempat mereka berada. AI kooperatif adalah desain mekanisme terapan, dan Web3 telah menunjukkan, di bawah tekanan lawan nyata, bagaimana memberi penghargaan pada kebenaran, menghukum penipuan, dan mempertahankan koordinasi dalam skala besar.

Kemajuan akan tercepat di lingkungan yang berbagi, sadar insentif, yang dibangun di atas primitif yang dapat beroperasi lintas rantai dan laboratorium, serta dalam budaya yang menormalkan kolaborasi antara pembangun crypto dan peneliti AI akademik. Jalan menuju penyesuaian membutuhkan penerapan konsep-konsep ini secara praktis. Bahkan jika itu berarti bermitra dengan sekutu yang tidak terduga.