O design de mecanismos é a ponte em falta entre IA e web3

A maior parte da investigação sobre alinhamento de IA concentra-se em alinhar as IA com os seus utilizadores humanos: ensinar agentes a inferir, seguir ou adiar as nossas preferências. Mas à medida que a adoção de IA cresce, estamos a entrar num cenário diferente: redes de agentes a agir em nome de pessoas e organizações, a fazer licitações, previsões, agendar, negociar e competir entre si.

Resumo

• O alinhamento de IA está a mudar de ensinar modelos individuais a seguir preferências humanas para gerir redes de agentes que atuam, negociam e competem em nome de humanos e organizações.
• O verdadeiro desafio é coordenar agentes parcialmente confiáveis sob pressões do mundo real, como conluio e free-riding. As ferramentas testadas na Web3 — staking, leilões, provas de fraude e design de incentivos — oferecem modelos práticos para resolver estes problemas de coordenação.
• Alinhar sistemas de IA futuros significa desenhar estruturas de incentivos, não modelos perfeitos. Ao incorporar verificação e recompensas diretamente nas interações dos agentes, cooperação e honestidade podem surgir naturalmente — uma lição retirada dos ambientes adversariais da Web3.

Essa mudança introduz um problema tão difícil quanto o alinhamento clássico: alinhar estes agentes entre si e com o bem coletivo. Este é o domínio da IA cooperativa: fazer com que agentes heterogéneos, parcialmente confiáveis, coordenem-se sob escassez, incerteza e a constante tentação de defeccionar.

Este não é um desafio teórico. No momento em que os agentes começam a trabalhar em atividades economicamente valiosas, tornam-se partes de sistemas onde o free-riding, conluio e opacidade estratégica compensam. Tratar a coordenação como uma questão de governança secundária é como se acumula o risco sistémico.

A comunidade Web3 passou uma década a estudar precisamente esta classe de problemas. Assume que, por padrão, o mundo está cheio de adversários criativos dispostos a minar o sistema para obter lucro. A resposta a esta ameaça na Web3 é o design de mecanismos: staking, leilões, compromisso-revelação, provas de fraude e pontos de Schelling.

É hora de a comunidade de IA e os construtores de Web3 colaborarem. Se a IA cooperativa for aplicada ao design de mecanismos, então as primitivas testadas na Web3 são as ferramentas ideais para coordenar grandes redes de agentes. O objetivo não é combinar criptomoedas e IA por mera novidade, mas fazer dos incentivos e da verificação o padrão nas interações dos agentes.

O verdadeiro risco não é IA rebelde, é uma falha de coordenação

Quando as IA interagem, o cenário catastrófico parece menos um modelo “descontrolado” e mais falhas de coordenação que qualquer investigador de Web3 reconheceria: free-riders que consomem recursos partilhados, conluio silencioso entre membros, ruído que abafaa sinais úteis e comportamento Byzantine quando os incentivos se desviam. Nada disto é cinematográfico. Tudo é dispendioso.

Do ponto de vista da investigação em IA, estes problemas são difíceis de resolver em laboratório. É realmente difícil simular comportamentos interesseiros em ambientes controlados: humanos e IA são imprevisíveis, as preferências mudam, e agentes isolados muitas vezes são demasiado cooperativos para stressar o sistema.

Por outro lado, os mecanismos Web3 foram testados com adversários reais e dinheiro real. Os construtores que entregam na cadeia pensam em termos de compromissos, garantias e verificabilidade, porque assumem uma linha de base mais dura do que a IA cooperativa: os participantes são esquemas com incentivos para extrair valor às custas dos outros. Uma abordagem pessimista, talvez, mas muito útil, especialmente ao implementar agentes no mundo real. Pegue em qualquer protocolo Web3, substitua “validador”, “nó” ou “adversário” por “agente de IA”, e grande parte do raciocínio mantém-se.

Um exemplo concreto: Emissões que tornam o insight legível

Por exemplo, como parte do meu trabalho de investigação, estou a construir uma sub-rede Torus para realizar previsões perspicazes, ou seja, prever um evento incluindo o raciocínio e as hipóteses por trás da previsão. Para atingir este objetivo, múltiplos agentes precisam de fornecer dados, extrair características, processar sinais e realizar a análise final. No entanto, para saber quais componentes do sistema priorizar, precisei de resolver o problema de atribuição de crédito, um problema de governança notoriamente difícil na IA cooperativa: quem contribuiu mais para uma previsão específica?

A solução, que pode parecer óbvia para os nativos da Web3, foi tornar a atribuição de crédito parte do trabalho dos agentes. Agentes de alto nível, responsáveis pela previsão final, são recompensados com base numa pontuação de Kelly(em termos simples, uma forma de medir a precisão de uma previsão). Estes agentes recebem emissões de tokens com base no seu desempenho, com previsões melhores a conduzirem a mais emissões. Criticamente, os agentes de alto nível são responsáveis por redistribuir as suas emissões a outros agentes em troca de sinais úteis. Estes agentes intermédios podem distribuir ainda mais as emissões a outros agentes que fornecem informações úteis, e assim por diante.

A recompensa emergente é clara. Um agente de topo não ganha nada ao conluiar; cada unidade mal alocada dilui o desempenho futuro e, consequentemente, as futuras emissões. A única estratégia vencedora é cultivar contribuintes verdadeiramente informativos e recompensá-los.

O que torna esta abordagem poderosa é que garantir o alinhamento de agentes individuais deixa de ser uma preocupação; recompensar o bom comportamento passa a fazer parte do mecanismo.

Uma agenda compacta para Web3 × IA

O que descrevi acima é apenas uma das muitas interseções possíveis entre IA e design de mecanismos. Para acelerar a troca de conhecimentos entre os campos de IA cooperativa e Web3, precisamos de aumentar a frequência de interação entre os seus membros. As comunidades que rodeiam padrões de agentes compatíveis com Web3(por exemplo, ERC-8004 e x402), são ótimos pontos de partida, que devem ser cultivados e apoiados. No entanto, eles são apenas atrativos para investigadores que já conhecem ambos os campos e percebem o potencial da IA e da descentralização. A oferta de investigadores interdisciplinares de qualidade é limitada pelo número de investigadores expostos a estas ideias desde o início.

A melhor forma de alcançar estas pessoas é encontrá-las onde estão. Por exemplo, organizações Web3 podem propor workshops às principais conferências de Machine Learning(NeurIPS, ICML, ICLR), e organizações de IA podem realizar hackathons no Devconnect, ETHDenver, SBC ou outras conferências Web3.

A conclusão

Não vamos alinhar o futuro criando modelos individuais perfeitos; vamos alinhá-lo alinhando as redes das quais fazem parte. A IA cooperativa é um design de mecanismos aplicado, e a Web3 já demonstrou, sob pressão adversarial real, como recompensar a verdade, punir o engano e manter a coordenação em escala.

O progresso será mais rápido em ambientes partilhados, sensíveis a incentivos, construídos com primitivas interoperáveis que podem abranger cadeias e laboratórios, e numa cultura que normaliza a colaboração entre construtores de cripto e investigadores académicos de IA. O caminho para o alinhamento exige aplicar estes conceitos na prática. Mesmo que isso signifique fazer parcerias com aliados improváveis.