Mesa-redonda do WAIC 2026: decisões que envolvem vida e morte não devem ser entregues à IA; humanos podem autorizar ações, mas não podem autorizar responsabilidades

De acordo com o monitoramento de Beating da 动察, o diretor do Instituto de Pesquisa em Governança Internacional de IA da Universidade Tsinghua, Xue Lan, o presidente da Academia de Ciências de Nova York e CEO, Du Ningkai (Nicholas B. Dirks), e o diretor executivo do Centro de IA Humanamente Compatível do Laboratório de Pesquisa em IA da Universidade da Califórnia, Berkeley, Mark Nitzberg participaram de uma mesa-redonda durante a Conferência Mundial de IA de 2026, discutindo a governança de agentes de IA. Os convidados apontaram que a IA está saindo de uma fase de “auxílio na tomada de decisões” para a de “ação autônoma”, tornando-se um agente capaz de substituir pessoas em tarefas — uma nova manifestação do problema tradicional de mandante-agente na era digital. Diferentemente de agentes humanos, a IA enfrenta desalinhamento de objetivos e, como uma “caixa-preta” incapaz de assumir responsabilidade legal, a responsabilização precisa ser transferida para toda a cadeia de execução, como desenvolvedores, implantadores, reguladores etc.

Os convidados chegaram a um alto grau de consenso: decisões que envolvem consequências de vida ou morte, cenários em que, uma vez que haja erro, não é possível corrigir, e todas as questões que envolvem julgamentos éticos e de valores — em nenhuma hipótese devem ser lideradas por IA. Os seres humanos podem autorizar a IA a agir, mas não podem autorizar a IA a ser responsabilizada; cada autorização deve ser revogável e cada ação deve ser passível de responsabilização, de modo que a velocidade de concessão de poderes de agente nunca deva ultrapassar a velocidade com que os humanos validam a capacidade da IA.

No âmbito dos mecanismos de segurança, os convidados propuseram que a construção de uma IA confiável deve atender a três características de engenharia: base sólida, transparência operacional e controle durante o uso. No nível de construção institucional, é necessário estabelecer padrões globais unificados de avaliação de segurança de IA, um sistema de testes com reconhecimento mútuo e um mecanismo de compartilhamento de dados de incidentes, além de definir as linhas vermelhas para o desenvolvimento de IA e criar mecanismos de monitoramento e alerta precoce, promovendo que a segurança da IA se torne um bem público global. Os limites da governança de IA não são o fim do percurso técnico, e sim o ponto de partida para os seres humanos reavaliaram seus próprios valores, responsabilidades e a direção da civilização.

Clique no link original abaixo para entrar no canal de notícias de IA da Feishu da 动察 Beating · 飞书 AI, com monitoramento 24 horas por dia, 7 dias por semana, das principais tendências e notícias de IA no mundo.