WAIC 2026 mesa redonda: las decisiones sobre vida o muerte no deben dejarse jamás en manos de la IA. Los humanos pueden autorizar acciones, pero no pueden autorizar la responsabilidad.

De acuerdo con el monitoreo Beating, en la Conferencia Mundial de Inteligencia Artificial de 2026, el director del Instituto de Investigación sobre Gobernanza Internacional de la IA de la Universidad Tsinghua, Xue Lan, y el director y CEO de la Academia de Ciencias de Nueva York, Du Ningkai (Nicholas B. Dirks), y el director ejecutivo del Centro para una IA Humana Compatible del Laboratorio de Investigación de IA de la Universidad de California en Berkeley, Mark Nitzberg, participaron en un debate en mesa redonda en torno a la gobernanza de los agentes de IA. Los invitados señalaron que la IA está pasando de “ayudar a decidir” a “actuar de forma autónoma”, convirtiéndose en un agente que sustituye a las personas en sus tareas; esto es una nueva manifestación, en la era digital, del problema tradicional de los contratos de agencia y del delegado. A diferencia de los agentes humanos, la IA se enfrenta a la falta de alineación de objetivos y, al ser una caja negra, no puede asumir responsabilidades legales; la rendición de cuentas debe trasladarse a toda la cadena de ejecución, como desarrolladores, implementadores, reguladores, etc.

Los invitados llegaron a un alto grado de consenso: las decisiones con consecuencias de vida o muerte, los escenarios en los que, si algo sale mal, no se puede reparar, y todos los asuntos que involucran consideraciones éticas y de valores, no deben quedar jamás bajo la dirección de la IA. Las personas pueden autorizar a la IA para actuar, pero no pueden autorizar a la IA para “ser responsable”; cada autorización debe poder revocarse y cada acción debe poder exigirse con responsabilidad; la velocidad con la que se delega el poder de agencia nunca debería superar la velocidad a la que los humanos verifican la capacidad de la IA.

A nivel de mecanismos de seguridad, los invitados propusieron que la IA confiable debe cumplir tres características de ingeniería: fundamentos sólidos, operaciones transparentes y capacidad de control durante el uso. En cuanto a la construcción institucional, es necesario establecer estándares globales unificados de evaluación de seguridad de la IA, sistemas de pruebas con reconocimiento mutuo y mecanismos de intercambio de datos sobre incidentes; definir las líneas rojas para el desarrollo de la IA y crear mecanismos de monitoreo y alerta temprana; impulsar que la seguridad de la IA se convierta en un bien público global. El límite de la gobernanza de la IA no es el punto final de la tecnología, sino el inicio de que los seres humanos reevalúen el valor, la responsabilidad y la dirección de la civilización.

Haz clic en el enlace del texto original a continuación para unirte al canal de noticias de IA de Beating · Feishu, con monitoreo ininterrumpido 7×24 horas de los focos y noticias de IA en todo el mundo.