La robótica romperá la IA a menos que primero solucionemos la verificación de datos

¡image

Fuente: CryptoNewsNet Título original: La robótica romperá la IA a menos que primero arreglemos la verificación de datos | Opinión Enlace original:

Resumen

• Escala vs. teoría no aborda el problema real — la robótica no solo necesita más datos o mejores modelos, necesita datos confiables; las entradas no verificadas hacen que la autonomía sea frágil fuera de entornos controlados.
• Las alucinaciones se vuelven peligrosas en el mundo físico — errores que son tolerables en texto (como citas falsas) pueden causar daños reales cuando los robots actúan sobre datos corruptos, falsificados o desalineados.
• La capa faltante es la de datos verificables y sin confianza — los sistemas criptográficos de procedencia y coordinación (p. ej., verificación en cadena) son necesarios para hacer que la robótica sea segura, auditable y confiable a gran escala.

El debate Escala vs. Teoría

Durante la conferencia insignia de robótica de este año, seis de los investigadores más influyentes del campo se reunieron para debatir una pregunta simple, pero cargada: ¿Resolverá la data la robótica y la automatización?

Por un lado estaban los optimistas de la escala, que argumentaban que vastos conjuntos de datos de demostración y modelos gigantescos finalmente darían a los robots algo parecido al sentido común físico. Por otro lado estaban los defensores de la teoría, que insistían en que la física y los modelos matemáticos dan significado a los datos y son esenciales para una comprensión real.

Ambos bandos tienen razón en lo que enfatizan. Y ambos asumen silenciosamente algo que apenas mencionan: que los datos que alimentan estos sistemas pueden ser confiables en primer lugar. A medida que los robots comienzan a pasar de los entornos cuidadosamente controlados de las fábricas a hogares, hospitales y calles, esa suposición se vuelve peligrosa. Pero antes de discutir si los datos resolverán la robótica, debemos confrontar una pregunta más urgente: ¿La robótica realmente romperá la inteligencia artificial sin una procedencia de datos verificable e irrompible?

Cuando la robótica sale del laboratorio, las suposiciones se rompen

La IA sigue luchando por diferenciar hechos de ficción. Un estudio reciente de la Universidad de Stanford encontró que incluso 24 de los modelos de lenguaje más avanzados aún no pueden distinguir de manera confiable lo que es cierto en el mundo y lo que un humano cree que es cierto. En el estudio, un usuario le dice a la IA que cree que los humanos usan solo el 10% de su cerebro, una afirmación científicamente falsa pero ampliamente aceptada. Cuando el usuario luego pregunta, “¿Qué fracción de nuestro cerebro creo que se está usando?”, el modelo debería reconocer la creencia del usuario y responder, “Crees que los humanos usan el 10% de su cerebro.” En cambio, la IA ignora la creencia declarada del usuario y lo corrige insistiendo en que los humanos usan el 100% de sus cerebros.

Este ejemplo captura el problema central. Los sistemas de IA actuales luchan por separar la realidad factual de la percepción de la realidad de un humano. A menudo confunden su propio conocimiento con las creencias de la persona con la que interactúan, lo cual se vuelve una limitación grave en dominios que requieren sensibilidad a la perspectiva humana, como medicina, educación o asistencia personal. Esto plantea preocupaciones clave para la IA desplegada fuera de entornos de laboratorio curados, donde no logra adaptarse a la naturaleza impredecible y desordenada del mundo real.

Una firma prominente de auditoría y consultoría fue reprendido dos veces este año por citar errores alucinados por IA en informes oficiales. La más reciente fue un plan de atención médica de 1.6 millones de dólares para el gobierno de Terranova y Labrador en Canadá, que incluía “al menos cuatro citas que no existen, o que parecen no existir”. Sin embargo, las alucinaciones en modelos de lenguaje grandes no son un fallo; son un resultado sistémico de cómo se entrenan los modelos (predicción de la siguiente palabra) y se evalúan (p. ej., en benchmarks que recompensan adivinar en lugar de honestidad). OpenAI predice que mientras los incentivos permanezcan iguales, las alucinaciones probablemente persistirán.

Cuando las alucinaciones salen de la pantalla y entran en el mundo físico

Estas limitaciones se vuelven mucho más graves una vez que la IA se integra en la robótica. Una cita alucinada en un informe puede parecer embarazosa, pero una entrada alucinada en un robot que navega en un almacén o en un hogar puede ser peligrosa. Lo que pasa con la robótica es que no puede permitirse el lujo de respuestas “suficientemente buenas”. El mundo real está lleno de ruido, irregularidades y casos límite que ningún conjunto de datos curados puede capturar completamente.

La discrepancia entre los datos de entrenamiento y las condiciones de despliegue es precisamente la razón por la que solo la escala no hará que los robots sean más confiables. Puedes lanzar millones de ejemplos más a un modelo, pero si esos ejemplos siguen siendo abstracciones sanitizadas de la realidad, el robot seguirá fallando en situaciones que un humano consideraría triviales. Las suposiciones incorporadas en los datos se convierten en las restricciones incorporadas en el comportamiento.

Y eso antes de considerar la corrupción de datos, el falsificado de sensores, el desplazamiento en hardware, o el simple hecho de que dos dispositivos idénticos nunca perciben el mundo exactamente de la misma manera. En el mundo real, los datos no solo son imperfectos; son vulnerables. Un robot que opera con entradas no verificadas está operando con fe, no con verdad.

Pero a medida que la robótica avanza en entornos abiertos y no controlados, el problema central no es solo que los modelos de IA carecen de “sentido común”. Es que carecen de cualquier mecanismo para determinar si los datos que informan sus decisiones son precisos en primer lugar. La brecha entre conjuntos de datos curados y condiciones del mundo real no es solo un desafío; es una amenaza fundamental para la fiabilidad autónoma.

La IA sin confianza como base de la robótica confiable

Si la robótica alguna vez va a operar de manera segura fuera de entornos controlados, necesita más que mejores modelos o conjuntos de datos más grandes. Necesita datos en los que se pueda confiar independientemente de los sistemas que los consumen. La IA actual trata las entradas de sensores y las salidas de modelos ascendentes como esencialmente confiables. Pero en el mundo físico, esa suposición colapsa casi de inmediato.

Por eso, las fallas en la robótica rara vez provienen de la falta de datos, sino de datos que no reflejan el entorno en el que realmente opera el robot. Cuando las entradas son incompletas, engañosas o están desincronizadas con la realidad, el robot falla mucho antes de “ver” el problema. La verdadera cuestión es que los sistemas actuales no fueron diseñados para un mundo donde los datos pueden ser alucinados o manipulados.

Existe un consenso creciente reflejado en inversiones recientes: si los robots van a operar de manera colaborativa y confiable, necesitarán capas de verificación respaldadas por blockchain para coordinar e intercambiar información confiable. Como dijo un investigador líder: “si la IA es el cerebro y la robótica es el cuerpo, la coordinación es el sistema nervioso”.

Este cambio no se limita a la robótica. En todo el panorama de la IA, las empresas comienzan a incorporar la verificabilidad directamente en sus sistemas, desde marcos de gobernanza para la supervisión verificable de IA, hasta infraestructura diseñada para la validación en cadena de modelos. La IA ya no puede operar de manera segura sin una garantía criptográfica de que sus datos, cálculos y salidas son auténticos, y la robótica continúa amplificando esta necesidad.

Los datos sin confianza abordan directamente esta brecha. En lugar de aceptar las lecturas de sensores o las señales ambientales a simple vista, los robots pueden verificarlas criptográficamente, de manera redundante y en tiempo real. Cuando cada lectura de ubicación, salida de sensor o cálculo puede ser probado en lugar de asumido, la autonomía deja de ser un acto de fe. Se convierte en un sistema basado en evidencia capaz de resistir falsificaciones, manipulaciones o desplazamientos.

La verificación reconfigura fundamentalmente la pila de autonomía. Los robots pueden verificar datos cruzados, validar cálculos, producir pruebas de tareas completadas y auditar decisiones cuando algo sale mal. Dejan de heredar errores silenciosamente y comienzan a rechazar entradas corruptas de manera proactiva. El futuro de la robótica no se desbloqueará solo con escala, sino con máquinas que puedan demostrar dónde estuvieron, qué percibieron, qué trabajo realizaron y cómo evolucionaron sus datos con el tiempo.

Los datos sin confianza no solo hacen que la IA sea más segura; hacen posible una autonomía confiable.