Para empresas europeas y latinoamericanas que aplican inteligencia artificial en administración pública, finanzas, infraestructura, educación, medios, salud o decisiones corporativas, el riesgo aumenta. Upmann advierte que la falta de auditoría independiente y de transparencia en la lógica de entrenamiento, junto con actualizaciones externas fuera de control del usuario, puede llevar a que las organizaciones deleguen parte de su juicio institucional a una infraestructura ajena.
“No se trata solo de un problema técnico, sino de la capacidad de una institución para mantener control sobre su propio criterio”, remarcó.
Frente a la promoción de los modelos chinos bajo la etiqueta de open-source, asequibles y competitivos, el especialista recomienda que gobiernos y empresas en Europa y América Latina adopten un enfoque de gobernanza basada en riesgos.
Upmann sugiere cuestionar el uso, el tipo de datos procesados, la capacidad de auditoría independiente, el control de actualizaciones, la jurisdicción aplicable y el riesgo de dependencia geopolítica. “El código abierto no garantiza confiabilidad. Puede haber apertura en el código, pero opacidad en los datos de entrenamiento, lógica de alineamiento y contexto geopolítico”, puntualizó.
Para casos de bajo riesgo, estos modelos pueden ser útiles. Sin embargo, Upmann recomienda que en sectores regulados se exijan requisitos estrictos: transparencia, trazabilidad, pruebas independientes, protección de datos, revisión de seguridad, supervisión humana y estrategias de salida. “La asequibilidad es relevante, pero una inteligencia artificial barata puede generar altos costos estratégicos si crea dependencia”, afirmó el fundador de AIGN.
Respecto a la capacidad de estos sistemas para amplificar la influencia política de Beijing, Upmann sostiene que el fenómeno ocurre de forma indirecta. “La influencia de la inteligencia artificial puede operar mediante respuestas predeterminadas, lógica de ranking, comportamiento de rechazo, moderación de contenidos, selección de fuentes, enmarque de lenguaje, sistemas educativos, herramientas de traducción o asistentes de programación”, explicó.
En regiones como América Latina, donde la infraestructura digital se expande con rapidez, los modelos de IA podrían integrarse en servicios públicos, medios y procesos corporativos, definiendo condiciones invisibles del conocimiento.
progresista, Upmann sostiene que en China la cuestión es estructural. “No se trata solo de sesgo, sino de operar dentro de los límites de un sistema político de partido único y un orden de información estatal”, precisó. Por ello, recomienda que las instituciones extranjeras evalúen no solo precisión y desempeño, sino también neutralidad, patrones de rechazo, selección de fuentes y comportamiento ante temas sensibles.
En relación con la posibilidad de imponer estándares internacionales de gobernanza de IA a regímenes autoritarios, Upmann consideró que no resultan aplicables internamente en esos países. Sin embargo, pueden servir para que mercados democráticos definan las condiciones de acceso a sus sectores críticos. Propone exigir documentación, auditabilidad, protección de datos, ciberseguridad, clasificación de riesgos, supervisión humana, reportes de incidentes y evidencia de cumplimiento para cualquier sistema que pretenda operar en mercados regulados.
Al comparar la competencia global en inteligencia artificial con la carrera armamentista nuclear, Upmann reconoce similitudes estratégicas, aunque destaca diferencias clave. La IA es distribuida, escalable, de uso dual y penetra plataformas comerciales, centros de datos y sistemas autónomos. “La carrera de la IA no es solo de capacidad destructiva, sino de capacidad cognitiva, económica e institucional”, concluyó el especialista.
