La gobernanza internacional de la inteligencia artificial (IA) congrega a gobiernos, organizaciones internacionales, empresas, instituciones académicas y actores de la sociedad civil para establecer pautas, estándares y herramientas destinadas a orientar cómo se desarrolla y emplea esta tecnología. Las discusiones integran dimensiones técnicas, éticas, económicas, de seguridad y geopolíticas. A continuación se detallan los asuntos clave, ejemplos específicos y los mecanismos que distintos foros proponen o ya ponen en práctica.
Riesgos para la seguridad y la integridad
La preocupación por la seguridad incluye fallos accidentales, usos maliciosos y consecuencias estratégicas a gran escala. Entre los puntos clave están:
- Riesgos sistémicos: posibilidad de que modelos muy potentes actúen de forma imprevisible o escapen a controles, afectando infraestructuras críticas.
- Uso dual y militarización: aplicación de IA en armas, vigilancia y ciberataques. En foros de la ONU y del Convenio sobre Ciertas Armas Convencionales se discute cómo regular o prohibir sistemas de armas completamente autónomas.
- Reducción del riesgo por diseño: prácticas como pruebas adversarias, auditorías de seguridad, y exigencia de evaluaciones de riesgo antes del despliegue.
Ejemplo: en el ámbito multilateral se discute la creación de normas vinculantes sobre SALA (sistemas de armas letales autónomas) y procedimientos de verificación para evitar proliferación.
Derechos humanos, privacidad y vigilancia
La IA plantea retos para derechos civiles y libertades públicas:
- Reconocimiento facial y vigilancia masiva: riesgo de erosión de la privacidad y discriminación. Varios países y la Unión Europea estudian restricciones o moratorias para usos masivos.
- Protección de datos: gobernanza del uso de grandes volúmenes de datos para entrenar modelos, consentimiento, minimización y anonimización.
- Libertad de expresión e información: moderación automatizada, generación de desinformación y deepfakes que afectan procesos democráticos.
Caso: campañas de desinformación potenciadas por generación automática de contenido han llevado a debates en foros electorales y a propuestas para obligaciones de transparencia sobre el uso de sistemas generativos en campañas.
Promoción de la igualdad, rechazo a la discriminación e impulso de la inclusión
Los modelos pueden reflejar o incluso intensificar sesgos existentes cuando los datos de entrenamiento no resultan suficientemente representativos:
- Discriminación algorítmica: revisiones independientes, indicadores de equidad y procedimientos de corrección.
- Acceso y desigualdad global: posibilidad de que la capacidad tecnológica se concentre en unas pocas naciones o corporaciones; urgencia de impulsar la transferencia tecnológica y la cooperación para fortalecer el desarrollo local.
Dato y ejemplo: estudios han mostrado que modelos entrenados con datos sesgados dan peores resultados para grupos subrepresentados; por ello iniciativas como evaluaciones de impacto social y requisitos de testeo público son cada vez más solicitadas.
Transparencia, explicabilidad y trazabilidad
Los reguladores discuten cómo garantizar que sistemas complejos sean comprensibles y auditables:
- Obligaciones de transparencia: informar cuando una decisión automatizada afecta a una persona, publicar documentación técnica (fichas del modelo, orígenes de datos) y facilitar mecanismos de recurso.
- Explicabilidad: niveles adecuados de explicación técnica para distintos públicos (usuario final, regulador, tribunal).
- Trazabilidad y registro: bitácoras de entrenamiento y despliegue para permitir auditorías posteriores.
la propuesta legislativa de la Unión Europea organiza los sistemas por niveles de riesgo y requiere que se entregue documentación exhaustiva para aquellos que se catalogan como de alto riesgo
Responsabilidad jurídica y cumplimiento
La asignación de responsabilidades ante daños generados por IA es un tema central:
- Regímenes de responsabilidad: debate entre responsabilidad del desarrollador, del proveedor, del integrador o del usuario final.
- Certificación y conformidad: modelos de certificación previa, auditorías independientes y sanciones por incumplimiento.
- Reparación a las víctimas: mecanismos rápidos para compensación y remediación.
Datos normativos: la propuesta de la UE contempla sanciones proporcionales a la gravedad, que incluyen multas significativas para incumplimientos en sistemas de alto riesgo.
Propiedad intelectual y acceso a datos
El uso de contenidos destinados al entrenamiento de modelos ha provocado fricciones entre la creación, la reproducción y el aprendizaje automático:
- Derechos de autor y recopilación de datos: disputas legales y demandas de precisión acerca de si el proceso de entrenamiento representa un uso permitido o necesita una licencia formal.
- Modelos y datos como bienes estratégicos: discusiones sobre la conveniencia de imponer licencias obligatorias, habilitar el intercambio de modelos en repositorios abiertos o limitar su exportación.
Varios litigios recientes surgidos en distintos países han puesto en entredicho la legalidad del entrenamiento de modelos con material protegido, lo que está acelerando ajustes normativos y promoviendo acuerdos entre las partes involucradas.
Economía, empleo y competencia
La IA puede transformar mercados, trabajos y estructuras empresariales:
- Sustitución y creación de empleo: estudios muestran efectos heterogéneos: algunas tareas se automatizan, otras se complementan; políticas activas de formación son clave.
- Concentración de mercado: riesgo de monopolios por control de datos y modelos centrales; discusión sobre políticas de competencia y interoperabilidad.
- Impuestos y redistribución: propuestas para impuestos sobre beneficios derivados de automatización o para financiar protección social y reentrenamiento.
Ejemplo: diversas adaptaciones regulatorias pueden contemplar beneficios tributarios orientados a impulsar la formación profesional y estipulaciones en contratos estatales que den preferencia a proveedores locales.
Sustentabilidad del entorno
El impacto energético y material asociado al entrenamiento y funcionamiento de los modelos se encuentra sujeto a regulaciones y prácticas recomendadas:
- Huella de carbono: la preparación de modelos de gran escala puede requerir un uso considerable de energía; se debaten métricas y posibles límites.
- Optimización y transparencia energética: adopción de sistemas de eficiencia, divulgación del consumo y transición hacia infraestructuras alimentadas con fuentes renovables.
Estudio relevante: diversos análisis han puesto de manifiesto que entrenar modelos de lenguaje de manera intensiva puede llegar a producir emisiones comparables a decenas o incluso cientos de toneladas de CO2 cuando el proceso no se optimiza adecuadamente.
Regulaciones técnicas, estándares y procesos de interoperabilidad
La adopción de estándares promueve mayor seguridad, confianza y dinamiza el comercio:
- Marco de normalización: elaboración de estándares técnicos internacionales que abordan la solidez, las interfaces y los formatos de datos.
- Interoperabilidad: asegurar que distintos sistemas puedan colaborar manteniendo niveles adecuados de seguridad y privacidad.
- Rol de organismos internacionales: OCDE, UNESCO, ONU, ISO y diversos foros regionales intervienen en la coordinación y armonización regulatoria.
Ejemplo: la OCDE formuló principios para la IA que han servido como referencia para muchas políticas públicas.
Verificación, cumplimiento y mecanismos multilaterales
Sin mecanismos de verificación sólidos, las normas quedan como simples declaraciones:
- Inspecciones y auditorías internacionales: se plantean observatorios multilaterales que monitoreen el cumplimiento y difundan información técnica.
- Mecanismos de cooperación técnica: apoyo para naciones con menor capacidad, intercambio de buenas prácticas y recursos destinados a reforzar la gobernanza.
- Sanciones y medidas comerciales: debate sobre restricciones a la exportación de tecnologías delicadas y acciones diplomáticas frente a eventuales incumplimientos.
Caso: las limitaciones impuestas al comercio de semiconductores ilustran cómo la tecnología de IA puede transformarse en un asunto de política comercial y de seguridad.
Instrumentos normativos y recursos aplicados
Las respuestas normativas varían entre instrumentos vinculantes y enfoques flexibles:
- Regulación vinculante: leyes nacionales y regionales que imponen obligaciones y sanciones (ejemplo: propuesta de ley en la Unión Europea).
- Autorregulación y códigos de conducta: guías emitidas por empresas y asociaciones que pueden ser más ágiles pero menos exigentes.
- Herramientas de cumplimiento: evaluaciones de impacto, auditorías independientes, etiquetas de conformidad, y entornos experimentales regulatorios para probar políticas.
Gobernanza democrática y participación de la ciudadanía
La legitimidad de las reglas depende de la inclusión:
- Procesos participativos: consultas públicas, comités de ética y representación de comunidades afectadas.
- Educación y alfabetización digital: para que la ciudadanía entienda riesgos y participe en decisiones.
Ejemplo: en distintos países, varias iniciativas de consulta ciudadana han incidido en las exigencias de transparencia y en las restricciones aplicadas al empleo del reconocimiento facial.
Relevantes presiones en el escenario geopolítico
La carrera por la primacía en IA implica riesgos de fragmentación:
- Competencia tecnológica: inversiones estratégicas, subsidios y alianzas que pueden crear bloques tecnológicos divergentes.
- Normas divergentes: diferentes enfoques regulatorios (más restrictivo versus más permissivo) afectan comercio y cooperación internacional.
Resultado: la gobernanza global intenta conciliar la armonización regulatoria con la autonomía tecnológica.
Iniciativas y menciones multilaterales
Existen diversas iniciativas que actúan como punto de referencia:
- Principios de la OCDE: directrices destinadas a promover el uso responsable y fiable de la IA.
- Recomendación de la UNESCO: marco ético concebido para orientar la formulación de políticas nacionales.
- Propuestas regionales: la Unión Europea desarrolla un reglamento basado en la gestión del riesgo y en exigencias de transparencia y seguridad.
Estas iniciativas reflejan cómo se entrelazan directrices no obligatorias con propuestas legislativas específicas que progresan a distintos ritmos.
La gobernanza internacional de la IA es un entramado dinámico que debe integrar exigencias técnicas, valores democráticos y realidades geopolíticas. Las soluciones efectivas requieren marcos normativos claros, capacidades de verificación creíbles y mecanismos
