Saltar al contenido

Gobernanza y seguridad de la inteligencia artificial

Guía práctica para delegaciones y funcionarios públicos

Duración estimada: 15–18 minutos, con video y ejercicio.

Módulo 5 · Cómo funciona la gobernanza internacional de la IA

¿Quién decide qué?

Al terminar

Podrá identificar qué función cumple un espacio internacional, distinguir los efectos de sus documentos y formular preguntas sobre una propuesta de cooperación antes de recomendar una posición.

Idea central: antes de respaldar una propuesta internacional, pregunte: ¿qué problema busca resolver, qué decisión crearía, quién decide y paga, qué está confirmado y qué evidencia mostraría que funciona?

No necesita memorizar todas las siglas ni instituciones. Necesita reconocer qué decisión está en discusión, quién puede tomarla y cómo se relaciona con las instituciones de su país.

Video introductorio · ¿Quién decide qué?

Puede continuar con la lectura. El contenido esencial no depende del video.

1. Una misma conversación, distintos tipos de decisión

En los módulos anteriores describimos una aplicación de IA, identificamos prioridades y examinamos medidas de gobernanza. Ahora las trasladaremos a la cooperación entre países.

Continuación hipotética: su delegación busca apoyo para evaluar un asistente de atención ciudadana. Recibe un informe científico, una declaración política y una propuesta de formación. Los tres utilizan expresiones relacionadas con una IA segura, pero aportan cosas distintas: evidencia, compromisos políticos y una posible actividad de cooperación.

Antes de decidir si respaldarlos, pregunte:

¿Qué puede hacer este espacio, qué decisión está en discusión y qué cambiaría si se adopta esta propuesta?

La gobernanza internacional se desarrolla en varios espacios con funciones y participantes diferentes. Para orientarse, no necesita memorizar todas las siglas ni instituciones. Necesita reconocer qué decisión está en discusión, quién puede tomarla y cómo se relaciona con las instituciones de su país.

2. Identifique la función del espacio

Antes de examinar una propuesta, identifique qué puede hacer el espacio que la presenta: dialogar, evaluar evidencia, desarrollar normas, apoyar políticas o negociar obligaciones.

Este mapa es selectivo. Una misma organización puede cumplir varias funciones, según su mandato y la actividad concreta. No representa una jerarquía entre ellas.

Diálogo político y cooperación

Ejemplo verificable
Diálogo Mundial sobre la Gobernanza de la IA de Naciones Unidas
Pregunta útil para una delegación
¿Qué asuntos pueden discutirse aquí y cómo se dará seguimiento?

Evaluación científica

Ejemplo verificable
Panel Científico Internacional Independiente sobre IA, establecido por la Asamblea General junto con el Diálogo
Pregunta útil para una delegación
¿Qué evidencia aporta y qué incertidumbres deja abiertas?

Principios y apoyo a políticas

Ejemplo verificable
Recomendación de la UNESCO sobre la Ética de la IA y su metodología de evaluación de preparación; Principios de IA de la OCDE
Pregunta útil para una delegación
¿Cómo se traducen las orientaciones en capacidad y decisiones nacionales?

Normas técnicas

Ejemplo verificable
Comité ISO/IEC JTC 1/SC 42 sobre inteligencia artificial
Pregunta útil para una delegación
¿Qué especifica una norma, quién participa en elaborarla y cómo se verifica su aplicación?

Instrumentos jurídicos internacionales

Ejemplo verificable
Convenio Marco del Consejo de Europa sobre IA, derechos humanos, democracia y Estado de derecho
Pregunta útil para una delegación
¿Qué obligaciones establece y cuál es su situación respecto de nuestro país?
El Consejo de Europa es una organización distinta de la Unión Europea. Su Convenio Marco no debe confundirse con el Reglamento de IA de la UE. Para analizar obligaciones concretas hay que consultar los textos y el estado de participación correspondiente, no inferirlos a partir de una noticia sobre su adopción.

También puede haber cooperación regional, bilateral, académica o entre autoridades técnicas. Evalúe cada iniciativa por su mandato y sus condiciones; no presuponga que anunciarla junto a una reunión de la ONU le otorga carácter oficial de Naciones Unidas.

3. Distinga el documento de su efecto

El título de un documento ofrece pistas, pero debe revisarse su texto, quién lo adopta y el procedimiento aplicable.

Informe científico

Qué puede aportar
Evaluación de evidencia, resultados e incertidumbres
Qué no debe presumir
Que sus conclusiones crean por sí mismas obligaciones jurídicas

Declaración política

Qué puede aportar
Objetivos y compromisos expresados por sus participantes
Qué no debe presumir
Que ya existen presupuesto, ejecución o sanciones por incumplimiento

Recomendación

Qué puede aportar
Orientaciones para políticas y prácticas
Qué no debe presumir
Que equivale a un tratado; examine también sus procedimientos de seguimiento

Norma técnica

Qué puede aportar
Terminología, requisitos o métodos comunes
Qué no debe presumir
Que sea obligatoria en toda jurisdicción o certifique cualquier uso de un sistema

Tratado

Qué puede aportar
Obligaciones internacionales para los Estados parte, según el texto, las reservas, declaraciones y condiciones de entrada en vigor aplicables
Qué no debe presumir
Que su adopción, firma o anuncio demuestre que todas sus obligaciones están en vigor para un país

Acuerdo de cooperación o financiación

Qué puede aportar
Actividades, recursos y responsabilidades acordadas
Qué no debe presumir
Que el anuncio garantice fondos, acceso indefinido o resultados
Aplicación práctica: cuando una presentación diga «cumple estándares internacionales», solicite el nombre y la versión de la norma, el alcance de la afirmación y la evidencia disponible. Si se invoca una certificación, pregunte quién la emitió, qué cubre y durante qué periodo.

Una norma técnica puede adquirir relevancia obligatoria por su incorporación a una norma jurídica o a un contrato. Un acuerdo de cooperación puede contener compromisos jurídicos. Por eso importa leer el instrumento concreto y consultar a los responsables competentes; la tabla es una orientación inicial, no una clasificación jurídica exhaustiva.

4. Qué aporta el Diálogo Mundial de la ONU

No confunda iniciativas distintas.

El Panel Científico Internacional Independiente sobre la IA, el Diálogo Mundial sobre la Gobernanza de la IA y el International AI Safety Report cumplen funciones diferentes. Compruebe siempre autoría, mandato, fecha y relación institucional antes de atribuir un documento a uno de ellos.

El Diálogo fue establecido por la Asamblea General como espacio de discusión y cooperación sobre gobernanza de la IA. Sus temas incluyen seguridad, capacidades, implicaciones sociales y económicas, derechos humanos, supervisión y compatibilidad entre enfoques.

Para preparar su participación, conviene separar tres tareas:

  1. 1. Comprender:

    identificar la evidencia y los argumentos relevantes para su país.

  2. 2. Contribuir:

    formular preguntas y compartir experiencias o necesidades concretas.

  3. 3. Dar seguimiento:

    identificar interlocutores y próximos pasos que su institución pueda asumir.

Estas tareas son una propuesta de preparación de esta guía. No son procedimientos oficiales del evento. Consulte la documentación de cada edición para comprobar formatos, acreditación, plazos y oportunidades de intervención.

Un informe científico y un diálogo político también cumplen funciones distintas: la evidencia ayuda a valorar opciones, mientras las decisiones requieren considerar objetivos, distribución de costos, competencias y responsabilidades.

5. Cómo leer una propuesta internacional

Distinga lo confirmado de lo pendiente.

Una propuesta puede anunciar una actividad útil y, al mismo tiempo, no tener financiación, acceso técnico, personal o procedimientos definidos.

Use estas siete preguntas. Son una herramienta didáctica original que puede aplicarse a iniciativas de capacitación, evaluación, acceso o coordinación.

  1. 1. ¿Qué problema pretende resolver?

    Pida un problema específico y evidencia de su importancia. «Cerrar la brecha de IA» puede referirse a conectividad, capacidades institucionales, acceso a herramientas o participación en decisiones. Cada problema requiere acciones diferentes.

  2. 2. ¿Qué actividad u obligación crea?

    Distinga una invitación a cooperar de un deber de entregar información o financiar actividades. Identifique quién haría qué y qué aspectos siguen sin acordarse.

  3. 3. ¿Quién decide?

    Examine cómo se eligen prioridades, métodos y participantes. Pregunte si los países receptores pueden modificar el programa, aportar evidencia y cuestionar resultados.

    Tener una plaza no garantiza influencia sobre el diseño, las prioridades o los resultados.

  4. 4. ¿Quién paga y quién implementa?

    Separe recursos confirmados de fondos que todavía deben obtenerse. Considere personal, traducción, mantenimiento y seguimiento, además de la actividad inicial.

  5. 5. ¿Quién se beneficia y quién podría quedar excluido?

    Revise requisitos de elegibilidad, idiomas, acceso técnico y cargas administrativas. Pregunte si países con menor capacidad pueden participar de manera efectiva.

  6. 6. ¿Qué evidencia mostraría que funciona?

    Las actividades realizadas y los resultados obtenidos no son lo mismo. Un programa puede impartir diez talleres sin demostrar que sus participantes ahora pueden evaluar una propuesta. Defina qué cambio interesa observar.

  7. 7. ¿Qué ocurre si falla o termina?

    Examine rendición de cuentas, revisión del programa, continuidad y salida. Si exige compartir información, aclare acceso, usos permitidos y protección. Si proporciona acceso temporal a un servicio, pregunte qué sucede al finalizarlo.

6. Desacuerdos que conviene hacer explícitos

Estas son tensiones posibles al diseñar una iniciativa; no atribuyen posiciones fijas a países o regiones.

Acceso y salvaguardas

Pregunta para precisar el desacuerdo
¿Qué acceso se propone, para qué usos y con qué condiciones proporcionadas al riesgo?

Transparencia y protección de información

Pregunta para precisar el desacuerdo
¿Qué información necesita quién, y qué puede compartirse sin exponer datos sensibles?

Métodos comunes y contexto local

Pregunta para precisar el desacuerdo
¿Qué debe ser comparable y qué necesita adaptación lingüística, cultural o sectorial?

Rapidez y capacidad de supervisión

Pregunta para precisar el desacuerdo
¿Qué puede comenzar ahora y qué condiciones faltan antes de ampliarlo?

Financiación y autonomía

Pregunta para precisar el desacuerdo
¿Quién financia, quién fija prioridades y cómo se gestionan posibles conflictos de interés?

Evite asumir que dos delegaciones comparten todas sus prioridades porque pertenecen a una misma región o categoría de ingresos. Busque coincidencias concretas: por ejemplo, acceso a evaluaciones útiles para lenguas que tienen poca representación en las pruebas existentes.

7. Ejercicio · Compare dos propuestas

Tiempo sugerido: 4 minutos. Todas las iniciativas y condiciones son ficticias.

Su delegación busca apoyo para mejorar la evaluación de sistemas destinados a servicios públicos. Recibe dos propuestas:

Propuesta A: acceso y formación

Oferta
Un proveedor ofrece un año de acceso y formación sobre su plataforma
Recursos
Acceso y formación inicial confirmados; implementación local no cubierta
Participación
El proveedor define el temario; admite preguntas
Alcance
Herramientas del proveedor
Plazo
Inicio rápido
Incertidumbre
Costos posteriores y capacidad para aplicar lo aprendido a otras herramientas

Propuesta B: evaluación compartida

Oferta
Varias instituciones proponen un equipo regional de evaluación
Recursos
Financiación aún incompleta
Participación
Los participantes pueden proponer casos y prioridades
Alcance
Se propone evaluar distintos sistemas; el acceso técnico no está resuelto
Plazo
Preparación más larga
Incertidumbre
Sostenibilidad, método de selección de especialistas y condiciones de acceso a sistemas

Pregunta 1

¿Qué puede concluirse?
No elija entre las propuestas solo por su origen, su rapidez o su etiqueta regional. Compare qué necesidad resuelve cada una, qué condiciones faltan y qué compromiso crearía su participación.

Pregunta 2

Escriba dos preguntas para cada propuesta.

Sus respuestas permanecen solo en este navegador y no se guardan ni se envían.

Para A:

Para B:

Ejemplos de respuestas

Para A:

  • ¿Qué competencias permitirán evaluar resultados sin depender de la explicación del proveedor?
  • ¿Qué compromisos y costos aparecen al terminar el año?

Para B:

  • ¿Qué recursos están confirmados y qué actividades pueden sostener?
  • ¿Cómo se asegura acceso suficiente para evaluar los sistemas y gestionar conflictos de interés?

También son pertinentes las preguntas sobre idiomas, datos, carga de trabajo y evidencia de resultados. Explique por qué la información cambiaría su valoración.

Pregunta 3

Prepare una recomendación provisional de dos frases.

Ejemplo:

Proponemos explorar ambas iniciativas para funciones distintas, sin asumir todavía compromisos de implementación. Antes de recomendar nuestra participación, necesitamos aclarar la utilidad de la formación para nuestro equipo, los costos posteriores y la viabilidad técnica y financiera de la evaluación compartida.

Autoevaluación

Su recomendación debe identificar la necesidad, reconocer al menos una limitación y pedir información que permita decidir.

No se califica qué propuesta prefiere, sino la justificación y la claridad de las condiciones.

8. Una contribución concreta a la conversación

Transforme una prioridad general en una pregunta que abra una decisión:

Formulación general

«Necesitamos más inclusión»

Contribución más concreta

¿Cómo podrán las delegaciones con pocos especialistas revisar los documentos y aportar observaciones a tiempo?

Formulación general

«Apoyamos la seguridad»

Contribución más concreta

¿Qué evidencia compartirán los participantes y quién podrá examinarla?

Formulación general

«Queremos capacitación»

Contribución más concreta

¿Podemos orientar el apoyo al equipo que debe interpretar pruebas y supervisar proveedores?

En el siguiente módulo utilizaremos estas preguntas para preparar una intervención y su seguimiento.

9. Qué llevarse

Antes de respaldar una propuesta internacional, pregunte: ¿qué problema busca resolver, qué decisión crearía, quién decide y paga, qué está confirmado y qué evidencia mostraría que funciona?

Herramienta: Ficha para evaluar una propuesta internacional de IA.

Continuar al siguiente módulo →

Siguiente módulo: Cómo preparar la participación de su delegación.

Fuentes y lecturas opcionales

Fuentes oficiales consultadas el 11 de octubre de 2026. Este mapa no pretende cubrir todos los organismos ni verificar el estado de ratificación de un país. Los detalles de cada evento deben actualizarse por separado.

  1. [1]Naciones Unidas, Diálogo Mundial sobre la Gobernanza de la IA. Mandato, alcance y temas; información sobre las sesiones, incluida la de 2027. Consultar la página Leer las preguntas frecuentes
  2. [2]Naciones Unidas, A/RES/79/325 y página sobre el Panel y el Diálogo. Establecimiento de ambos mecanismos. Consultar la resolución Consultar la página
  3. [3]Naciones Unidas, Panel Científico Internacional Independiente sobre la IA, informe preliminar. Primera evaluación científica independiente sobre las capacidades, oportunidades y riesgos de la IA; base de evidencia para el Diálogo Mundial. Leer el informe preliminar
  4. [4]Naciones Unidas, Panel Científico Internacional Independiente sobre la IA, informe temático sobre agentes de IA, desalineación y riesgo de perder el control humano. Análisis del riesgo de que las personas dejen de poder orientar, limitar o detener sistemas de IA. Leer el informe temático
  5. [5]Noticias ONU, «Un panel de la ONU pide salvaguardias más sólidas ante el avance de los agentes de IA». Resumen de prensa del informe temático, con la declaración de 22 países sobre control humano. Leer la nota de prensa
  6. [6]UNESCO, Recomendación sobre la Ética de la IA (2021). Texto oficial y herramientas de implementación; versión española disponible. Leer la recomendación
  7. [7]OCDE, Principios de IA. Orientaciones para políticas y actores de IA. Leer los principios
  8. [8]ISO/IEC JTC 1/SC 42. Comité de normalización sobre IA. Consultar el comité
  9. [9]Consejo de Europa, Convenio Marco sobre IA. Presentación y enlaces al tratado y su seguimiento. Leer la presentación

Referencia para distinguir iniciativas científicas: página del International AI Safety Report, iniciativa citada en módulos anteriores. Consultar la página

Los ejercicios, listas y recomendaciones provisionales son elaboración didáctica original; no expresan posiciones oficiales de los organismos citados.