La IA al servicio de la igualdad de derechos: una agenda para el Diálogo Mundial sobre Gobernanza de la IA
Aporte de la sociedad civil | Clave Igualdad
Punto de partida: la IA como posibilidad, no como destino
La inteligencia artificial puede ser una de las herramientas más potentes de este siglo para ampliar la igualdad de derechos. Puede facilitar el acceso a servicios de salud en zonas remotas, traducir conocimiento entre lenguas históricamente marginadas, identificar patrones de discriminación estructural, fortalecer servicios públicos, mejorar la toma de decisiones y abrir nuevas formas de participación democrática.
Esa posibilidad, sin embargo, no se cumple por inercia. La misma tecnología que puede contribuir a cerrar brechas también puede amplificar sesgos, concentrar poder, precarizar el trabajo, intensificar la vigilancia y profundizar las desigualdades entre el Norte y el Sur globales.
Desde Clave Igualdad sostenemos que la pregunta que debe guiar al Diálogo Mundial sobre Gobernanza de la IA no es únicamente cómo acelerar su despliegue, sino bajo qué condiciones la inteligencia artificial puede convertirse efectivamente en una herramienta para ampliar derechos y no en un nuevo mecanismo de exclusión.
Para que la IA esté al servicio de la igualdad de derechos, su gobernanza global debe construirse sobre cinco compromisos interdependientes: anclaje en el derecho internacional de los derechos humanos, reconocimiento de su dimensión de bien común global, prevención de la captura corporativa, creación de mecanismos independientes de rendición de cuentas y justicia laboral frente a la automatización.
1. Anclar la gobernanza de la IA en el marco internacional de derechos humanos
Si la aspiración es que la IA habilite la igualdad de derechos, su gobernanza global no puede construirse como un régimen técnico paralelo ni como un espacio de autorregulación voluntaria. Debe entenderse como una extensión coherente del derecho internacional de los derechos humanos.
Las decisiones automatizadas que determinan quién recibe crédito, quién pasa un filtro migratorio, quién es contratado, quién accede a un beneficio social o quién queda bajo vigilancia inciden directamente sobre la dignidad, la igualdad, la privacidad, la libertad de expresión, el acceso a la justicia y la no discriminación. Estos principios no admiten excepciones tecnológicas.
La igualdad de derechos exige que los sistemas de IA sean evaluados no solo por su eficiencia o innovación, sino también por sus impactos diferenciados sobre mujeres, personas afrodescendientes, pueblos indígenas, personas LGBTIQ+, personas con discapacidad, personas migrantes, trabajadoras informales y comunidades históricamente excluidas.
Por ello instamos al Diálogo Mundial a reafirmar expresamente la aplicabilidad plena de los tratados internacionales de derechos humanos a todo el ciclo de vida de la IA. Asimismo, solicitamos que el principio de igualdad sustantiva sea adoptado como criterio rector de cualquier marco normativo que derive del proceso.
2. Reconocer la dimensión de bien común global de la IA
La promesa igualadora de la IA depende de quién controla sus insumos, quién define sus usos y quién recibe sus beneficios. Los datos con los que se entrenan muchos sistemas provienen de sociedades enteras. Los recursos materiales que sostienen su desarrollo están distribuidos de forma profundamente desigual y, con frecuencia, se encuentran en territorios y comunidades del Sur global.
Por ello, no basta con regular la IA como si fuera únicamente un producto privado. Ciertos componentes esenciales de su desarrollo deben ser tratados desde una lógica de bien común digital. Esto no implica negar la existencia de actores privados ni de innovación empresarial. Implica reconocer que, cuando los insumos son colectivos y los impactos son sociales, la distribución del valor, el acceso, la transparencia y la rendición de cuentas no pueden concentrarse en unas pocas empresas. Sin esta condición, la IA no amplía los derechos: reproduce la distribución actual del poder.
Por ello instamos al Diálogo Mundial a reconocer explícitamente la dimensión de bien común global de la IA y de sus infraestructuras críticas. Solicitamos que se promuevan infraestructuras públicas, comunitarias y abiertas de cómputo y datos; que se fortalezca la soberanía digital de los Estados, especialmente del Sur global; y que se establezcan mecanismos vinculantes de transparencia y rendición de cuentas sobre los datos de entrenamiento, los modelos, los impactos sociales, el uso de recursos naturales y las cadenas de suministro.
3. Blindar el proceso frente a la captura corporativa
Una gobernanza orientada a la igualdad de derechos no puede depender de reglas redactadas principalmente por quienes deben ser regulados. La captura corporativa del espacio multilateral, por ejemplo a través de financiamiento, lobby, presencia desproporcionada en mesas técnicas, producción de estándares privados o autorregulación presentada como solución suficiente, representa uno de los principales riesgos para una gobernanza democrática de la IA.
Cuando las empresas tecnológicas definen los estándares de seguridad, los límites éticos y las condiciones de transparencia, el resultado suele favorecer la continuidad del modelo de negocio antes que la protección de derechos. Esto refuerza los monopolios tecnológicos, debilita las soberanías digitales del Sur global y traslada los costos sociales de la IA hacia las comunidades con menor capacidad de defensa.
La participación significativa de la sociedad civil no puede ser meramente decorativa. Para que sea real, debe ser accesible, financiada, multilingüe, territorialmente diversa y capaz de incidir en las decisiones, no solo de reaccionar ante ellas.
Por ello, instamos al Diálogo Mundial a adoptar reglas claras de integridad, transparencia y prevención de conflictos de interés en todos los espacios de discusión y de toma de decisiones sobre la gobernanza de la IA. Solicitamos que se garantice la participación efectiva, financiada y accesible de organizaciones de la sociedad civil del Sur global, organizaciones feministas, sindicatos, pueblos indígenas, comunidades afrodescendientes, organizaciones de personas con discapacidad, juventudes y comunidades directamente afectadas. Asimismo, recomendamos avanzar hacia estándares vinculantes para las empresas que desarrollan, comercializan y despliegan sistemas de IA.
4. Impulsar una Relatoría Especial de Naciones Unidas sobre IA y Derechos Humanos
Para que la gobernanza de la IA esté efectivamente orientada a derechos, hace falta un mecanismo independiente, permanente y con mandato global. Hoy los criterios, recomendaciones y espacios de discusión sobre IA y derechos humanos se encuentran dispersos en distintos foros, agencias y marcos regulatorios. Esa fragmentación dificulta la rendición de cuentas y debilita la capacidad de las comunidades afectadas para activar mecanismos internacionales.
Una Relatoría Especial de las Naciones Unidas sobre Inteligencia Artificial y Derechos Humanos podría contribuir a cerrar esa brecha. Su mandato permitiría documentar violaciones, recibir información de comunidades afectadas, emitir recomendaciones a Estados y empresas, articular estándares internacionales, visibilizar impactos diferenciados y servir de puente entre el sistema internacional de derechos humanos y los procesos globales de gobernanza tecnológica.
Este mecanismo también podría abrir un canal formal para que las voces del Sur global y de los grupos históricamente discriminados incidan en la agenda global de IA, especialmente cuando los impactos de la tecnología se producen en territorios, cuerpos y mercados laborales que suelen quedar fuera de los centros de decisión.
Por ello, solicitamos que el Diálogo Mundial recomiende al Consejo de Derechos Humanos que evalúe y avance en la creación de una Relatoría Especial sobre Inteligencia Artificial y Derechos Humanos, con un mandato amplio, recursos suficientes y métodos de trabajo participativos. Este mandato debería garantizar mecanismos accesibles para recibir información de la sociedad civil, sindicatos, comunidades afectadas, organizaciones feministas y actores del Sur global.
5. Incorporar la justicia laboral como condición de igualdad real
Ningún marco de IA orientado a la igualdad de derechos puede sostenerse sin una respuesta seria a la automatización del trabajo. La automatización no es un proceso técnicamente neutro ni socialmente homogéneo: reorganiza el mundo laboral a partir de jerarquías previas de género, raza, clase, edad, discapacidad, territorio y estatus migratorio.
La IA puede liberar tiempo, mejorar las condiciones de trabajo y apoyar tareas de alto valor social. Pero también puede desplazar empleos, degradar ocupaciones, fragmentar relaciones laborales, intensificar ritmos de producción y ampliar formas de vigilancia. La diferencia entre un escenario y otro no depende de la tecnología en abstracto, sino de las reglas, instituciones y relaciones de poder que orientan su adopción.
La automatización opera, al menos, en tres dimensiones que deben leerse en conjunto.
La primera es el desplazamiento desigual. Los empleos más expuestos a transformación no son necesariamente los más visibles en la conversación pública, sino aquellos concentrados en tareas administrativas, atención al cliente, traducción, manufactura, transporte, comercio minorista y otros servicios donde participan de manera significativa mujeres, personas migrantes, trabajadoras informales y personas del Sur global. Cuando estos puestos desaparecen, se degradan o se vuelven más precarios, los sistemas de protección social rara vez alcanzan a quienes más los necesitan.
La segunda es la intensificación del trabajo humano que sostiene a la IA. Detrás de los sistemas llamados “inteligentes” hay cadenas globales de etiquetado, moderación de contenido, limpieza de datos, supervisión humana, ajuste de modelos y evaluación de respuestas. En distintos contextos se ha documentado que estas tareas suelen realizarse bajo esquemas fragmentados, externalizados y con escasa protección laboral. Hablar de IA ética sin reconocer el trabajo de datos y a las personas que lo realizan produce una ficción: la de una tecnología autónoma que, en realidad, descansa sobre trabajo humano invisibilizado.
La tercera es la gerencia algorítmica del trabajo. Cada vez más sistemas asignan turnos, evalúan el desempeño, vigilan la productividad, distribuyen tareas, calculan riesgos, recomiendan sanciones o intervienen en decisiones de despido. En estos casos, la automatización no sustituye necesariamente a la persona trabajadora, sino que sustituye relaciones laborales deliberativas por sistemas opacos, difíciles de impugnar y sin contraparte humana clara. Esto erosiona derechos básicos: estabilidad, descanso, libertad sindical, no discriminación, privacidad, seguridad y salud en el trabajo, y debido proceso.
Sin justicia laboral, la IA no será una herramienta de igualdad. Será una nueva infraestructura para redistribuir el riesgo hacia abajo y la ganancia hacia arriba.
Por ello instamos al Diálogo Mundial a incorporar la justicia laboral como pilar irrenunciable de la gobernanza global de la IA. Solicitamos un marco con tres componentes: primero, políticas de transición justa para las personas desplazadas o afectadas por la automatización, con foco específico en mujeres, personas migrantes, trabajadoras informales y comunidades del Sur global; segundo, estándares laborales vinculantes en línea con la OIT para las cadenas de valor de la IA, incluyendo reconocimiento del trabajo de datos, salario digno, salud mental, libertad sindical, protección social y no discriminación; y tercero, regulación específica de la gerencia algorítmica del trabajo, con derecho a explicación, supervisión humana significativa, prohibición de vigilancia desproporcionada, mecanismos efectivos de apelación y participación sindical en el diseño, implementación y evaluación de los sistemas.
Gobernar la IA para ampliar derechos
Las cinco peticiones de Clave Igualdad no constituyen una lista aislada de demandas. Son un mismo argumento desplegado: la inteligencia artificial puede contribuir a facilitar la igualdad de derechos solo si se gobierna desde el marco internacional de derechos humanos, se reconoce su dimensión de bien común, se protege el proceso frente a la captura corporativa, se crean mecanismos independientes de rendición de cuentas y se garantiza justicia laboral para quienes la sostienen y para quienes pueden ser desplazadas por ella.
La pregunta que debe atravesar el Diálogo Mundial sobre Gobernanza de la IA es clara: ¿al servicio de quién, a costa de quién y bajo el control de quién se está construyendo esta tecnología?
Para Clave Igualdad, la legitimidad de cualquier marco global de gobernanza de la IA debe medirse por su capacidad para ampliar derechos, redistribuir poder, reducir desigualdades y proteger a las personas y comunidades que hoy cargan con los costos de la transformación tecnológica. Solo bajo esas condiciones la IA podrá ser una palanca de igualdad y no un nuevo eje de exclusión.
