La IA que queremos
Punto de partida: la IA como posibilidad, no como destino
La inteligencia artificial puede ser una de las herramientas más potentes de este siglo para ampliar la igualdad de derechos. Puede facilitar el acceso a servicios de salud en zonas remotas, traducir conocimiento entre lenguas históricamente marginadas, identificar patrones de discriminación estructural, fortalecer servicios públicos, mejorar la toma de decisiones y abrir nuevas formas de participación democrática.
Esa posibilidad, sin embargo, no se cumple por inercia. La misma tecnología que puede contribuir a cerrar brechas también puede amplificar sesgos, concentrar poder, precarizar el trabajo, intensificar la vigilancia y profundizar las desigualdades entre el Norte y el Sur globales.
Aquí cinco puntos que desde Clave Igualdad consideramos básicos para lograr #LaIAqueQueremos:
1. Anclar la gobernanza de la IA en el marco internacional de derechos humanos
Si la aspiración es que la IA habilite la igualdad de derechos y oportunidades, su gobernanza global no puede construirse como un régimen técnico paralelo ni como un espacio de autorregulación voluntaria. Debe entenderse en relación con los estándares de derecho internacional de los derechos humanos.
Las decisiones automatizadas que determinan quién recibe crédito, quién pasa un filtro migratorio, quién es contratadx, quién accede a un beneficio social o quién queda bajo vigilancia inciden directamente sobre la dignidad, la igualdad, la privacidad, la libertad de expresión, el acceso a la justicia y la no discriminación. Estos principios no admiten excepciones tecnológicas.
La igualdad de derechos exige que los sistemas de IA sean evaluados no solo por su eficiencia o innovación, sino también por sus impactos diferenciados sobre mujeres, personas afrodescendientes, pueblos indígenas, personas LGBTIQ+, personas con discapacidad, personas migrantes, trabajadoras informales y comunidades históricamente excluidas.
2. Reconocer la dimensión de bien común global de la IA
La promesa igualadora de la IA depende de quién controla sus insumos, quién define sus usos y quién recibe sus beneficios. Los datos con los que se entrenan muchos sistemas provienen de sociedades enteras. Los recursos materiales que sostienen su desarrollo están distribuidos de forma profundamente desigual y, con frecuencia, se encuentran en territorios y comunidades del Sur global.
Por ello, no basta con regular la IA como si fuera únicamente un producto privado. Ciertos componentes esenciales de su desarrollo deben abordarse desde una lógica de bien común digital. Esto no implica negar la existencia de actores privados ni de innovación empresarial. Implica reconocer que, cuando los insumos son colectivos y los impactos son sociales, la distribución del valor, el acceso, la transparencia y la rendición de cuentas no pueden concentrarse en unas pocas empresas. Sin esta condición, la IA no amplía los derechos: reproduce la distribución (asimétrica) actual del poder.
3. Blindar el proceso frente a la captura corporativa
Una gobernanza orientada a la igualdad de derechos no puede depender de reglas redactadas principalmente por quienes deben ser regulados. La captura corporativa del espacio multilateral, por ejemplo a través de financiamiento, lobbying, presencia desproporcionada en mesas técnicas, producción de estándares privados o autorregulación presentada como solución suficiente, representa uno de los principales riesgos para una gobernanza democrática de la IA.
Cuando las empresas tecnológicas definen los estándares de seguridad, los límites éticos y las condiciones de transparencia, el resultado suele favorecer la continuidad del modelo de negocio antes que la protección de derechos. Esto refuerza los monopolios tecnológicos, debilita las soberanías digitales del Sur global y traslada los costos sociales de la IA hacia las comunidades con menor capacidad de defensa.
La participación significativa de la sociedad civil no puede ser meramente decorativa. Para que sea real, debe ser accesible, financiada, multilingüe, territorialmente diversa y capaz de incidir en las decisiones, no solo de reaccionar ante ellas.
4. Impulsar una Relatoría Especial de Naciones Unidas sobre IA y Derechos Humanos
Para que la gobernanza de la IA esté efectivamente orientada a la progresividad de los derechos humanos, hace falta un mecanismo independiente, permanente y con mandato global. Una Relatoría Especial de las Naciones Unidas sobre Inteligencia Artificial y Derechos Humanos permitiría documentar violaciones, recibir información de comunidades afectadas, emitir recomendaciones a Estados y empresas, articular estándares internacionales, visibilizar impactos diferenciados y servir de puente entre el sistema internacional de derechos humanos y los procesos globales de gobernanza tecnológica.
Este mecanismo también podría abrir un canal formal para que las voces del Sur global y de los grupos históricamente discriminados incidan en la agenda global de IA, especialmente cuando los impactos de la tecnología se producen en territorios, cuerpos y mercados laborales que suelen quedar fuera de los centros de decisión.
5. Incorporar la mirada de justicia laboral
La automatización no es un proceso técnicamente neutro ni socialmente homogéneo: reorganiza el mundo laboral a partir de jerarquías previas de género, raza, clase, edad, discapacidad, territorio y estatus migratorio.
La IA puede liberar tiempo, mejorar las condiciones de trabajo y apoyar tareas de alto valor social. Pero también puede desplazar empleos, degradar ocupaciones, fragmentar relaciones laborales, intensificar los ritmos de producción y ampliar las formas de vigilancia. La diferencia entre un escenario y otro no depende de la tecnología en abstracto, sino de las reglas, instituciones y relaciones de poder que orientan su adopción.
La automatización opera, al menos, en tres dimensiones que deben leerse en conjunto:
La primera es el desplazamiento desigual. Los empleos más expuestos a la transformación no son necesariamente los más visibles en la conversación pública, sino aquellos concentrados en tareas administrativas, atención al cliente, traducción, manufactura, transporte, comercio minorista y otros servicios donde participan de manera significativa mujeres, personas migrantes, trabajadoras informales y personas del Sur global. Cuando estos puestos desaparecen, se degradan o se vuelven más precarios, los sistemas de protección social rara vez alcanzan a quienes más los necesitan.
La segunda es la intensificación del trabajo humano que sostiene a la IA. Detrás de los sistemas llamados “inteligentes” hay cadenas globales de etiquetado, moderación de contenido, limpieza de datos, supervisión humana, ajuste de modelos y evaluación de respuestas. En distintos contextos se ha documentado que estas tareas suelen realizarse bajo esquemas fragmentados, externalizados y con escasa protección laboral. Hablar de IA ética sin reconocer el trabajo de datos y a las personas que lo realizan produce una ficción: la de una tecnología autónoma que, en realidad, descansa sobre trabajo humano invisibilizado.
La tercera es la gerencia algorítmica del trabajo. Cada vez más sistemas asignan turnos, evalúan el desempeño, vigilan la productividad, distribuyen tareas, calculan riesgos, recomiendan sanciones o intervienen en decisiones de despido. En estos casos, la automatización no sustituye necesariamente a la persona trabajadora, sino que sustituye relaciones laborales deliberativas por sistemas opacos, difíciles de impugnar y sin contraparte humana clara. Esto erosiona derechos básicos: estabilidad, descanso, libertad sindical, no discriminación, privacidad, seguridad y salud en el trabajo, y debido proceso.
El derecho a la formación continua de habilidades y otras medidas de protección al empleo es clave para que la inteligencia artificial no sea una infraestructura para redistribuir el riesgo hacia abajo y la ganancia hacia arriba.
Gobernar la IA para ampliar derechos
Las cinco peticiones de Clave Igualdad no constituyen una lista de items sin conexión entre sí. Son un mismo argumento desplegado: la inteligencia artificial puede contribuir a facilitar la igualdad de derechos solo si se gobierna desde el marco internacional de derechos humanos, se reconoce su dimensión de bien común, se protege el proceso frente a la captura corporativa, se crean mecanismos independientes de rendición de cuentas y se garantiza justicia laboral para quienes la sostienen y para quienes pueden ser desplazadas por ella.
La legitimidad de cualquier marco global de gobernanza de la IA debe medirse por su capacidad para ampliar derechos, redistribuir poder, reducir desigualdades y proteger a las personas y comunidades que hoy cargan con los costos de la transformación tecnológica.
