{"id":847,"date":"2025-06-25T09:53:10","date_gmt":"2025-06-25T15:53:10","guid":{"rendered":"https:\/\/evida.ugto.mx\/learning\/?p=847"},"modified":"2025-06-25T09:55:17","modified_gmt":"2025-06-25T15:55:17","slug":"leccion-5-diversidad-equidad-e-imparcialidad-en-la-ia","status":"publish","type":"post","link":"https:\/\/evida.ugto.mx\/learning\/leccion-5-diversidad-equidad-e-imparcialidad-en-la-ia\/","title":{"rendered":"Lecci\u00f3n 5. Diversidad, equidad e imparcialidad en la IA"},"content":{"rendered":"\n

Introducci\u00f3n<\/h2>\n\n\n\n

La Inteligencia Artificial no crece en un vac\u00edo: su desarrollo y despliegue est\u00e1n inevitablemente imbricados en las din\u00e1micas sociales, culturales y econ\u00f3micas que la rodean. Cuando hablamos de \u201cIA\u201d no solo nos referimos a algoritmos o modelos matem\u00e1ticos, sino tambi\u00e9n al sector empresarial que los crea y al uso concreto que de ellos se hace en la vida cotidiana. En esta lecci\u00f3n nos preguntaremos qui\u00e9nes participan, qui\u00e9nes se benefician y qui\u00e9nes salen perjudicados por la expansi\u00f3n de estas tecnolog\u00edas. Para ello, abordaremos en primer lugar el valor de la diversidad y la inclusi\u00f3n en el propio campo de la IA, luego el papel que juegan las grandes empresas tecnol\u00f3gicas y, finalmente, las repercusiones reales que estos sistemas tienen sobre comunidades y colectivos, especialmente los m\u00e1s vulnerables.<\/p>\n\n\n\n

Desarrollo del tema<\/h2>\n\n\n\n

Diversidad e inclusi\u00f3n en el sector de la IA<\/h3>\n\n\n\n

La riqueza de una sociedad radica en la pluralidad de experiencias, or\u00edgenes y perspectivas de sus miembros. Cuando trasladamos esta premisa al campo de la IA, constatamos que la heterogeneidad de identidades y trayectorias fortalece la creatividad y la pertinencia de las soluciones tecnol\u00f3gicas. Una instituci\u00f3n diversa refleja mejor la complejidad del mundo al que pretende servir y, por tanto, est\u00e1 en mejores condiciones de integrar las preocupaciones de amplios sectores de la poblaci\u00f3n. Incluir de manera activa esas diferencias \u2014ya sea de g\u00e9nero, \u00e9tnicas, culturales o de formaci\u00f3n acad\u00e9mica\u2014 no es un gesto meramente simb\u00f3lico, sino una estrategia clave para evitar sesgos en los datos y en los sistemas que de ellos se nutren.<\/p>\n\n\n\n

Tratar a todas las personas de manera justa implica garantizar que ninguna sea discriminada por atributos personales o circunstancias ajenas a su control. Pero la justicia no se detiene en el terreno de la igualdad de trato: la equidad reclama dotar a cada quien de los ajustes necesarios para arribar a un punto de partida com\u00fan. En el \u00e1mbito de la IA, esto puede traducirse en adaptar criterios de evaluaci\u00f3n, en dise\u00f1ar interfaces accesibles o en incorporar datos que representen adecuadamente a personas con discapacidad, geograf\u00edas remotas o realidades socioecon\u00f3micas diversas. Solo as\u00ed lograremos que el campo de la IA no sea un club selecto, sino un ecosistema inclusivo que impulse innovaciones beneficiosas para toda la sociedad.<\/p>\n\n\n\n

Figura 8<\/strong>
Tratar a todas las personas de manera justa implica garantizar que ninguna sea discriminada por atributos personales o circunstancias ajenas a su control<\/em><\/p>\n\n\n

\n
\"Tratar<\/figure>\n<\/div>\n\n\n

El papel de las grandes empresas tecnol\u00f3gicas<\/h3>\n\n\n\n

Cuando reflexionamos sobre los motores de la innovaci\u00f3n en IA, no podemos ignorar el peso de Amazon, Microsoft, Google y otras multinacionales. Para algunos cr\u00edticos, como Nick Srnicek, estas compa\u00f1\u00edas constituyen un obst\u00e1culo para la democratizaci\u00f3n de la investigaci\u00f3n, al concentrar talento y recursos en proyectos propios y orientados a sus intereses comerciales. Sin embargo, existe tambi\u00e9n una visi\u00f3n contrapuesta que defiende que, al asumir el costo de infraestructuras de c\u00f3mputo masivo y poner a disposici\u00f3n de la comunidad herramientas como servicios en la nube o bibliotecas de c\u00f3digo abierto, facilitan el acceso de investigadores independientes y de instituciones educativas con menor presupuesto.<\/p>\n\n\n\n

A la hora de sopesar ambos enfoques, podemos construir un debate comparativo que enfrente la cr\u00edtica \u2014que se\u00f1ala el riesgo de algorimiprogramas cerrados y acuerdos de exclusividad\u2014 con el argumento de quienes ven en esos mismos gigantes un aliado para expandir las capacidades de c\u00f3mputo y fomentar colaboraciones multinivel. La pregunta central no es decidir de forma dogm\u00e1tica si estas empresas son \u201camigas\u201d o \u201cenemigas\u201d de la IA democr\u00e1tica, sino identificar las condiciones bajo las cuales su contribuci\u00f3n potencia el bien com\u00fan y limitar aquellos aspectos en que su enorme escala podr\u00eda generar dependencia, monopolio o filtrado sesgado de resultados.<\/p>\n\n\n\n

El impacto de la IA en la sociedad<\/h3>\n\n\n\n

Los trabajos de la investigadora Timnit Gebru ofrecen un espejo inquietante sobre c\u00f3mo la IA puede profundizar desigualdades existentes. Su denuncia del proyecto \u2018Extreme Vetting Initiative<\/a>\u2019 de ICE revel\u00f3 hasta qu\u00e9 punto un sistema de vetado migratorio \u2014basado en aprendizaje autom\u00e1tico aplicado a datos de redes sociales\u2014 pon\u00eda en jaque derechos fundamentales al dictaminar qui\u00e9n pod\u00eda entrar o deb\u00eda ser deportado. Muchos se preguntan si herramientas de este calibre deber\u00edan existir jam\u00e1s, dada la dificultad de garantizar su transparencia y su margen de error.<\/p>\n\n\n\n

Cuando Gebru cuestiona la seguridad de las herramientas actuales, alude a casos como la detenci\u00f3n indebida de palestinos de habla \u00e1rabe por algoritmos que traducen mal matices idiom\u00e1ticos, o al sesgo sistem\u00e1tico de las \u201cword embeddings<\/em>\u201d, vectores que modelan similitudes sem\u00e1nticas pero replican prejuicios hist\u00f3ricos: por ejemplo, asociar consistentemente profesiones t\u00e9cnicas con hombres y tareas dom\u00e9sticas con mujeres. Estos ejemplos revelan que una IA \u201chace lo que le ense\u00f1as\u201d y puede reproducir inequidades sociales si los datos de entrenamiento est\u00e1n impregnados de discriminaci\u00f3n.<\/p>\n\n\n\n

Figura 9<\/strong>
La IA \u201chace lo que le ense\u00f1as\u201d y puede reproducir inequidades sociales si los datos de entrenamiento est\u00e1n impregnados de discriminaci\u00f3n<\/em><\/p>\n\n\n

\n
\"La<\/figure>\n<\/div>\n\n\n

El informe \u2018The Perpetual Line Up<\/a>\u2019 a\u00f1ade otra capa de complejidad: evidencia que los sistemas de reconocimiento facial, lejos de ser fiables, presentan tasas de error tan elevadas que resultan inseguros, tanto por falsos positivos como por la posibilidad de un uso malintencionado. Frente a estas amenazas, la soluci\u00f3n no reside en vetar toda tecnolog\u00eda, sino en reforzar protocolos de auditor\u00eda, establecer est\u00e1ndares \u00e9ticos y dise\u00f1ar colaboraciones s\u00f3lidas entre expertos en datos, juristas, soci\u00f3logos y representantes de las comunidades afectadas. Solo un enfoque interdisciplinar garantiza que la IA contribuya a cerrar brechas en lugar de ensancharlas.<\/p>\n\n\n