{"id":853,"date":"2025-06-25T09:50:24","date_gmt":"2025-06-25T15:50:24","guid":{"rendered":"https:\/\/evida.ugto.mx\/learning\/?p=853"},"modified":"2025-06-25T09:50:25","modified_gmt":"2025-06-25T15:50:25","slug":"leccion-4-si-la-ia-es-posible-como-deberiamos-prepararnos","status":"publish","type":"post","link":"https:\/\/evida.ugto.mx\/learning\/leccion-4-si-la-ia-es-posible-como-deberiamos-prepararnos\/","title":{"rendered":"Lecci\u00f3n 4. Si la IA es posible, \u00bfc\u00f3mo deber\u00edamos prepararnos?"},"content":{"rendered":"\n

Introducci\u00f3n<\/h2>\n\n\n\n

Partimos de una premisa decisiva: si aceptamos que la IA alcanzar\u00e1 tarde o temprano un nivel de competencia comparable al humano, surge de inmediato la pregunta \u2014tan sencilla como estremecedora\u2014 de qu\u00e9 haremos a continuaci\u00f3n. Mientras la cultura popular se regodea en visiones apocal\u00edpticas de m\u00e1quinas despiertas que se vuelven contra nosotros, en los \u00e1mbitos acad\u00e9mico, industrial y gubernamental proliferan llamados mesurados a la cautela. La cuesti\u00f3n no es ya si la IA llegar\u00e1 a \u201cpensar\u201d o \u201cactuar\u201d como un ser humano, sino c\u00f3mo maximizar sus beneficios y contener sus riesgos antes de que se asiente definitivamente en nuestra vida cotidiana.<\/p>\n\n\n\n

A lo largo de esta lecci\u00f3n abordaremos primero las reflexiones de Stuart Russell, quien nos invita no a debatir si la IA ser\u00e1 capaz de igualar al intelecto humano, sino a asumirlo y dise\u00f1ar desde hoy las estrategias necesarias. Seguidamente, examinaremos ejemplos reveladores de las limitaciones y fallos de los sistemas actuales, demostrando que \u201chacer lo que se le pide\u201d no siempre equivale a \u201chacer lo que se necesita\u201d. Finalmente, abriremos el horizonte para preguntarnos por los retos emergentes en torno a la diversidad, la equidad y la sostenibilidad, cuestiones que condicionar\u00e1n el modo en que esta tecnolog\u00eda se integre en la sociedad.<\/p>\n\n\n\n

Desarrollo del tema<\/h2>\n\n\n\n

Si la IA es posible, \u00bfc\u00f3mo deber\u00edamos prepararnos?<\/h3>\n\n\n\n

Stuart Russell, quien junto a Peter Norvig escribi\u00f3 el libro Artificial Intelligence – A Modern Approach<\/em>, nos propone un cambio de enfoque radical: en lugar de preguntarnos si alcanzaremos pronto un nivel de inteligencia artificial equiparable al nuestro, deber\u00edamos aceptar esa posibilidad como inevitable y empezar hoy a planificar sus consecuencias. Imaginemos una IA capaz de sustituirnos en tareas tan variadas como la conducci\u00f3n automatizada, el cuidado de personas dependientes o la atenci\u00f3n financiera online. Si dicha hip\u00f3tesis se convierte en realidad, \u00bfqu\u00e9 oportunidades podr\u00edamos aprovechar y qu\u00e9 peligros deber\u00edamos prever? <\/p>\n\n\n\n

Russell se\u00f1ala que, sin una reflexi\u00f3n previa sobre la alineaci\u00f3n de objetivos \u2014c\u00f3mo garantizamos que la m\u00e1quina persiga fines compatibles con valores humanos\u2014 podr\u00edamos enfrentar resultados catastr\u00f3ficos, incluso sin ninguna voluntad maligna por parte del agente artificial. Prepararse, entonces, implica desarrollar marcos de gobernanza, protocolos de control y sistemas de auditor\u00eda que aseguren que la IA opere conforme a criterios de seguridad, justicia y responsabilidad.<\/p>\n\n\n\n

Figura 7<\/strong>
\u00bfQu\u00e9 oportunidades podr\u00edamos aprovechar y qu\u00e9 peligros deber\u00edamos prever ante la IA?<\/em><\/p>\n\n\n

\n
\"\u00bfQu\u00e9<\/figure>\n<\/div>\n\n\n

Hacer lo que se pide versus hacer lo que se necesita<\/h3>\n\n\n\n

Para ilustrar cu\u00e1n lejos estamos a\u00fan de una IA \u201cgeneral\u201d verdaderamente confiable, Janelle Shane presenta ejemplos tanto c\u00f3micos como alarmantes. Un algoritmo que inventa sabores de helado ofrece combinaciones tan absurdas como \u201cmostaza de chocolate\u201d o \u201cpepino y salsa de soja\u201d, record\u00e1ndonos que un modelo puede cumplir literalmente las instrucciones de su programador sin entender la intenci\u00f3n de fondo.<\/p>\n\n\n\n

M\u00e1s grave a\u00fan, en 2016 el piloto autom\u00e1tico de un veh\u00edculo Tesla provoc\u00f3 un accidente fatal al \u201chacer lo que se le pidi\u00f3\u201d \u2014mantenerse en el carril\u2014 pero no lo que se necesitaba: reaccionar a una gr\u00faa detenida en la carretera.<\/p>\n\n\n\n

Un tercer caso estremecedor es el de la herramienta de selecci\u00f3n de curr\u00edculums de Amazon, que aprendi\u00f3 a penalizar perfiles femeninos porque estaba \u201chaciendo lo que le ense\u00f1aron\u201d con datos hist\u00f3ricos sesgados. En todos estos ejemplos subyace la misma lecci\u00f3n: una IA puede optimizar una funci\u00f3n objetivo mal dise\u00f1ada, generando resultados que, lejos de ayudar, perpet\u00faan errores y discriminaciones.<\/p>\n\n\n\n

Desaf\u00edos emergentes: diversidad, equidad y sostenibilidad<\/h3>\n\n\n\n

Si asumimos que la IA se integrar\u00e1 progresivamente en sectores tan diversos como la sanidad, la justicia o el transporte, debemos anticipar sus repercusiones sobre grupos sociales distintos. La historia del algoritmo COMPAS<\/a> en EE. UU. muestra c\u00f3mo un puntaje de riesgo, aparentemente objetivo, refleja y amplifica disparidades raciales al apoyarse en datos hist\u00f3ricos injustos. <\/p>\n\n\n\n

En paralelo, la intensidad energ\u00e9tica de los centros de datos plantea interrogantes ecol\u00f3gicos: \u00bfc\u00f3mo evitamos que el despliegue masivo de modelos de aprendizaje profundo agrave la huella de carbono? <\/p>\n\n\n\n

Asimismo, la diversidad en los equipos de dise\u00f1o y en los conjuntos de datos resulta esencial para garantizar que la IA sirva a toda la sociedad y no solo a una minor\u00eda. Estos temas \u2014justicia algor\u00edtmica, sostenibilidad medioambiental y pluralidad cultural\u2014 formar\u00e1n el n\u00facleo de nuestras discusiones en las pr\u00f3ximas sesiones, pues de su atenci\u00f3n depende que la IA contribuya al bien com\u00fan en lugar de reproducir desigualdades.<\/p>\n\n\n