Cursos · Impacto de la Inteligencia Artificial en las Finanzas y Negocios · Estrategia directiva, ética y el futuro del profesional · Ética Algorítmica y Sesgos: El Peligro de la Discriminación Automatizada en la Entrega de Créditos
1. La Raíz del Problema: ¿Cómo Aprende a Discriminar un Algoritmo?
Sección 2 de 5
Existe un mito gerencial generalizado que asume que las máquinas son intrínsecamente neutrales y objetivas, y que al delegar las decisiones a un algoritmo se eliminan automáticamente los prejuicios humanos. La realidad técnica y de negocios demuestra exactamente lo contrario: los modelos de Machine Learning son tan imparciales como los datos con los que son entrenados (el principio de "basura entra, basura sale" o Garbage In, Garbage Out).
1.1 Fuentes de Sesgo en la Evaluación Crediticia
El proceso mediante el cual un algoritmo de credit scoring hereda o amplifica la discriminación se divide en tres vectores principales:
- Datos Históricos Sesgados: Si un banco entrena su modelo predictivo utilizando el historial de concesión de hipotecas de las últimas tres décadas, el algoritmo aprenderá los sesgos estructurales de ese período. Si históricamente los agentes de crédito humanos denegaron desproporcionadamente préstamos a minorías o a mujeres, la red neuronal identificará ese patrón de denegación como "exitoso" y lo replicará a escala masiva, asumiendo erróneamente que esas variables son predictivas de un alto riesgo de impago.
- Variables Sustitutivas (Proxies) y Correlaciones Engañosas: Las normativas de crédito justo prohíben explícitamente incluir variables protegidas (como raza, religión o género) en las solicitudes de préstamo. Sin embargo, los algoritmos modernos procesan miles de variables no convencionales (Big Data) y son capaces de identificar "proxies" o sustitutos. Por ejemplo, el modelo podría aprender a denegar créditos a los residentes de ciertos códigos postales o a los egresados de determinadas universidades públicas, generando una discriminación indirecta (redlining digital) que afecta desproporcionadamente a los mismos grupos protegidos.
- Falta de Explicabilidad ("Caja Negra"): Como se vio en módulos anteriores, la opacidad matemática de las redes neuronales profundas (Deep Learning) impide que los directivos e inspectores auditen exactamente qué combinación de variables motivó la denegación de un crédito. Esta "caja negra" oculta el sesgo discriminatorio hasta que el daño social y corporativo ya se ha materializado.
La lectura y el examen cuentan por separado. El módulo cierra cuando la lectura está marcada y, si hay examen, está aprobado.