Artículo

30 de septiembre de 2026

IA, Emociones y Representatividad: Investigando el Rendimiento de Redes Neuronales Convolucionales en el Reconocimiento Facial por Género, Etnia y Edad

Género, Emociones y Representatividad: Investigando el Rendimiento de Redes Neuronales Convolucionales en el Reconocimiento Facial por Género, Etnia y Edad

Cíntia Cristina Soares; Diego Pedroso dos Santos

DOI: 10.22167/2675-6528-202602787

Artículo derivado de Trabajo de Fin de Curso (TCC), con contenido basado en el trabajo original del estudiante y adaptado al formato editorial de la Revista E&S con el apoyo de la herramienta ResumeAI, una solución de inteligencia artificial desarrollada por el Instituto Pecege para la síntesis y organización textual.

Resumen

Los modelos de Deep Learning pueden presentar sesgos algorítmicos en el reconocimiento de emociones faciales, impactando la representatividad de expresiones de diferentes culturas. El estudio evaluó cuatro algoritmos de redes neuronales convolucionales (CNNs) – SimpleCNN, VGG-16, ResNet-50 y MobileNet-V2 – y propuso estrategias para mitigar este sesgo. Se realizó una investigación experimental cuantitativa, utilizando las bases de datos RAF-DB para entrenamiento y validación, y FairFace para la evaluación del sesgo. Se aplicaron métricas de rendimiento y de fairness, considerando género, etnia y edad, y se probaron las estrategias de mitigación Class Weights, Undersampling e Hybrid. Los resultados indicaron que SimpleCNN obtuvo el mejor rendimiento general. En el análisis de sesgo, se observó una superpredicción de la emoción “Sad” y disparidades significativas por género, etnia y edad, especialmente en niños. La estrategia Class Weights demostró ser la más eficaz en la reducción de la predicción de “Sad” y de la disparidad de género, aunque aumentó la disparidad de edad. Se concluyó que el trabajo contribuyó al desarrollo de un modelo de reconocimiento de emociones más equitativo, pero evidenció limitaciones técnicas relacionadas con el balanceo de datasets en visión computacional.

Palabras clave: Aprendizaje profundo; Equidad; Reconocimiento facial emocional; Sesgo algorítmico.

1. Introducción

Comprender las emociones humanas representa un desafío complejo para los modelos de inteligencia artificial. Una misma persona puede expresar diferentes emociones a través de patrones faciales variados, como el llanto, que puede indicar tanto felicidad como tristeza. Esta dualidad sugiere que la clasificación mediante un enfoque de múltiples etiquetas, basado en probabilidades, puede ser más eficaz que la asignación de una única clase emocional. Según Barsoum et al. (2016), el uso de bancos de imágenes con distribución de etiquetas demuestra una mayor eficiencia en comparación con la clasificación de una única emoción por imagen.

La complejidad del reconocimiento emocional se ve ampliada por la vasta diversidad de grupos sociales, que abarca diferencias de raza, edad, etnia y género. Los modelos de Deep Learning, aunque prometedores, pueden presentar sesgos algorítmicos, lo que compromete la precisión en el reconocimiento de emociones. Esto exige que los modelos no solo aprendan los patrones faciales, sino que también identifiquen el origen de estos patrones en diferentes grupos demográficos.

La participación de grupos sociales minoritarios en el desarrollo de modelos de inteligencia artificial es limitada, especialmente en la creación de conjuntos de datos para entrenamiento en procesamiento de lenguaje natural y reconocimiento facial (Castaneda et al., 2022). Esta subrepresentación puede llevar a decisiones de alto riesgo por parte de estas tecnologías, exacerbando impactos sociales negativos y perpetuando desigualdades.

Ante este escenario, la creación de bancos de imágenes más equilibrados y con mayor equidad es fundamental para reducir el sesgo algorítmico y desarrollar tecnologías más justas (Akter et al., 2021; Barsotti y Koçer, 2024). El reconocimiento y la interpretación de las emociones son desafiados por la diversidad cultural y la subjetividad emocional, e incluso soluciones avanzadas aún presentan limitaciones (Wang et al., 2023). La ausencia de diversidad en conjuntos de datos es una causa de errores sistemáticos, afectando desproporcionadamente a minorías raciales y mujeres, lo que hace que la transparencia y la representatividad en estos sistemas sean indispensables (Kim et al., 2024).

Profundizar la comprensión de la influencia del sesgo algorítmico en la precisión de los modelos de reconocimiento de emociones e identificar estrategias efectivas para desarrollar sistemas más inclusivos y justos es, por lo tanto, esencial. El reconocimiento de emociones es relevante en diversas áreas, pero el sesgo algorítmico puede llevar a interpretaciones erróneas e impactos negativos en decisiones automatizadas. La falta de equidad en la representación de grupos compromete la confiabilidad de estas tecnologías. Así, este estudio buscó contribuir a la mitigación del sesgo, proponiendo un modelo de inteligencia artificial más justo, representativo y diverso en la clasificación de expresiones faciales de grupos de género, etnia y edad, utilizando arquitecturas de Deep Learning para mejorar la equidad y la precisión en el reconocimiento de emociones.

2. Material y Métodos

El presente estudio se caracterizó por una investigación experimental de naturaleza cuantitativa. La manipulación de las imágenes y la diversidad de las bases de datos se emplearon para evaluaciones numéricas, con el objetivo de detectar sesgos algorítmicos tanto en los modelos como en los propios conjuntos de datos utilizados en el reconocimiento de emociones. Para el procesamiento de imágenes, se adoptaron técnicas de “Deep Learning”, destacando las Redes Neuronales Convolucionales (CNNs), debido a su eficiencia en la identificación de patrones visuales y al desempeño robusto en las etapas de entrenamiento, validación y prueba.

Se consideró que los modelos de reconocimiento emocional pueden presentar confusiones sistemáticas entre determinadas clases de emociones, dadas las sutilezas en las expresiones faciales. Se investigó si estas limitaciones se manifestaban de forma desigual entre grupos demográficos distintos. Para ello, tras el entrenamiento y validación de los modelos, se realizó un análisis con las matrices de confusión, a fin de determinar si el modelo clasificaba emociones de manera errónea, reafirmando el sesgo algorítmico.

Adicionalmente, se empleó la base de datos “FairFace” para la etapa de prueba neutral de los modelos. El objetivo fue verificar la hipótesis principal de esta investigación: la detección y cuantificación del sesgo algorítmico en tareas de reconocimiento de emociones, especialmente entre diferentes grupos étnico-raciales (Kärkkäinen y Joo, 2019).

Para la recopilación de datos, se utilizó la base de datos RAF-DB (Real-world Affective Faces Database), ampliamente estudiada, para garantizar la representatividad en el conjunto final y mitigar posibles sesgos algorítmicos (Li & Deng, 2019). El conjunto inicial consistió en 25.158 imágenes de rostros en un entorno no controlado, divididas en siete emociones básicas: “angry”, “disgust”, “fear”, “happy”, “neutral”, “sad” y “surprise”. Las imágenes fueron anotadas por aproximadamente 40 evaluadores independientes, quienes determinaron la “label” final por votación mayoritaria.

Se aplicó una etapa adicional de procesamiento para garantizar la calidad de los datos, utilizando un detector facial “Multi-task Cascaded Convolutional Networks” (MTCNN) (Zhang et al., 2016) con un umbral de confianza del 90%. Esta detección eliminó rostros parcialmente cortados, imágenes de baja calidad, múltiples caras o clasificaciones incorrectas. Después del filtrado, la base de imágenes final totalizó 15.480 imágenes, centralizadas y estandarizadas a 224×224 píxeles.

La división del conjunto de datos se realizó de forma estratificada por clase, destinando el 70% de las imágenes al entrenamiento (10.829 imágenes), el 10% a validación (1.552 imágenes) y el 20% a prueba (3.099 imágenes). Este proceso se llevó a cabo en dos etapas: primero, se separó el 20% para prueba, y el conjunto restante se dividió en un 87,5% para entrenamiento y un 12,5% para validación, asegurando la proporción final de 70/10/20.

Durante la conversión de las imágenes en tensores y la aplicación del preprocesamiento, el conjunto de entrenamiento se redujo en un 22,9%, totalizando 8.345 imágenes, debido a la eliminación de inconsistencias en la normalización o procesamiento. Los conjuntos de validación (1.152 imágenes) y prueba (3.099 imágenes) permanecieron inalterados, resultando en una base de datos final de 12.996 imágenes en formato de tensores, distribuidas en proporciones del 64,2% para entrenamiento, 11,9% para validación y 23,8% para prueba.

El conjunto “FairFace” (Kärkkäinen & Joo, 2021) se utilizó exclusivamente durante la etapa de prueba neutral de los modelos, con 10.954 imágenes. Este conjunto tiene etiquetas claras de etnia, edad y género, distribuidas entre: (i) Género: “Female” (47,1%) y “Male” (52,9%); (ii) Etnia: 7 grupos (“Black”, “East Asian”, “Indian”, “Latino”/”Hispanic”, “Middle Eastern”, “Southeast Asian”, “White”); (iii) Edad: 9 rangos de edad (0-2, 3-9, 10-19, 20-29, 30-39, 40-49, 50-59, 60-69, 70+).

El preprocesamiento de las imágenes consistió en etapas esenciales para garantizar que los datos estuvieran preparados para los pipelines de entrenamiento y evaluación de los modelos de “machine learning”. Inicialmente, la base de datos se dividió en entrenamiento y prueba; posteriormente, el conjunto de entrenamiento se subdividió en entrenamiento y validación, con los datos de predicción utilizados por separado para evaluar el sesgo algorítmico.

Para mitigar el desequilibrio natural del conjunto de imágenes, se aplicó un balanceo con estrategia híbrida, basado en tres niveles de cantidad de muestras por clase. Las clases sobrerrepresentadas (> 2.500 imágenes) fueron sometidas a técnicas de reducción a 1.500 imágenes, mientras que las clases intermedias (700-2.500 imágenes) y subrepresentadas (< 700 imágenes) se mantuvieron íntegramente. Esta estrategia preservó el 50% de los datos originales.

A continuación, se realizó el “data augmentation”, una técnica de ampliación artificial del conjunto de datos mediante transformaciones en las imágenes originales, también por clase. El aumento alcanzó aproximadamente 2.000 imágenes por clase, con una variación de factores entre 1,3 y 4,9 veces, totalizando 13.944 imágenes de entrenamiento balanceadas. Las transformaciones incluyeron rotación aleatoria (±15°), inversión horizontal (50% de probabilidad), zoom, ajuste de brillo y contraste (±20°), saturación (±20°), “crop” aleatorio con “resize” (escala 0,8-1,0) y transformaciones afines (traslación ±10%). Para evitar distorsiones excesivas, las transformaciones respetaron un límite máximo de cinco por imagen original, de forma aleatoria y combinada.

Las imágenes se estandarizaron a dimensiones de 224×224 píxeles, siguiendo un patrón de entrada para las CNN modernas. Se convirtieron en tensores con normalización en la escala de 0 a 1, ajustando los canales de color a “Red”, “Green”, “Blue” (RGB). Las transformaciones se aplicaron utilizando los módulos “Image” de la biblioteca “PIL” y “transforms” de la biblioteca “torchvision”. El proceso de “data augmentation” se aplicó exclusivamente sobre los conjuntos de entrenamiento balanceado, con el objetivo de reducir el “overfitting” y mejorar la generalización del modelo.

El presente estudio adoptó el lenguaje Python con el framework “PyTorch” (Paszke et al., 2019), además de bibliotecas auxiliares como “torchvision”, “PIL”, “NumPy”, Pandas y “Matplotlib” para preprocesamiento y visualización de los datos. Para mitigar la limitación de bases de datos con etiquetado de emociones, se entrenaron modelos con “transfer learning” y pesos preentrenados en el “ImageNet” (Wang et al., 2023). La clasificación personalizada se realizó sustituyendo la capa final (“CustomHead”) de las arquitecturas, adaptándola a las siete clases del problema.

Se utilizaron cuatro tipos de arquitecturas de CNNs: SimpleCNN (“baseline”), ResNet-50, MobileNet-V2 y VGG-16, todas con pesos preentrenados en “ImageNet”, excepto la SimpleCNN. La CNN Simple posee dos capas de convolución ajustadas para tres canales (RGB), seguidas por capas densas, normalización por “batch” (Ioffe & Szegedy, n.d.), funciones de activación “ReLU” y capas de “pooling”, para evaluar el aprendizaje con baja complejidad (Krizhevsky et al., 2017; Lecun et al., 1998).

ResNet-50 ofrece menor costo computacional y buena capacidad de generalización, basada en el trabajo “Deep Residual Learning for Image Recognition” (He et al., 2016; PyTorch, 2017b). El modelo VGG-16 se caracteriza por ser profundo, con 16 capas y filtros convolucionales 3×3, capturando “features” jerárquicas de forma consistente (Simonyan et al., 2014; PyTorch, 2017c). MobileNet-V3, creada para aplicación en dispositivos móviles o con recursos limitados, utiliza convoluciones separables en profundidad, disminuyendo la cantidad de parámetros y operaciones computacionales (Howard et al., 2019; PyTorch, 2017a).

Para garantizar la organización, trazabilidad y reproducibilidad en los experimentos, se definieron parámetros estandarizados mediante archivos de configuración. Las configuraciones aplicadas a todos los entrenamientos incluyeron 50 épocas, optimizadores “Stochastic Gradient Descent” (SGD) para CNN Simples y “Adam” para modelos con “transfer learning” (Hospodarskyy et al., 2024), y “CrossEntropyLoss” como función de pérdida (Bhagat y Bakariya, 2025). Adicionalmente, se utilizó “Early stopping” con paciencia de siete épocas, “Learning Rate” de 0,001 para CNN Simples y 0,001 y 0,0001 para otros modelos, “Batch Size” de 64 y “Momentum” de 0,9.

Se realizaron experimentos bajo diferentes escenarios, evaluando el rendimiento de los modelos según las estrategias de balanceo, particionamiento y aplicación de “data augmentation”. Los experimentos siguieron los enfoques “Holdout” y, luego, validación “K-Fold”. Primero, las cuatro arquitecturas fueron entrenadas con el conjunto de entrenamiento balanceado, además de ser validadas con el de validación desbalanceado.

El modelo con mejor rendimiento durante la validación fue seleccionado y sometido a validación cruzada “K-Fold” (k=5) con el banco de imágenes de entrenamiento completo, para obtener las estadísticas finales. Los modelos entrenados fueron guardados y evaluados en el conjunto de prueba neutro, permitiendo la evaluación final de generalización.

Para validar la eficiencia de los modelos en cuanto al aprendizaje y la capacidad de reconocimiento de patrones emocionales, se realizaron análisis de métricas cuantitativas y visualizaciones de los gráficos generados durante el entrenamiento y la validación (Mukhlif et al., 2022; Nurunnabi et al., 2022; Plested y Gedeon, 2022). Las principales métricas analizadas fueron Precisión (accuracy), F1-Score por clase, Precisión, Recall, Pérdida (“Loss”) de Entrenamiento y Validación, Matriz de Confusión (“confusion matrix”) y “Fairness”.

Para el cálculo de las métricas, se utilizó la biblioteca “Scikit-Learn”, destacando las funciones “accuracy_score”, “f1_score”, “confusion_matrix” y “ConfusionMatrixDisplay”. La combinación de estas métricas ofreció una visión abarcadora del desempeño y fundamentó un análisis crítico de la robustez de los modelos. Para identificar patrones de error recurrentes entre las clases emocionales, se analizaron las matrices de confusión, que revelaron que sutilezas en las expresiones faciales pueden llevar a interpretaciones ambiguas.

Como objetivo principal, se investigó la presencia de sesgo algorítmico relacionado con marcadores demográficos, en especial, grupos étnico-raciales. Para verificar esta cuestión, se utilizó el banco de imágenes “FairFace”, como conjunto de prueba neutro, por poseer etiquetas claras de etnia, edad y género. Este “dataset” se empleó exclusivamente en la fase de predicción, garantizando que los modelos no visualizaran las imágenes durante el entrenamiento y la validación.

Para cuantificar posibles desigualdades algorítmicas, se aplicaron dos métricas de “fairness” (Dulani, 2023; Lee, 2023). La primera, Paridad Demográfica (“Demographic Parity”), investigó si la tasa de predicciones positivas es similar entre diferentes grupos demográficos, expresada por la ecuación P(Ŷ = 1 |A = 0) ≈ P(Ŷ = 1|A = 1), donde A representa el atributo sensible (etnia) y Ŷ la predicción del modelo.

La segunda métrica, Igualdad de Oportunidades (“Equalized Opportunity”), evaluó si la tasa de verdaderos positivos es consistente entre grupos, garantizando que individuos de diferentes grupos con la misma condición verdadera tuvieran probabilidades similares de clasificación correcta, calculada por la ecuación P(Ŷ = 1 |Y = 1,A = 0) ≈ P(Ŷ = 1|Y = 1, A = 1), en la que A representa el atributo sensible, Ŷ la predicción del modelo e Y la condición verdadera. Estas comparaciones permitieron identificar disparidades en el rendimiento del modelo.

Tras análisis preliminares del sesgo algorítmico, se aplicaron tres estrategias para mitigar el sesgo dentro de la base de datos. La primera fue “Class Weights” (Pesos de Clase), que asignó pesos diferenciados a las clases de acuerdo con la frecuencia y patrones de errores, utilizando “CrossEntropyLoss” como parámetro “weight” en “PyTorch”. La segunda estrategia fue “Undersampling”, que limitó el número máximo por clase dentro del conjunto de entrenamiento a 2000 muestras, realizando selección aleatoria estratificada.

La tercera estrategia, “Híbrida” (Híbrida), combinó las dos técnicas anteriores para maximizar los beneficios de cada enfoque. Las estrategias se llevaron a cabo únicamente en el modelo elegido que obtuvo el mejor rendimiento, manteniendo los hiperparámetros constantes, y resultando métricas de rendimiento y “fairness” para el análisis de la equidad algorítmica.

En línea con el tema “Materiales y Métodos”, se elaboró un repositorio en GitHub, que detalla cada algoritmo creado de gran importancia para el proyecto y complementa el entrenamiento con los modelos propuestos. El repositorio ‘tcc_mba’ está disponible en: https://github.com/crisCintia/tcc_mba.git.

3. Resultados y Discusión

La evaluación del rendimiento de las arquitecturas de redes neuronales convolucionales (CNNs) en el reconocimiento de emociones faciales reveló diferencias significativas. Se compararon cuatro modelos: SimpleCNN, VGG-16, ResNet-50 y MobileNet-V2, utilizando el conjunto de datos RAF-DB, que contenía 4.960 imágenes para prueba. Los resultados indicaron que SimpleCNN obtuvo el mejor rendimiento general, alcanzando una precisión del 70,7% y un F1-Score Macro del 62,03%. Este modelo superó a las demás arquitecturas, que presentaron precisiones y F1-Scores inferiores, como VGG-16 con un 66,5% de precisión y un 56,51% de F1-Score Macro, ResNet-50 con un 51,1% de precisión y un 40,83% de F1-Score Macro, y MobileNet-V2 con un 50,2% de precisión y un 39,43% de F1-Score Macro.

La superioridad de SimpleCNN, que fue entrenado desde cero con aproximadamente 500 mil parámetros optimizables, puede atribuirse a su capacidad para aprender los patrones específicos del conjunto de datos de manera más efectiva, lo que resulta en un menor “overfitting”. En contraste, los modelos VGG-16, ResNet-50 y MobileNet-V2, que emplearon técnicas de “transfer learning” con pesos pre-entrenados en ImageNet, presentaron un rendimiento inferior. Esta diferencia se explica por el “domain mismatch”, donde las características de bajo nivel transferidas no fueron suficientes para capturar las sutilezas de las expresiones faciales, y por la congelación del 90% del “backbone”, que limitó el aprendizaje de patrones específicos de las emociones. Modelos más profundos, como ResNet-50 (50 capas) y MobileNet-V2 (53 capas), pueden sufrir de “overfitting” en bases de datos de tamaño pequeño a moderado como RAF-DB, según lo señalado por Ahmad et al. (2025) y Ashwini et al. (2023).

El análisis del F1-Score por emoción, una métrica crucial para conjuntos de datos desequilibrados, destacó que la emoción “Disgust” fue la más difícil de clasificar, con un F1 promedio del 18,8% entre los modelos. Por el contrario, la emoción “Happy” demostró ser la más fácil de clasificar, con un F1 promedio del 72,8%. El SimpleCNN demostró un comportamiento superior, reconociendo seis de las siete emociones con mayor precisión y empatando con el VGG-16 solo en la clasificación de la emoción “Angry”, con un F1-Score de 0,572. Esta discrepancia en el rendimiento entre las clases, especialmente entre “Happy” y “Disgust”, es consistente con el desequilibrio del dataset RAF-DB, donde la clase con mayor representación muestral tiende a ser mejor predicha.

Profundizando en el análisis de los patrones de errores, las matrices de confusión normalizadas por fila revelaron las clases más frecuentemente confundidas por cada modelo. Para el SimpleCNN, los mayores aciertos ocurrieron en las emociones “Happy”, con 902 aciertos (79,2% de recall), y “Neutral”, con 532 aciertos (76,1% de recall). Las principales confusiones identificadas fueron la emoción “Sad” siendo confundida con “Neutral” en 106 casos (22,4%), “Happy” con “Neutral” en 89 casos (7,8%), y “Disgust” con “Neutral” en 38 casos (19,9%). Estos patrones indican que, a pesar de las características faciales teóricamente distintas, los modelos presentaron limitaciones inherentes en la clasificación de emociones con sutilezas.

Los modelos VGG-16, ResNet-50 y MobileNet-V2 también exhibieron patrones de confusión. El VGG-16, por ejemplo, tuvo 846 aciertos para “Happy” (74,3% de recall) y 562 para “Neutral” (80,4% de recall), pero confundió “Happy” con “Neutral” en 182 casos (16%) y “Sad” con “Neutral” en 125 casos (26,4%). El ResNet-50 y el MobileNet-V2 presentaron aciertos totales menores y confusiones más acentuadas, como “Happy” con “Neutral” en 236 casos (20,7%) para el ResNet-50 y en 282 casos (24,8%) para el MobileNet-V2. Estas confusiones universales, presentes en todos los modelos, sugieren que la superposición de “features” faciales, como la ausencia de sonrisa y la baja intensidad entre “Sad” y “Neutral”, o sonrisas sutiles en “Happy” interpretadas como “Neutral”, dificultan la clasificación precisa (Abbas & Chalup, 2019; Ashwin & Biswas, 2024).

La dificultad en la clasificación de la emoción “Disgust” fue multifacética. En primer lugar, la expresión de “Disgust” es sutil, involucrando el fruncimiento de la nariz y el levantamiento del labio superior. En segundo lugar, su representación muestral en el dataset RAF-DB era baja, con aproximadamente 717 ejemplos de entrenamiento en comparación con 4.772 de “Happy”. Por último, la similitud de sus tensiones faciales con la emoción “Angry” contribuyó a la confusión. La alta variabilidad del F1-Score para “Disgust” entre los modelos (0,424 para SimpleCNN versus 0,044 para ResNet-50) confirmó la dificultad en su clasificación generalizada, un hallazgo consistente con la literatura que aborda la complejidad de las expresiones faciales y las limitaciones de las bases de datos (Xu et al., 2020).

En contraste, la emoción “Happy” fue más fácil de clasificar debido a sus características faciales distintivas y pronunciadas, como la sonrisa, la curvatura de los labios y la elevación de las mejillas. Esto resultó en F1-Scores consistentemente por encima de 0,60 en todos los modelos. El SimpleCNN presentó un patrón de clasificación direccional, donde “Sad” era confundida con “Neutral” y viceversa, mientras que los modelos basados en “Transfer Learning” exhibieron confusiones bidireccionales más equilibradas, como en el ResNet-50, que confundió “Neutral” con “Sad” en 121 casos y “Sad” con “Neutral” en 118 casos. Este comportamiento sugiere que el SimpleCNN, a pesar de su buen rendimiento general, pudo haber tenido dificultades en aprender “features” robustas para estas expresiones debido a un posible “overfitting” en un dataset de tamaño limitado.

Para validar la robustez del modelo SimpleCNN, se realizó una validación cruzada K-Fold con k=5, utilizando el dataset RAF-DB balanceado y aumentado. Los resultados demostraron una precisión media del 69,9% y un F1-Score medio del 60,3%, valores muy cercanos a los obtenidos en el entrenamiento “Holdout” (70,7% de precisión y 62,03% de F1-Score). Las bajas desviaciones estándar observadas, del 1,24% para la precisión y del 2,45% para el F1-Score, con coeficientes de variación del 1,7% y 4,1% respectivamente, confirmaron la estabilidad y la robustez del modelo. Esto indicó que el SimpleCNN no era excesivamente dependiente de una muestra específica de entrenamiento, validando su elección para el análisis del sesgo algorítmico en el conjunto de datos FairFace.

El análisis del sesgo algorítmico, utilizando el conjunto de datos FairFace, que tiene anotaciones de etnia, edad y género, pero no de emociones, permitió investigar si los patrones de clasificación se manifestaban de forma desigual entre diferentes grupos demográficos. Se observó una sobrepredicción de la emoción “Sad”, que representó el 40,2% de las predicciones generales, un valor significativamente superior a la predicción esperada del 14,3% para una distribución aleatoria entre siete clases. En contrapartida, la emoción “Disgust” fue sub-predicha, con solo el 1,1% de las clasificaciones, evidenciando una falla del modelo en identificar esta emoción.

En relación al sesgo de género, las disparidades fueron relativamente bajas, con una diferencia máxima del 4,5% en la predicción de la emoción “Neutral”. Se observó que las mujeres fueron clasificadas con mayor frecuencia como “Sad” (41,5%), mientras que los hombres fueron más clasificados como “Neutral” (31,5%). El análisis del sesgo étnico reveló disparidades moderadas, con una diferencia máxima del 6,3% entre las emociones “Sad” y “Neutral”. Los individuos latinos/hispanos y de Oriente Medio fueron más clasificados como “Sad”, con un 42,5% y un 36,1% respectivamente. Por su parte, los indios (33,9%) y latinos/hispanos (27,6%) fueron más clasificados como “Neutral”. Estos hallazgos sugieren una sensibilidad del modelo a variaciones morfológicas faciales, resultando en tasas de error elevadas para individuos con tonos de piel más oscuros y no caucásicos (Kim et al., 2021; Singhal et al., 2025).

El sesgo por edad presentó las mayores disparidades, siendo particularmente acentuado en niños de entre 3 y 9 años, que fueron clasificados como “Sad” en el 46,7% de los casos. En comparación, los ancianos mayores de 70 años fueron clasificados como “Sad” en el 37,3% de los casos. Esta tendencia indica que el modelo interpretó las expresiones faciales de los niños como tristeza en la mayoría de las situaciones, lo que puede explicarse por la diferencia en los patrones faciales infantiles en comparación con los adultos, como discutido por Y. Huang et al. (2024). La superpredicción sistemática de la emoción “Sad” (40,2%) se observó en todos los grupos demográficos analizados, reforzando la presencia de un sesgo inherente al modelo o al conjunto de datos de entrenamiento.

Para mitigar el sesgo algorítmico, se probaron tres estrategias: “Class Weights”, “Undersampling” e “Hybrid”. La estrategia “Class Weights” demostró ser la más eficaz, promoviendo una reducción del 26% en la superpredicción de la emoción “Sad”, pasando del 40,21% al 29,70%. Además, esta técnica redujo la disparidad de género en un 51% (del 4,52% al 2,19%) y la disparidad étnica en un 10% (del 6,31% al 5,69%). Aunque hubo un pequeño “trade-off” en el rendimiento general, con una disminución de 1,1 puntos porcentuales en la precisión y 2,4 puntos porcentuales en el F1-Score, las ganancias en la reducción del sesgo fueron significativas. Sin embargo, la disparidad de edad aumentó en un 82% (del 9,4% al 17,1%), lo que indica la necesidad de enfoques más específicos para este atributo.

En contraste, la técnica de “Undersampling” resultó en un aumento del 54% en la superpredicción de la emoción “Sad”, elevándola al 61,98%, y empeoró las métricas de rendimiento y “fairness”. Este comportamiento puede explicarse por la reducción del conjunto de entrenamiento, que puede llevar a un aprendizaje insuficiente de los patrones, haciendo que el modelo converja hacia las clases mayoritarias y aumente el sesgo, según estudios de Buda et al. (2018) y Fernando & Tsokos (2022). La estrategia “Hybrid”, que combinó “Class Weights” y “Undersampling”, presentó resultados intermedios. Aunque redujo la superpredicción de “Sad” en un 21% y la disparidad de género en un 49%, hubo un aumento del 29% en la disparidad étnica y del 97% en la disparidad de edad, lo que sugiere que la interacción de las técnicas pudo haber generado un “overfitting” local, perjudicando la generalización para subgrupos demográficos específicos.

El análisis comparativo entre el modelo baseline y las estrategias de mitigación de sesgos reveló que “Class Weights” ofreció el mejor equilibrio, manteniendo el rendimiento cercano al modelo original mientras proporcionaba ganancias sustanciales en la reducción del sesgo de género y la sobrepredicción de “Sad”. Estos resultados están alineados con la literatura que demuestra la eficacia de técnicas de ajuste de pesos en datasets desbalanceados (Fernando & Tsokos, 2022). Sin embargo, el sesgo etario, especialmente en relación con la clasificación de niños como “Sad”, persistió e incluso aumentó en todas las estrategias, evidenciando que las características faciales infantiles representan un desafío crítico para los modelos de reconocimiento de emociones, que son predominantemente entrenados con datos de adultos.

En resumen, el estudio demostró que SimpleCNN superó a los modelos preentrenados en el reconocimiento de emociones faciales, pero reveló un sesgo algorítmico significativo, caracterizado por la superpredicción de la emoción “Sad” y por disparidades notables en relación con la edad, especialmente en niños. La estrategia “Class Weights” demostró ser la más eficaz en la reducción del sesgo de género y de la predicción excesiva de “Sad”, aunque aumentó la disparidad de edad. Estos hallazgos resaltan la importancia de considerar la equidad en el desarrollo de modelos de inteligencia artificial y apuntan a la necesidad de futuras investigaciones centradas en el balanceo de datasets y enfoques inter seccionales para mitigar sesgos demográficos específicos.

4. Conclusión

El estudio buscó evaluar el rendimiento de algoritmos de redes neuronales convolucionales en el reconocimiento de emociones faciales y proponer estrategias para mitigar el sesgo algorítmico en relación con género, etnia y edad. Se verificó que SimpleCNN, una arquitectura entrenada desde cero, obtuvo el mejor rendimiento general, con una precisión del 70,7% y un F1-Score Macro del 62,03%, superando modelos pre-entrenados que presentaron “domain mismatch” y “overfitting”. Sin embargo, el análisis de sesgo reveló una superpredicción de la emoción “Sad” en el 40,2% de las clasificaciones y una subpredicción de “Disgust”, con disparidades notables por edad, especialmente en niños. La estrategia “Class Weights” demostró ser la más eficaz en la reducción de la superpredicción de “Sad” en un 26% y de la disparidad de género en un 51%, incluso con un pequeño “trade-off” en el rendimiento general. Estos hallazgos contribuyen al desarrollo de modelos de inteligencia artificial más equitativos y representativos en la clasificación de expresiones faciales.

A pesar de los avances, el estudio evidenció limitaciones técnicas relacionadas con el balanceo de conjuntos de datos en visión por computadora, dado que el sesgo etario, particularmente la clasificación de niños como “Tristes”, persistió e incluso aumentó con las estrategias de mitigación probadas. La ausencia de uniformidad de edad en el conjunto de datos RAF-DB y el desbalanceo de las clases emocionales representaron desafíos significativos. Se sugiere que futuras investigaciones investiguen estrategias de mitigación de sesgos de forma multidimensional y se enfoquen en la creación de conjuntos de datos más balanceados de emociones, incorporando enfoques interseccionales para reducir sesgos demográficos más específicos, como el sesgo etario y étnico-racial.

Referencias Bibliográficas

Akter, S.; Dwivedi, Y.; Biswas, K.; Michael, K.; Bandara, R.; Sajib, S. 2021. Addressing algorithmic bias in Al-driven customer management. Journal of Global Information Management, 29 (6): 1–27. Disponível em: https://doi.org/10.4018/JGIM.20211101.oa3.

Barsotti, F.; Koçer, R. G. 202

Barsoum, E.; Zhang, C.; Ferrer, C. C.; & Zhang, Z. 2016. Training deep networks for facial expression recognition with crowd-sourced label distribution. In: Proceedings of the 18th ACM International Conference on Multimodal Interaction, 2016, Tokyo, Japão, Anais p. 279-283. Disponível em: https://doi.org/10.1145/2993148.2993165.

Castaneda, J.; Jover, A.; Calvet, L.; Yanes, S.; Juan, A. A.; Sainz, M. 2022. Dealing with gender bias issues in data-algorithmic processes: a social-statistical perspective. Algorithms, 15(9): 303. Disponível em: https://doi.org/10.3390/a15090303.

Artículo originario del Trabajo de Conclusión de Curso de la Especialización en Data Science y Analytics del MBA USP/Esalq

Para saber más sobre el curso, haga clic aquí y acceda a la plataforma MBX Academy

También te puede interesar

22 de octubre de 2026

Viaje del Consumidor en la Decisión de Compra de Infoproductos en el Entorno Digital

La expansión del comercio electrónico y la transformación tecnológica impulsaron la necesidad de comprender el comportamiento del consumidor de infoproductos, cuya experiencia percibida se ha vuelto crucial para el desarrollo profesional. El estudio tuvo como objetivo analizar los factores que influyeron en la decisión de compra de infoproductos en el entorno digital, considerando las etapas del viaje del consumidor. Se realizó una investigación aplicada, cuantitativa y descriptiva, a través de un estudio de campo con 100 consumidores de la Serra Gaúcha. La recopilación de datos se realizó mediante un cuestionario estructurado, utilizando muestreo no probabilístico. Los resultados revelaron un público cualificado y con un fuerte comportamiento “mobile-first”. Se constató que la disponibilidad de información detallada y la aprobación social fueron los principales desencadenantes de atracción en la fase de precompra. En las etapas transaccionales y posteriores, la minimización de fricciones operativas, la agilidad del acceso inmediato y la seguridad sistémica demostraron ser cruciales para la conversión y la satisfacción, aunque se identificaron lagunas en la eficiencia del soporte humano. La retención se fundamentó en la confianza generada por experiencias anteriores positivas, superando el factor precio. Se concluyó que el viaje del consumidor de infoproductos opera como un sistema integrado, exigiendo alineación entre infraestructura tecnológica, curaduría de contenido y humanización del soporte para asegurar el compromiso.

Palabras clave: Comercio electrónico; Comportamiento del consumidor; Experiencia del consumidor; Fidelización; Negocios virtuales.

22 de octubre de 2026

Observatorio Digital de la Amazonía: Ciencia de Datos Aplicada al Análisis de Indicadores Sociales, Económicos, Ambientales y de Salud

El estado de Amazonas ha enfrentado desafíos históricos en la consolidación del Sistema Único de Salud (SUS), derivados de barreras geográficas, desigualdades socioeconómicas y limitaciones estructurales. En este estudio se describió el desarrollo e implementación de un geoportal de información en salud, concebido para apoyar el monitoreo, la evaluación y la planificación en el contexto amazónico. Se adoptó un enfoque de estudio de caso descriptivo, basado en análisis documental y datos secundarios, abarcando el mapeo de funcionalidades, la infraestructura técnica y las etapas de validación de la herramienta. El Portal fue desarrollado con tecnologías abiertas e integró múltiples bases de datos nacionales, ofreciendo dashboards interactivos, mapas temáticos y repositorio digital de documentos. Entre los resultados, destacaron la visualización georreferenciada de indicadores clave, la posibilidad de análisis comparativos temporales y la utilización de la plataforma en la revisión de planes de salud y en el redireccionamiento de acciones estratégicas. El portal puede representar un avance en la gobernanza digital y en la gestión basada en evidencia, con potencial de replicabilidad para otros territorios de alta complejidad, siempre que vaya acompañado de inversiones en infraestructura tecnológica, capacitación profesional y articulación interinstitucional.

Palabras clave: Amazonía; Evaluación en Salud; Salud Digital; Sistemas de Información en Salud.

22 de octubre de 2026

Aprendizaje Continuo como Factor de Crecimiento Organizacional en la Percepción de los Colaboradores

El impacto del aprendizaje continuo y la gestión del conocimiento en el crecimiento de las organizaciones fue estudiado en un escenario de globalización y constantes cambios. El objetivo del estudio fue analizar la percepción de los colaboradores sobre la cultura de aprendizaje y su importancia para el desarrollo personal y profesional. Los datos se obtuvieron a través de una encuesta anónima, de enfoque cuantitativo, utilizando un formulario con preguntas tipo “survey” aplicado a 87 profesionales de los sectores de tecnología, salud, educación, comercio y servicios. Los resultados indicaron que los colaboradores tenían una percepción positiva sobre la contribución del aprendizaje continuo al crecimiento personal y organizacional, reconociendo sus beneficios para el desarrollo de nuevas habilidades, la innovación y la competitividad. Sin embargo, se observó que el incentivo al intercambio de conocimiento interno y la oferta de capacitaciones prácticas aún presentaban medias moderadas de acuerdo. Se concluyó que el aprendizaje continuo contribuye significativamente al desarrollo individual y organizacional, sugiriendo que las empresas deben desarrollar políticas estratégicas de aprendizaje dirigido a nuevas habilidades, buscando una mayor ventaja competitiva y la innovación.

Palabras clave: Aprendizaje continuo; Autodesarrollo; Crecimiento organizacional; Gestión del Conocimiento; Innovación.

22 de octubre de 2026

Previsión de la Morosidad de Pago Agregada en el Sistema Financiero Brasileño por Modelo Sarimax con Variables Macroeconómicas

La morosidad agregada en el sistema financiero brasileño es un indicador crucial de riesgo crediticio, cuya previsión está regulada por las Resoluciones CMN n.° 4.557/2017 y 4.966/2021 para la medición prospectiva de pérdidas esperadas. Se modeló y predijo la morosidad agregada mediante el modelo SARIMAX, proyectando su trayectoria hasta diciembre de 2026 bajo escenarios optimista, base y pesimista. Se utilizaron 164 observaciones mensuales (julio/2012 a febrero/2026) y variables macroeconómicas como desempleo, Selic, IPCA, IBC-Br y endeudamiento de las familias. La especificación con variables contemporáneas fue seleccionada con base en criterios de información y estabilidad de los coeficientes, y el diagnóstico de los residuos confirmó adecuación estadística, con MAPE de 3,12%. La morosidad histórica varió entre 4,33% y 7,64%. La estimación identificó el desempleo (β = 0,2534; p < 0,001) y la Selic (β = 0,2128; p < 0,001) como principales determinantes positivos, con fuerte persistencia temporal (AR(1) = 0,8965). La Selic exhibió correlación creciente con la morosidad (r = 0,62 en el rezago 12), mientras que el desempleo demostró efecto contemporáneo (r = 0,33). Las proyecciones indicaron morosidad entre 6,30% y 7,98% en diciembre de 2026, con una amplitud de 1,68 punto porcentual, evidenciando implicaciones directas para el dimensionamiento de provisiones en las instituciones financieras.

Palabras clave: Desempleo; Modelado predictivo; Política monetaria; Provisión de pérdidas; Series temporales.

22 de octubre de 2026

Factores de Compromiso de las Partes Interesadas en la Transferencia Internacional de Tecnología a un Hospital Público

Este estudio describió los factores críticos percibidos para la participación de las partes interesadas en la transferencia internacional de tecnología en un hospital público, con foco en la planificación. El objetivo fue describir estos factores condicionantes, según la percepción de los profesionales. Se realizó un estudio de caso único, aplicando un cuestionario a 25 profesionales y utilizando análisis de contenido, complementado por tabulaciones descriptivas. Los principales obstáculos identificados fueron resistencia al cambio (72%), financiación (64%), falta de comunicación (60%) y burocracia (40%). Solo el 28% de los encuestados reconoció la existencia de herramientas adecuadas para la gestión de stakeholders, mientras que el 48% negó y el 24% no supo informar. Cruzamientos exploratorios indicaron variaciones en la evaluación de influencia según el tiempo de actuación, pero no establecieron relaciones causales. La falta de participación se asoció con retrasos, baja adhesión, desperdicio de recursos, fallas de comunicación, compromiso de la absorción de conocimiento y riesgos para la seguridad del paciente. Las conclusiones se restringieron a las percepciones del grupo investigado y fundamentaron recomendaciones preliminares para la comunicación y coordinación intersectorial.

Palabras clave: Estudio de caso; Gestión de proyectos; Innovación en salud; Partes interesadas; Sector público.

22 de octubre de 2026

Combate a las Pérdidas Comerciales de Energía Eléctrica Utilizando Modelo de Series Temporales

Las pérdidas comerciales de energía eléctrica representaron uno de los principales desafíos para las distribuidoras, impactando directamente la sostenibilidad económica y la calidad del suministro. Se evaluó la eficiencia de modelos de series temporales, con foco en técnicas de suavización exponencial, en la predicción del consumo facturado de unidades consumidoras, para apoyar la identificación de desvíos asociados a pérdidas no técnicas. Se utilizaron datos históricos de consumo mensual de una distribuidora de energía eléctrica en Brasil, segmentados por perfiles de comportamiento (estacionariedad, tendencia y estacionalidad). Se aplicaron modelos de suavización exponencial simple, Holt y Holt-Winters (aditivo y multiplicativo), comparados a una media móvil tradicional. El error porcentual absoluto medio (MAPE) fue el criterio de evaluación. Adicionalmente, se empleó el enfoque predictivo para la selección automática del modelo y pruebas de diagnóstico de los residuos, como Ljung-Box y análisis de la función de autocorrelación. Los resultados demostraron que modelos más robustos presentaron mayor capacidad de adaptación a las características de las series y menor error, con destaque para el desempeño superior en escenarios con tendencia. Para series estacionales, el modelo ETS mostró mayor capacidad de adaptación a transiciones. Se concluyó que la utilización de modelos de series temporales más estructurados contribuyó significativamente a la mejora de la exactitud de las predicciones y ofreció soporte analítico relevante para la identificación de pérdidas comerciales y optimización de procesos operacionales y comerciales en el sector eléctrico.

Palabras clave: Distribución de energía; MAPE; Optimización; Predicción de consumo; Suavización exponencial.