 |
| Sesgos y discriminación en la era de la Inteligencia Artificial |
Por Licda Josmir Pérez
La Inteligencia Artificial (IA) se ha consolidado como el motor de la Cuarta Revolución Industrial, prometiendo transformar la productividad y la vida cotidiana, aunque su implementación oculta externalidades negativas que profundizan las desigualdades sociales. Estos sistemas, lejos de ser herramientas neutras, actúan como objetos sociotécnicos que reflejan los prejuicios y visiones del mundo de sus creadores, lo que plantea graves consecuencias éticas y morales para la generación actual.
El impacto económico de la IA es arrollador, con proyecciones de un mercado global de casi 60 mil millones de dólares para 2025 y una presencia activa en el 77% de los dispositivos que utilizamos hoy en día. Sin embargo, esta omnipresencia opera frecuentemente bajo el modelo de "caja negra", una concepción de la tecnología donde se conocen las entradas y salidas, pero el funcionamiento interno permanece opaco e inobservable para la mayoría de los usuarios.
Esta falta de transparencia es preocupante porque los algoritmos poseen una doble materialidad: son digitales en su constitución, pero culturales en su funcionalidad. Según la teoría de la construcción social de la tecnología (SCOT), la tecnología no determina la acción humana, sino que es la acción humana la que da forma a la tecnología, lo que significa que los errores y prejuicios de los diseñadores se filtran inevitablemente en el código.
Uno de los riesgos más documentados es el sesgo algorítmico en el reconocimiento facial, donde sistemas diseñados por grandes tecnológicas han demostrado funcionar con mayor precisión en rostros blancos que en personas afrodescendientes, como lo evidenció la Dra. Buolamwini.
En el ámbito profesional y judicial, el panorama es igualmente alarmante: el uso de herramientas como COMPAS en los Estados Unidos ha mostrado indicios de racismo estructural, calificando a convictos negros con un riesgo de reincidencia sistemáticamente más alto que a los no negros, incluso cuando estos últimos cometieron delitos más graves. Esta supuesta objetividad tecnológica a menudo funciona como un "lavado de tecnología" (tech-washing), donde una apariencia de precisión matemática sirve para ocultar y perpetuar discriminaciones estructurales preexistentes.
La discriminación también se manifiesta de forma sutil pero persistente en la feminización de la IA. Asistentes virtuales como Siri, Cortana y Alexa, diseñadas con nombres y voces femeninas, normalizan estereotipos de género al asociar lo femenino con personalidades sumisas, dóciles y destinadas a tareas de servicio comunicativo.
Además, el avance hacia una "robotización de la sociedad" plantea la aparición de una "brecha robótica", donde la exclusión del acceso a estos dispositivos creará "nuevos parias" en la periferia de los grandes datos, intensificando la falta de justicia social.
Se estima que para el año 2030, el 70% de la riqueza generada por la IA se concentrará exclusivamente en China y Estados Unidos, lo que podría ampliar aún más las desigualdades económicas entre naciones.
 |
| Josmir Pérez |
La autora es candidata a doctora en el uso de la Inteligencia Artificial Generativa para la enseñanza de la Lengua en la Universidad Autónoma de Santo Domingo; magíster en Lingüística Aplicada a la Enseñanza del Español en la UASD. Docente en universidades nacionales e internacionales.
