Publicado el 12 de octubre de 2021 Actualizado el 25 de febrero de 2026
A principios del siglo XXI, la presencia de la inteligencia artificial (IA) aún parecía algo sacado de la ciencia ficción. Hoy en día, las interfaces que utilizan algoritmos son legión. Ya se trate de redes sociales, sitios de compras en línea o la Internet de los objetos, evitar la IA parece un ejercicio cada vez más difícil. Al contrario, todos los sectores tratan de utilizar algoritmos para mejorar los servicios a ciudadanos, pacientes e incluso estudiantes.
Pero el uso de estos algoritmos no está exento de problemas. Los especialistas señalan y denuncian sesgos algorítmicos. Seamos claros: las máquinas no discriminan a propósito. Más bien reproducen los juicios sesgados que siguen muy presentes en nuestras sociedades, a pesar de los avances de las últimas décadas. Por ejemplo, los anuncios de empleo en las redes sociales se muestran en función del sexo del usuario: trabajos de ingeniería o construcción para hombres, de enfermería o docencia para mujeres.
Los usuarios de Facebook, Twitter y otras redes sociales también se ven afectados por las decisiones, a veces injustas, que toman los algoritmos. Aunque las GAFAM emplean a personas para moderar lo que se dice en línea, estos empleados no pueden analizar los millones de interacciones que se producen cada segundo. En consecuencia, las inteligencias artificiales castigan las palabras contrarias a la política del sitio. Pero esto puede llevar a situaciones absurdas, ya que no pueden tener en cuenta el contexto.
Por ejemplo, las palabras que difaman a las personas LGBTQI2S+ suelen estar prohibidas. Esto llevó a que un grupo de derechos que denunciaba este tipo de lenguaje... fuera censurado por contenido de odio. Ya que el algoritmo es incapaz de entender que muchas asociaciones militantes intentan reapropiarse de los insultos para hacerles perder su poder homófobo.
Sin embargo, los ejemplos más evidentes se han dado en el ámbito de la sanidad en Estados Unidos. Los algoritmos son capaces de ayudar al personal médico a la hora de diagnosticar a un paciente. Sin embargo, se ha demostrado que un sistema de inteligencia artificial discrimina a los pacientes negros con enfermedades renales que, de otro modo, habrían necesitado un trasplante. Un sesgo peligroso y difícil de explicar.
Esta es probablemente una de las principales críticas a la IA: es difícil entender cómo toma estas decisiones. Por ejemplo, los algoritmos han demostrado su capacidad para diferenciar entre las radiografías de pacientes de distintas etnias. Sin embargo, ni siquiera los autores del estudio logran entender cómo las IA alcanzan una tasa de acierto mínima del 80%, o incluso del 99% en algunos casos. Esto plantea serias dudas en un campo en el que la discriminación sistémica provoca más muertes.
El sesgo racial es probablemente el más elevado, según un informe del Institute for Human-Centered Artificial Intelligence de la Universidad de Stanford. Su análisis de los últimos cinco años muestra que los riesgos no han disminuido, sino todo lo contrario. Las IA de reconocimiento facial que analizan el rostro de una persona negra han ofrecido a los usuarios vídeos sobre primates... Esto es motivo de preocupación en el sector de la justicia, donde los algoritmos se utilizan cada vez más para determinar sentencias y multas. Por tanto, será necesario que el personal de justicia mantenga un enfoque humano a pesar de las sugerencias de la máquina.
La solución para contrarrestar estos sesgos recaerá en quienes los han diseñado. Porque las máquinas tienen tantas dificultades como los humanos para reconocer sus errores de apreciación. Debemos comprender, como sostiene Aurélie Jean, que la ciencia algorítmica no es maniquea. Es cierto que, evidentemente, hay que introducir cambios para luchar contra los sesgos. Pero debemos recordar que los algoritmos son herramientas. Fundamentalmente neutrales, pueden ayudar a la humanidad tanto como perjudicarla.
Entonces, ¿qué se puede hacer para eliminar estos sesgos? Algunos tienen propuestas técnicas. Las grandes empresas tecnológicas ya organizan programas de "búsqueda de fallos" en los sistemas operativos y los navegadores web. Los cazadores de fallos dedican su tiempo a buscar vulnerabilidades e informar de ellas para que las empresas puedan corregirlas con actualizaciones. ¿Y si se pusiera en marcha una iniciativa similar con la IA? Personas especializadas podrían analizar las decisiones y ver en qué se equivoca el algoritmo para poder mejorarlo.
Para contrarrestar el sesgo de género en los algoritmos de contratación, los especialistas han establecido una definición estadística de igualdad. Esto les permite dar luz verde a una inteligencia que equilibra bien los datos entre hombres y mujeres, y luz roja a las que tienen sesgos. Este enfoque basado en los datos podría integrarse más fácilmente en el código de la IA y adaptarse también a la cuestión de la raza. Sin embargo, los desarrolladores aún tienen que estar dispuestos a aplicar tales mecanismos. Muchos de ellos prefieren guardar celosamente los secretos de sus programas. ¿Será necesario entonces promulgar leyes que obliguen a las empresas de IA a rendir cuentas en caso de discriminación?
Otra parte de la solución pasa por la representatividad. La gran mayoría de los diseñadores de IA son hombres blancos. Así pues, ¿es de extrañar que los prejuicios afecten a las mujeres y a las personas de otras etnias? Incluir a estos grupos en las empresas que producen algoritmos podría ayudar a reducir en gran medida estos sesgos. Aumentar la presencia de rostros no blancos en las bases de datos para mejorar el reconocimiento facial, entre otras cosas.
Ilustración : Fakurian Design en Unsplash
Referencias
Eikholt, Sebas. "Alerta de expertos en la explotación de la IA y sus sesgos ocultos". Smarthealth. Última actualización: 23 de septiembre de 2021. https://smarthealth.live/fr/2021/09/23/les-experts-mettent-en-garde-contre-les-prejuges-lies-a-lia-dans-les-soins-de-sante/.
Grison, Thibault. "IA y moderación en redes sociales: un caso de libro de 'discriminación algorítmica'". The Conversation. Última actualización: 9 de septiembre de 2021. https://theconversation.com/ia-et-moderation-des-reseaux-sociaux-un-cas-decole-de-discrimination-algorithmique-166614.
"Inteligencia artificial: ¿arma de discriminación masiva?". Revista Décideurs. Última actualización: 11 de diciembre de 2020. https://www.magazine-decideurs.com/news/intelligence-artificielle-arme-de-discrimination-massive.
Jean, Aurélie. "La Science Des Algorithmes N'est Pas Manichéenne". Le Point. Última actualización: 23 de mayo de 2021. https://www.lepoint.fr/invites-du-point/aurelie-jean-la-science-des-algorithmes-n-est-pas-manicheenne-23-05-2021-2427670_420.php.
Leprince-Ringuet, Daphné. "¿Repetir los errores algorítmicos de la IA gracias a los programas de recompensas por fallos?". ZDNet France. Última actualización: 16 de marzo de 2021. https://www.zdnet.fr/actualites/reperer-les-biais-algorithmiques-de-l-ia-grace-aux-programmes-de-bug-bounty-39919477.htm.
Maquet, Clémence. "Inteligencia artificial: ¿qué enfoque dar a los sesgos algorítmicos?". Siècle Digital. Última actualización: 11 de mayo de 2021. https://siecledigital.fr/2021/05/11/intelligence-artificielle-quelle-approche-des-biais-algorithmiques/.
Mélin, Anna. "Sesgos algorítmicos: un reto importante en nuestras sociedades digitalizadas". Internet Cities. Última actualización: 16 de julio de 2021. https://www.villes-internet.net/site/les-biais-algorithmiques-un-defi-majeur-dans-nos-societes-numerisees/.
Nast, Condé. "Estos algoritmos miran las radiografías y detectan de algún modo tu raza". Wired. Última actualización: 5 de agosto de 2021. https://www.wired.com/story/these-algorithms-look-x-rays-detect-your-race/.
Prades, Arnaud. "Pour éviter Les Biais De L'AI, Mieux Vaut S'intéresser Au Facteur Humain Qu'aux Questions Techno". JDN. Última actualización: 30 de junio de 2021. https://www.journaldunet.com/solutions/dsi/1503581-pour-eviter-les-biais-de-l-intelligence-artificielle-mieux-vaut-s-interesser-au-facteur-humain-qu-aux-questions-technologiques/.
Pérignon, Christophe. "'Un programa sexista': cómo detectar y corregir los sesgos de la IA". The Conversation. Última actualización: 15 de marzo de 2021. https://theconversation.com/un-de-programme-sexiste-comment-detecter-et-corriger-les-biais-des-ia-156874.
Richard, Philippe. "Al igual que los seres humanos, la IA tiene dificultades para detectar sus errores de apreciación". Techniques De L'Ingénieur. Última actualización: 13 de septiembre de 2021. https://www.techniques-ingenieur.fr/actualite/articles/comme-les-etres-humains-lia-repere-difficilement-ses-erreurs-dappreciation-99116/.
Trujilo, Elsa: "Un algoritmo acusado de favorecer a pacientes negros en Estados Unidos". BFMTV. Última actualización: 27 de octubre de 2020. https://www.bfmtv.com/tech/aux-etats-unis-un-algorithme-accuse-d-avoir-defavorise-des-patients-noirs-pour-des-greffes-de-rein_AN-202010270161.html.
"VÍDEO. ¿Son racistas y sexistas los algoritmos que nos rodean?". Franceinfo. Última actualización: 19 de agosto de 2021. https://www.francetvinfo.fr/societe/droits-des-femmes/video-les-algorithmes-qui-nous-entourent-sont-ils-racistes-et-sexistes_4721831.html.
Zignani, Gabriel. ""Jueces, policías y abogados tendrán que adaptarse a la justicia algoritmizada"". La Gazette Des Communes. Última actualización: 21 de julio de 2021. https://www.lagazettedescommunes.com/757552/les-juges-policiers-et-avocats-vont-devoir-sapproprier-la-justice-algorithmisee/.
También te puede gustar:
Filosofía, humanidades y cultura pop: la alianza inesperada
Hay innumerables revistas y publicaciones que se desvían hacia la cultura pop para tratar temas que normalmente se consideran serios. Si no podemos explicar este éxito, podemos descubrir con alegría qué uso pedagógico se puede hacer de estas historias, películas, cómics, series o canciones compartidas por la mayoría de la gente.
Cómo evitar la trampa de la amenaza de los estereotipos
Tratar a cada uno según sus necesidades, con justicia e imparcialidad: es una noble tarea a la que dedicamos mucha energía. Sin embargo, a pesar de nuestros esfuerzos, ciertos parásitos cerebrales persisten y moldean la sociedad hasta el punto de que pueden tomarse como verdad. Hombres y mujeres por igual son víctimas de la amenaza de los estereotipos que tiene un efecto directo, entre otras cosas, en los resultados escolares.
test Test
El encuentro de la agilidad organizativa, que promueve una organización que aprende, y la agilidad individual, que culmina con la certificación AA: Agile Learner.
¿Para qué sirven las pruebas de orientación?
Casi todos hemos hecho alguna vez un test de orientación o de personalidad para saber qué campo de estudio o carrera nos convendría más. Pero estos tests, que hoy abundan en Internet, ¿no son demasiado categorizadores? ¿Tienen realmente algún valor para los orientadores, o están anticuados dados los nuevos enfoques de los recursos humanos?
Recopilación y análisis de datos de formación. ¿Hasta dónde puede llegar?
La cantidad de datos producidos por los alumnos durante un curso de e-learning es inmensa. ¿Quién, qué, dónde, cómo, cuándo? ¿Cuáles fueron sus resultados al final, etc.? Podemos saberlo todo.
Pero, ¿qué vamos a hacer con estos datos? ¿Cómo podemos asimilarlos? ¿Qué organización del poder entre aprendices, formadores, centros de formación y clientes establecen?
Superprof: la plataforma para encontrar los mejores profesores particulares en España.
