Publicado el 21 de marzo de 2023 Actualizado el 23 de marzo de 2023
La inteligencia artificial (IA) está entrando en nuestra vida cotidiana en los sectores de la sanidad y la educación, entre otros. Por IA entendemos cualquier máquina que reproduzca comportamientos humanos como el razonamiento, la planificación y la creatividad, según el Parlamento Europeo.
Esta entidad se compone esencialmente de bases de datos, algoritmos, lo que a primera vista es estrictamente racional ya que las máquinas inteligentes se basan en reglas de las ciencias exactas para tomar una decisión. Pero si por ideología se entiende un sistema de ideas, de opiniones, que configuran el comportamiento de un individuo o de un grupo en relación con los objetivos del desarrollo social, la I.A., al estar incluida en este proceso, no puede estar desprovista de una visión del mundo. Esta última puede entenderse aquí en lugar de ideología. Entonces, ¿hasta qué punto es posible afirmar que la IA es portadora de una ideología? Este es el quid de este artículo.
Si partimos del principio de que toda creación, artística o no, está impregnada de la identidad de su creador, también podría ser el caso de la IA. En efecto, contrariamente a la idea de neutralidad que podríamos estar tentados de asignar a la tecnología en general, y a la IA en particular, observamos que esta última es "eminentemente política y social", según Julie Marques.
El punto de partida de las disparidades sociales en el desarrollo de la I.A. es principalmente la infrarrepresentación de las mujeres, que se sitúa en un 29% en el campo de los datos y la I.A. Esta realidad hace de este campo un sector altamente masculino. Esto significa que la mayoría de los algoritmos producidos por hombres conllevan un sesgo de género. Por ejemplo, la mayoría del software de reconocimiento facial desarrollado por hombres distingue mejor entre las caras de los hombres que entre las caras de las mujeres. Es obvio que estos algoritmos son la expresión de una visión masculina del mundo, debido al fracaso a la hora de identificar a las mujeres.
Aparte de esta realidad, hay que señalar que la IA también contribuye a acentuar las desigualdades raciales. Esto puede verse en el COMPAS, un sistema para definir las penas de prisión utilizado en Estados Unidos, que ha sido criticado por racista. Esto se ve a través de la asignación de fuertes penas de prisión a personas racializadas y de penas más leves a personas no racializadas. La idea es que las personas racializadas tienen más probabilidades de reincidir que el grupo opuesto. Como puede verse, los algoritmos contienen sesgos tanto de género como raciales. Estas realidades son un reflejo del espacio desde el que se diseña el algoritmo, o mejor dicho, un reflejo de la visión del mundo del desarrollador. Desde esta perspectiva, la Inteligencia Artificial tiende a desacreditar a una categoría de personas y consigue alimentar unas relaciones de poder que no son más que una réplica de la realidad. La falta de neutralidad de la I.A. mediante la reproducción de la realidad a través de algoritmos sesgados no parece ser el único nivel de análisis ideológico de la IA. También está la búsqueda de un mundo mecánico.
La I.A. parece estar demostrando su valía; desde la promesa de crecimiento económico hasta la mejora de la asistencia sanitaria, esta entidad es cada vez más esencial en la vida cotidiana. Aunque en un principio se diseñó para facilitar la vida a los humanos, las máquinas dotadas de inteligencia humana tienden a invadir nuestras vidas de tal manera que ya no podemos prescindir de ellas. Esto es lo que lleva a Jean-Claude Ravet a afirmar que nos enfrentamos a la creciente influencia de una ideología tecnicista. Ésta quiere esclavizar al hombre e instaurar un mundo en manos de las máquinas.
Concretamente, esto significa que, cada vez más, las personas no pueden realizar ciertas tareas cotidianas sin la ayuda de las máquinas. Esto lleva a la desaparición de ciertos oficios y a la sustitución de los humanos por máquinas inteligentes. Es el caso, por ejemplo, de algunos supermercados en los que los cajeros están siendo sustituidos progresivamente por máquinas de caja de autoservicio, que registran las compras bajo la atenta mirada de un solo empleado.
La vertiente ideológica de la máquina inteligente va más allá de la sustitución de humanos por máquinas. También hay que mencionar su parte de responsabilidad en el cambio de la relación entre el hombre y el mundo. En efecto, la I.A. impone al hombre una nueva lógica, un cierto ritmo y dinamismo de tal manera que "todo lo que la tecnología hace posible tiende a convertirse en una obligación en nuestras vidas, ya que estas posibilidades esculpen el mundo según sus propias características".
Esto puede observarse en el uso de los teléfonos móviles, que someten a sus usuarios a una serie de dictados tecnológicos, como la aceleración del tiempo, el trabajo continuo, la conexión constante, etc. Es evidente que el desarrollo de la Inteligencia Artificial proyecta en el fondo una mecanización del mundo, que influye en el comportamiento humano esclavizándolo a este nuevo tipo de máquinas. Aparte de esta tendencia esclavizadora de la I.A. a mecanizar el mundo, hay que señalar que esta tecnología surge dentro de una corriente de pensamiento que destila valores neoliberales.
El objetivo de sustituir a los humanos por máquinas es superar los diversos defectos que se observan en los humanos. De este modo, la inteligencia artificial ayuda a reducir los errores en el trabajo, facilita las exploraciones arriesgadas, etc. En resumen, el objetivo de estos robots inteligentes es suplir las diversas deficiencias que pueden experimentar los humanos y que pueden resultar costosas para las empresas. Estas deficiencias pueden ralentizar la producción de una empresa y hacerle perder enormes ingresos.
La idea de la mecanización en este sentido se basa en hacer más rentable la empresa, o incluso aumentar la producción. El énfasis en la noción de eficacia lleva el sello del neoliberalismo. Tanto más cuanto que Robert Dutrisac afirma la "imbricación" de la Inteligencia Artificial con los valores neoliberales de rendimiento, eficacia y productividad.
Es bastante lógico pensar así porque el desarrollo de la I.A. pretende crear una categoría de seres que podríamos llamar sobrehumanos. De hecho, se trata de una versión mejorada del ser humano cuya resistencia en la ejecución de tareas tiene como objetivo esencial aumentar la productividad y los beneficios.
A la vista de lo anterior, es evidente que la automatización de la mayoría de los ámbitos de la vida cotidiana, aunque mejore la calidad de vida, perjudica en cierta medida a los seres humanos por la desaparición de determinados empleos, la dependencia de máquinas inteligentes y la reproducción de prejuicios. Este estado de cosas exige un marco ético para el diseño de la Inteligencia Artificial, cuya falta de control podría dar lugar a todo tipo de abusos, causando más perjuicios que beneficios a la humanidad.
Ilustración: DepositPhotos - threecvet.gmail.com
Referencias
Bastien L, 2021, "Cómo la IA mejora la productividad en las empresas".
https://www.lebigdata.fr/ia-ameliore-productivite-entreprise
Dutrisac Robert, "Les menaces technicistes de l'intelligence artificielle", Le Devoir
https://www.ledevoir.com/societe/le-devoir-de-philo-histoire/513927/les-menaces-technicistes-de-l-intelligence-artificielle
Institut Mines et télécom, "La place des femmes dans l'AI : vers une maîtrise de l'AI égalitaire" (El lugar de las mujeres en la IA: hacia un dominio igualitario de la IA)
https://www.imt-bs.eu/la-place-des-femmes-dans-lia-vers-une-maitrise-de-lia-egalitaire/
Marques Julie, "l'intelligence artificielle au prisme d'une approche intersectionnelle : entre négociations et définitions", Levoir
https://journals.openedition.org/ctd/7109
Ravet Jean-Claude, 2018, "Ética e inteligencia artificial", Relations, (795), 5-5.
https://www.erudit.org/en/journals/rel/2018-n795-rel03467/87785ac.pdf
También te puede gustar:
La red es un resultado; la idea que subyace al proceso, su "programación", es sencilla. Son los terminales los que determinan su potencia y persistencia. La mayoría de los terminales somos nosotros.
La transición de la ingeniería de la formación al diseño pedagógico
Revisando la historia y la esencia del diseño, proponemos refrescar las prácticas de la ingeniería de formación para prepararnos para nuevas formas de entender el mundo.
test Test
Deconstruir los mitos históricos del desarrollo personal
Poner en perspectiva las creencias y mitos del personal que embellecen nuestra vida pero no son necesariamente correctos
La división del trabajo, garantía de prosperidad, también en la educación
La división del trabajo en el sector educativo es esencial para ofrecer una enseñanza de calidad. Permite una especialización de funciones que favorece una enseñanza más profunda, un aprendizaje más personalizado y un desarrollo óptimo de las competencias de los alumnos, al tiempo que garantiza una gestión eficaz del sistema educativo en su conjunto. Aplicación de las teorías de la productividad.
La fábula meritocrática de la escuela francesa
Francia, como Estados Unidos y otros países occidentales, ha basado durante décadas su modelo educativo en la meritocracia. La idea es que todo estudiante pueda tener éxito en sus estudios y acceder a las grandes escuelas, independientemente de su origen social. Un sistema que ha permitido una democratización de la educación, cuyos límites, sin embargo, son perceptibles hoy en día. Al final, muy pocos niños procedentes de medios desfavorecidos llegan a la élite...
Superprof: la plataforma para encontrar los mejores profesores particulares en España.
