Publicado el 27 de marzo de 2024 Actualizado el 29 de abril de 2026
El excelente libro de Giuliano da Empoli"Los ingenieros del caos" ofrece un análisis de las consecuencias directas de la capacidad algorítmico para manipular y dirigir nuestras reacciones.
La fórmula es sencilla: cada día se publican en Internet millones de comentarios y noticias; los que reciben más reacciones se deconstruyen, analizan, destilan en concentrados cada vez más eficaces y luego se mejoran, promueven y amplifican a medida que se acumulan los datos sobre los participantes.
En el espacio de unos pocos años, los analistas perspicaces consiguen desarrollar no un programa político coherente, sino una fuerza que puede dirigirse a voluntad, amplificarse o cambiar de dirección siempre que encuentre el combustible que la alimente: la frustración, la ira y la indignación. No hay que preocuparse por la exactitud, la verdad o incluso la verosimilitud: sólo importa la reacción.
Estos analistas están en posición de controlar el fenómeno y ofrecen sus servicios al mejor postor, llámese Trump, Bolsonaro, Salvini o tantos otros, a los que no les sirven las instituciones que representan un poder y un sistema calificados de desiguales y elitistas, elementos que explotan en su beneficio amplificándolo. Cambridge Analytica es solo una anécdota en el desarrollo de esta industria.
Guiar un algoritmo parece bastante nebuloso para la mayoría de la gente; aquí va un ejemplo: "Cada vez que veas a alguien con sombrero y maletín, anota la ubicación y la temperatura." Hoy, con la inteligencia artificial, podemos ir mucho más lejos y anotar todo el contexto, con datos estructurados o no.
Cuando se han acumulado suficientes datos, surge una imagen impresionista, y podemos guiar acciones basadas en esta imagen, como enviar mensajes útiles a personas con sombrero y maletín, u ofrecerles servicios, actividades o productos en el momento adecuado.
Esto es lo que hacen las redes sociales y los motores de búsqueda. No se preocupan de posibles sesgos porque sus datos proceden de nuestra actividad real; no asumen ninguna responsabilidad. El hecho de que casi todo el mundo con sombrero y maletín sea blanco, rico y viva en el mismo tipo de barrio no les preocupa. No están programados para reducir las desigualdades, sino "para ser útiles donde les salga rentable". Ese es el algoritmo. Venden sus servicios al mejor postor; la subasta es su modus operandi.
Podrían asumir sus responsabilidades cuando venden sus servicios, pero tampoco lo hacen. Pueden detectar que un usuario ha cambiado de ciudad el fin de semana y sugerirle un restaurante local que se adapte a sus gustos, pero se declaran incapaces de identificar a un estafador en serie, reconocer una estafa notoria o una noticia falsa difamatoria aunque se les comunique repetidamente. No tienen un algoritmo para ello. La búsqueda del máximo beneficio es su programación fundamental, no la del bien público. En 2026 se llegó al juicio entre Musk y Altman precisamente por este motivo.
Los regímenes autoritarios, las autocracias, las mafias, los pornógrafos y otros explotadores de las debilidades humanas harían bien en no aprovechar las nuevas posibilidades que se les ofrecen; personas sin escrúpulos ponen estos algoritmos a su servicio, socavando tanto las democracias como las conquistas sociales.
Estas nuevas herramientas son capaces de identificar los puntos de manipulación de poblaciones enteras sin ninguna consideración ética ni preocupación por el bien público o incluso por el futuro. La exacerbación de las reacciones conduce sistemáticamente a un frenesí destructor. La historia está llena de esto, e incluso una inteligencia artificial puede dar cuenta de ello si se lo pides.
Google ha cambiado su eslogan de "No seas malvado" a "Haz lo correcto"; su dificultad es definir qué es "correcto". El "Sé audaz" de Meta se ha convertido en "Vive en el futuro", sin indicar a qué visión del futuro se refiere (¿la suya?). Byte Dance (Inspire Creativity, Enrich Life), Alibaba (Global trade starts here), Apple (Think different) presentan su orientación general, pero en todos los casos estos grandes principios se debaten enconadamente en el Consejo de Administración (BoD) y se someten sistemáticamente y sin excepción al diktat de la rentabilidad para los accionistas. El algoritmo básico sigue siendo la rentabilidad a corto plazo. La rentabilidad óptima tendría en cuenta el bienestar de la humanidad en la medida de lo previsible y dentro de parámetros distintos de los puramente financieros.
Open AI, la empresa que ha puesto "el bienestar de la humanidad" en el centro de su misión, ha acogido por fin en su consejo a grandes inversores, lo que ha generado una crisis atípica. ¿Soportará su misión "sin ánimo de lucro" la llamada comercial? ¿Se limitará a externalizar los aspectos rentables y preservar una fachada de virginidad? No podemos dejar este tipo de decisiones a la buena voluntad de unas pocas personas que controlan estas herramientas.
La respuesta de laUnión Europea al control de la inteligencia artificial está en preparación, al igual que la de varias democracias. Los principios generales son bien conocidos y pretenden que los operadores de estos sistemas rindan cuentas a todos los niveles.
Sólo en la educación, las implicaciones son numerosas, aunque sólo sea en la corrección de los exámenes, la orientación profesional, la selección para unas prácticas o el acceso a un programa de formación. La justicia, el comercio, las infraestructuras, el empleo, el medio ambiente, etc. no se libran de ningún ámbito.
La sociología, la filosofía y la mayoría de las ciencias sociales tienen mucho trabajo que hacer y muchos temas que estudiar cuando se trata del efecto de la tecnología en nuestras vidas. No se trata de frenar el progreso, sino de velar por que haya progreso para el conjunto de la sociedad, y que no se defina únicamente en términos financieros y digitales.
Ilustración: Apophis26 - DepositPhotos
Referencias
Los ingenieros del caos - Giuliano da Empoli
https://www.decitre.fr/livres/les-ingenieurs-du-chaos-9782073019240.html
Connards malgré nous - How to stay intelligent in the face of emotional manipulation - Olivier Bas
https://www.decitre.fr/livres/connards-malgre-nous-9782100817450.html
Cambridge Analytica - Wikipedia - https://fr.wikipedia.org/wiki/Scandale_Facebook-Cambridge_Analytica
Musk accuses Altman of stealing a charity as courtroom battle begins - Lily Jamali - BBC
https://www.bbc.com/news/articles/cz027nyz529o
Legislación sobre IA - Unión Europea
https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai
Impacto social de la IA generativa: beneficios y amenazas - Unite AI
https://www.unite.ai/fr/impact-social-des-avantages-et-des-menaces-de-l%E2%80%99IA-g%C3%A9n%C3%A9rative/
Ética en inteligencia artificial: impactos significativos - Le bon digital
https://lebondigital.com/lethique-dans-lintelligence-artificielle-des-impacts-non-negligeables/
Los nuevos eslóganes de Meta no impresionan a los expertos en branding ni a los veteranos del metaverso - TNW - Thomas Macaulay
https://thenextweb.com/news/metas-new-values-arent-impressing-branding-experts-or-metaverse-veterans
Presentación de OpenAI - Declaración de objetivos
https://openai.com/blog/introducing-openai
OpenAI: "No ha sido una batalla corporativa ordinaria" - Chloé Sondervorst - Radio-Canada
https://ici.radio-canada.ca/nouvelle/2030752/openai-bataille-entreprise-chatgpt-gillian-hadfield
También te puede gustar:
¿Sigue teniendo sentido el castigo?
¿Hay que castigar a los alumnos conflictivos? La mayoría de los centros optan por esta vía. Sin embargo, cada vez hay más estudios que demuestran que, por el contrario, los castigos tradicionales son contraproducentes. Un enfoque más constructivo, centrado en el buen comportamiento, crearía un entorno más sano.
¿Y si detrás de la participación de todos en la toma de decisiones se escondiera una forma de manipulación? La fascinación se refiere a la tendencia a hacer creer que estamos esperando nuestra opinión, aunque las decisiones clave ya se hayan tomado.
test Test
La escuela, pilar esencial en entornos precarios
La escuela como espacio protector y estructurador en una vida cotidiana caótica. Cuando un niño encuentra en la escuela un oído atento, una atención sincera y una presencia afectuosa, puede marcar la diferencia.
Como práctica, la supervisión consiste en el entrenamiento de gestos y comportamientos cognitivos que a menudo son contraintuitivos para los actores de la empresa. - ¿Podemos ver en estas formaciones la oportunidad de desarrollar gestos cognitivos que puedan tener su lugar en el trabajo?
Formas de valor colectivo en la dinámica del aprendizaje
Los investigadores que se esfuerzan por encontrar el grial educativo en la búsqueda de una eficacia cada vez mayor van por mal camino... porque el conocimiento vinculado a los entornos y a las personas que los componen es contextual, nunca estático, siempre en movimiento.
Superprof: la plataforma para encontrar los mejores profesores particulares en España.
