Ampliación de ideas
Bajo el concepto genérico de Inteligencia Artificial se esconden miles de agentes inteligentes que compiten entre sí. Sólo en el mundo de las finanzas, no sólo las bolsas están asediadas por estas IA financieras (más del 50% de las transacciones), sino que el número de servicios de inversión asistidos por IA no deja de crecer. La locura se desata cuando las IA financieras empiezan a comerciar con las IA de las redes sociales, aprovechando su capacidad para amplificar una tendencia y beneficiarse de ella. En respuesta, los operadores de redes sociales han aprendido a moderar estas actividades y las bolsas de valores han programado alarmas e interruptores para controlar las fluctuaciones sospechosas.
Se pueden encontrar ejemplos comparables en el mundo de la política, donde una simple noticia que resuena puede tener efectos imprevisibles. En el ámbito social, son innumerables los movimientos sociales, tanto positivos como negativos, a los que han contribuido los algoritmos de las redes sociales: la Primavera Árabe, las dietas extrañas, las modas efímeras, la radicalización, etc.
La renovada originalidad de lo que se publica supuestamente dificulta la moderación, mientras que en realidad estos fenómenos de amplificación y frenesí siguen patrones claramente identificables. Los mercados bursátiles han desarrollado una respuesta técnica identificando estos patrones memorizados de comportamiento y fijando tiempos de respuesta adaptados a la situación. No hay razón para que los operadores de estas redes no hagan lo mismo, salvo que no quieran.
El principio básico entre los operadores es que mientras estos fenómenos no afecten a los beneficios, es mejor no molestarse. Pueden saber tus preferencias alimentarias, si estás esperando un bebé y a quién vas a votar, pero identificar y bloquear a un estafador notorio o a un transmisor crónico de noticias falsas obviamente no les sirve de mucho.
Inteligencias artificiales miopes y monomaníacas
En el mundo de la inteligencia artificial, no nos gustan mucho los antropomorfismos: preferimos "estrecha" a "monomaníaca" y "centrada" a "miope". Como los miopes sólo enfocan a distancias cortas, podemos seguir llamándoles miopes hasta que sean capaces de variar su enfoque.
Programar un conjunto de objetivos equilibrados y complejos es mucho más difícil que fijar un objetivo simple como "maximizar el parámetro", (dinero, número de clics, engagement, cualquier índice), o "analizar el parámetro y recomendar" (sentimiento, opinión, correlación, etc.), que puede incluir estrategias como "explotar las lagunas" o "no tener en cuenta la credibilidad de la información". Podemos lamentarnos de la amoralidad de las máquinas, pero es más eficaz lamentarnos de la amoralidad de sus operadores y supervisarlos.
Control y finalidad
En el mundo infinito de la imaginación y las ideas, podemos imaginar lo que queramos, la I.A. puede llevarnos más lejos si queremos, pero cuando se trata de aplicaciones en un mundo real, finito, complejo y en equilibrio, el uso de la I.A. viene acompañado de limitaciones éticas.
Puesto que la I.A. no tiene un propósito específico propio y puede realizar cualquier tarea que se le asigne, no parece haber otra opción que regular legalmente su uso en el mundo material, como ocurre con los medicamentos o las armas. El peligro no es la IA en sí, sino la arrogancia de los humanos que la utilizan en la práctica, sin preocuparse por el bien común ni por el entorno en el que evolucionan.
La mayoría de las IA actualmente en uso pueden describirse como "estrechas", porque están diseñadas para una tarea precisa y muy centrada. Responden a una utilidad o función bien definida, sin ninguna otra consideración por los efectos causados fuera de sus parámetros; son monomaníacas y miopes al mismo tiempo.
La noción de "prudencia" parece ajena a la inteligencia artificial. En el estado actual de desarrollo, integrar un bucle de retroalimentación con un objetivo para modular sus efectos a lo largo de un ecosistema real está todavía más allá de nuestras capacidades y, sobre todo, de la visión que tienen los operadores de lo que podría ser un mundo equilibrado. De ahí la necesidad de frenos legales y de un marco reglamentario.
Educación ética
Una I.A. no tiene preocupaciones morales y, debido a la naturaleza contextual del juicio moral, no es posible programar la moralidad; como mucho, puede programarse la intolerancia. Según cómo se utilice, la inteligencia artificial puede mejorar la calidad de vida de la sociedad (medicina, educación, etc.) o, por el contrario, corromperla (desinformación, polarización, etc.). El problema no es la I.A., sino el ser humano que se contenta con ella en un entorno cada vez más tecnológico, volviéndose a menudo dependiente de ella sin poder ir más allá.
El hecho es que la I.A. es una herramienta para amplificar nuestras capacidades, no un juez, de ahí la necesidad de un marco ético. Se pueden poner en marcha herramientas tecnológicas de control y un marco jurídico, pero sigue siendo necesaria la supervisión humana, no por un solo individuo o un grupo servil, sino por todos los afectados, en diálogo constante.
Básicamente, una educación ética parece ser la mejor manera, si no la única, de preservar nuestra humanidad en el uso práctico de la inteligencia artificial. ¿Dónde si no en la escuela podríamos hacerlo?
Ilustración: StockSnap - Pixabay
Referencias
L'intelligence artificielle en finance - Recommandations pour une utilisation responsable - Autorité des Marchés Financiers
https://lautorite.qc.ca/fileadmin/lautorite/grand_public/publications/professionnels/rapport-intelligence-artificielle-finance-fr.pdf
¿Qué es la inteligencia artificial (IA) en las finanzas? Google
https://cloud.google.com/discover/finance-ai?hl=fr
Flash Crash - https://fr.wikipedia.org/wiki/Flash_Crash_de_2010
Artificial Intelligence (AI) and Investment Fraud: Investor Alert - US Securities and exchange commission
https://www.investor.gov/introduction-investing/general-resources/news-alerts/alerts-bulletins/investor-alerts/artificial-intelligence-fraud
Filosofía para pensar la inteligencia artificial - Tesis de François Levin
https://theses.hal.science/tel-04974628
La IA y yo - Revista de Filosofía - https://www.philomag.com/dossiers/lia-et-moi
Filosofía de la inteligencia artificial
https://fr.wikipedia.org/wiki/Philosophie_de_l%27intelligence_artificielle
La inteligencia artificial, objeto filosófico - Radio France - Podcasts
https://www.radiofrance.fr/franceculture/podcasts/serie-l-ia-l-intelligence-artificielle
Fundamentos filosóficos de la inteligencia artificial - Université Laval - Cours
https://cursus.edu/fr/34280/fondements-philosophiques-de-lintelligence-artificielle
Ver más artículos de este autor
