Publicado el 17 de mayo de 2023 Actualizado el 17 de mayo de 2023
"Por precaución, fabricamos máquinas extremadamente pesadas con patas muy pequeñas".
Larry Page
Un centenar de personalidades, entre ellas un tal Bill Gates, piden una moratoria, probablemente porque las consecuencias de la inteligencia artificial están mal evaluadas en la actualidad, y se prevé una toma de decisiones incoherente con riesgos éticos y sociales, así como de seguridad, lo que nos hace pensar cuando conocemos la posible devastación de las armas nucleares. Las IA desafían frontalmente lo que significa ser humano. Los efectos a continuación apuntan a la amplitud del cuestionamiento en curso por parte de filósofos, pensadores, ingenieros y expertos en inteligencia artificial.
Una de las cuestiones filosóficas más fundamentales que plantea la inteligencia artificial es si una máquina puede considerarse inteligente sin comprender lo que hace. Según John Searle
"Lo que queremos saber es si puede haber inteligencia artificial sin comprensión, y si tal inteligencia puede ser autónoma, y si no, por qué no" (1980).
Si las máquinas pueden considerarse inteligentes, esto también plantea interrogantes sobre la relación entre inteligencia y conciencia. La conciencia occidental había dado un vuelco tras el descubrimiento de América, ¿cómo será tras la aparición del continente oculto de la IA?
Nick Bostrom sugiere que
"El propio concepto de inteligencia no biológica requiere una revisión radical de nuestras ideas sobre quiénes somos y cuál es nuestro lugar en el universo" (2014).
Este cambio en el vínculo entre conciencia e inteligencia pone en tela de juicio la base de nuestra humanidad, sin que aún se hayan dibujado con claridad todas las implicaciones de esta disociación.
La inteligencia artificial puede tener importantes implicaciones para la antropología en cuanto a nuestra comprensión de los seres humanos y nuestra relación con las tecnologías. Según Yuval Harari
"La llegada de las máquinas inteligentes amenaza con perturbar las sociedades humanas, haciendo obsoletos muchos puestos de trabajo y creando nuevas formas de desigualdad social y económica" (2018).
Según un estudio de Oxford, las máquinas superarán a los humanos en muchas tareas para 2060. Publicado en 2017, el estudio explicaba que los programas informáticos serían capaces de escribir libros completos ya en 2050, o realizar ciertas tareas de cirujano en 2053. Según el principio de destrucción creativa de Schumpeter, una innovación destruye antiguos oficios y prácticas para dar paso a otros más eficientes, pero históricamente, los que se han quedado atrás en las viejas prácticas han sufrido retrocesos, así que ¿cuál es el riesgo político de dejar que el mercado se ajuste según sus "leyes naturales"?
Del mismo modo, Kate Crawford y Ryan Calo han señalado que
"El desarrollo de la IA plantea cuestiones fundamentales sobre lo que significa ser humano y cómo nos relacionamos con las máquinas que imitan o superan la inteligencia humana" (2016).
En efecto, desde el antiguo mito del Golem, nos comparamos con las máquinas que creamos, aunque no seamos capaces de competir con ellas en una serie de funciones computacionales, pero ahora también en análisis y previsión. Pensábamos que campos reservados como la creatividad se nos resistirían hasta que, con unos pocos clics, aparecieron imágenes increíbles con Midjourney.
Las preocupaciones éticas asociadas a la inteligencia artificial son variadas, desde los riesgos de discriminación y parcialidad hasta la cuestión de la responsabilidad y el control. Según Joy Buolamwini y Timnit Gebru,
"La IA solo es tan imparcial como los datos y algoritmos que la impulsan" (2018).
Sin embargo, se puede detectar una multiplicidad de sesgos en el diseño de los algoritmos que acaban reproduciendo las discriminaciones y creencias mayoritarias del momento ya que las IA se basan en la consulta de una masa de datos. Las minorías étnicas, las mujeres y los desfavorecidos están en desventaja si no se hace nada para corregir los datos ya sesgados en los que se basan los cálculos.
Los retos éticos de la IA también incluyen la transparencia, la responsabilidad y el control, como señalan Stuart Russell y Peter Norvig:
"Los retos éticosde la IA no sólo incluyen el riesgo de discriminación y parcialidad, sino también cuestiones como la responsabilidad, la transparencia y el control" (2020).
Un estudio de Stanford señala que "los 'incidentes y controversias' relacionados con la IA se han multiplicado por 26 en la última década". Incluso se han atribuido casos de adicción, suicidio y divorcio a agentes conversacionales.
La existencia de la inteligencia artificial plantea profundos interrogantes sobre la naturaleza de la realidad y cómo nos relacionamos con las máquinas inteligentes. Según Luciano Floridi
"LaIA es una nueva forma de vida que desafía nuestras categorías ontológicas tradicionales y nos obliga a replantearnos nuestra relación con el mundo" (2014).
La cuestión de si las máquinas pueden estar dotadas de conciencia artificial también es relevante, como ha señalado David Chalmers:
"La existencia de máquinas inteligentes plantea profundas cuestiones filosóficas sobre la naturaleza de la realidad y la posibilidad de la conciencia artificial" (2010).
Si las IA aún no sueñan, tienen poco humor, la interconexión de sus funciones aumentará la sospecha de una sociedad de control generalizado. La intersección de bases de datos, reconocimiento facial y toma de decisiones automática es cuestionable. Esto ya está en marcha en Asia, pero los sistemas interconectados ya están bien establecidos, por ejemplo en el acoplamiento de los radares de velocidad, el direccionamiento y el cobro de multas. Poco a poco nos vamos acostumbrando a esta mecanización del mundo en diversas acciones cotidianas.
Las implicaciones sociales ya son importantes, sobre todo en materia de empleo y seguridad. Según Erik Brynjolfsson y Andrew McAfee,"las máquinas inteligentes pueden sustituir a los trabajadores humanos en muchos puestos de trabajo, creando trastornos económicos y sociales" (2017), porque si bien es muy posible que se creen nuevos puestos de trabajo para diseñar e impulsar la IA, los antiguos van a desaparecer abruptamente. Además, la preocupación por la seguridad y la privacidad es importante, como señala Edward Felten:
"La IA puede crear nuevos riesgos para la seguridad y la privacidad, y tenemos que ser conscientes de estos riesgos para poder gestionarlos de manera responsable" (2019).
El fraude de la IA está creciendo, la producción de información y pruebas falsas se está convirtiendo en un azote para las democracias y destila el veneno de la duda. Por último, el desarrollo y la aplicación de la inteligencia artificial también plantean importantes desafíos técnicos, en particular en relación con el consumo de recursos. Según Yann LeCun, Yoshua Bengio y Geoffrey Hinton,
"Uno de los retos clave de la IA es desarrollar algoritmos que puedan aprender de los datos de forma eficiente y robusta" (2015).
Al hacerlo, las IA no solo producen infobesidad, sino que también expolian cualquier propiedad intelectual al alimentarse de datos de una forma jurídicamente poco clara. Además, la IA consume importantes recursos informáticos y energéticos, y plantea interrogantes sobre el impacto de la tecnología digital en las emisiones de carbono, que se prevé que se tripliquen de aquí a 2050 .
Todas estas cuestiones escapan a la comprensión detallada de los ciudadanos y los particulares. Unos pocos expertos y empresas nos están llevando por un camino de grandes consecuencias, sin consulta y sin ningún contrapeso, lo que viola un importante principio democrático.
Fuentes
John Searle (1980). "Mentes, cerebros y programas". Behavioral and Brain Sciences, 3(3), 417-424. www. course.sdu.edu.cn/G2S/eWebEditor/uploadfile/20140227112825015.pdf
Nick Bostrom (2014). Superinteligencia: caminos, peligros, estrategias. Oxford: Oxford University Press.
https://www.decitre.fr/livres/superintelligence-9780199678112.html
Yuval Harari (2018). 21 Lecciones para el siglo XXI. Nueva York: Spiegel & Grau.
https://www.decitre.fr/ebooks/21-lessons-for-the-21st-century-9781473554719_9781473554719_10012.html
Kate Crawford y Ryan Calo (2016). "Hay un punto ciego en la investigación sobre IA". Nature, 538(7625), 311-313. doi:10.1038/538311a
Joy Buolamwini y Timnit Gebru (2018). "Sombras de género: disparidades interseccionales de precisión en la clasificación comercial de género". Actas de la 1ª Conferencia sobre imparcialidad, rendición de cuentas y transparencia, 77-91. doi:10.1145/3176349.3176356
Stuart Russell y Peter Norvig (2020). Artificial Intelligence: A Modern Approach. Upper Saddle River, NJ: Pearson Education. https://www.decitre.fr/livres/artificial-intelligence-9781292401133.html
Luciano Floridi (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality (La cuarta revolución: cómo la infoesfera está remodelando la realidad humana). Oxford: Oxford University Press.
David Chalmers (2010). "La singularidad: un análisis filosófico". Journal of Consciousness Studies, 17(9-10), 7-65.
Time Elon Musk y 100 expertos piden una moratoria para la inteligencia artificial
https://www.letemps.ch/economie/cyber/elon-musk-experts-reclament-un-moratoire-lintelligence-artificielle
France24 Inteligencia artificial: los empleos que desaparecerán y los que los sustituirán
https://www.france24.com/fr/émissions/tech-24/20230113-intelligence-artificielle-les-métiers-qui-vont-disparaître-ceux-qui-vont-les-remplacer
France24 La démocratie: deepfake en corée du sud un faux candidat pour aider le vrai
https://www.france24.com/fr/info-en-continu/20220214-la-démocratie-deepfake-en-corée-du-sud-un-faux-candidat-pour-aider-le-vrai
Futura sciences. Calentamiento global: la huella de carbono digital se dispara por culpa de la IA
https://www.futura-sciences.com/planete/actualites/rechauffement-climatique-empreinte-carbone-numerique-train-exploser-cause-ia-104727/
MSM Tecnología y Ciencia. ¿Nos conduce la IA hacia un desastre de nivel nuclear ?
https://www.msn.com/fr-fr/actualite/technologie-et-sciences/l-ia-nous-mène-t-elle-vers-une-catastrophe-de-niveau-nucléaire/ar-AA1a2uDK
También te puede gustar:
Diseñar las aulas del siglo XXI
Resulta sorprendente que el diseño de las escuelas haya permanecido prácticamente inalterado durante varios siglos, mientras que la sociedad está en constante agitación. Sin embargo, es posible que finalmente estemos en una era de cambio. A medida que los lugares de trabajo se transforman, los profesores y los pensadores de la educación proponen que el aula se convierta en un entorno abierto que engendre algo más que la mera retención de conocimientos.
La genealogía de los primeros procedimientos y la aparición de un cuerpo de conocimientos operativos
Una mirada esclarecedora a las instrucciones humanas más antiguas para mantener vivo el saber hacer.
test Test
La investigación en ciencias de la educación se equivoca con demasiada frecuencia
Una crítica a las ciencias de la formación, que con demasiada frecuencia se centran en planteamientos desconectados de la realidad.
Control de los usuarios sobre los contenidos educativos: ¡una idea extraña!
Contenidos participativos" en educación: usos y límites.
¿Cómo desarrollar el máximo potencial de los grupos? Un enfoque actualizado de las dinámicas de grupo
Superprof: la plataforma para encontrar los mejores profesores particulares en España.
