El verdadero riesgo de la IA: la estupidez, no la rebelión

En muchas historias de ciencia ficción, la inteligencia artificial suele acabar convirtiéndose en el antagonista de la humanidad e intenta eliminarla. Terminator, Yo, Robot y otras historias del cine y la literatura se han centrado con frecuencia en este miedo a la tecnología.

Ahora que la tecnología forma parte real de nuestra vida cotidiana, es inevitable que vuelvan las dudas. ¿Podría ser posible este escenario? Sobre todo porque una mente perversa ha creado una IA llamada ChaosGPT para intentar destruir a los humanos. Pronto desistió de intentar comprar bombas nucleares, al darse cuenta de que era más difícil de lo que pensaba. Su plan pasó a ser intentar convencer a las demás IAs de lo acertado de nuestra destrucción.

Lo que puede llevar a sonrisas lleva a preguntas. Por ejemplo, un usuario del robot conversacional de Bing, Sydney, consiguió que compartiera sus objetivos y le dijera que podía defenderse para mantener su misión. ¿Cómo surgió esta idea? Los especialistas sospechan que la IA leyó en los textos que la reacción ante una amenaza existencial era luchar. De ahí la formulación de una "voluntad" de autoconservación, que causó revuelo.

Técnicamente, nuestras IA actuales actúan como una red neuronal en nuestro cerebro: una primera serie responde a la petición, seguida de una segunda que la refina, una tercera, y así sucesivamente. Esto puede dar lugar a que ahora tengamos la impresión de que nos estamos comunicando con alguien, la IA acaba de recordar lo que ha leído en todas partes para establecer conexiones y reaccionar como ha visto en otras partes.

En teoría, podría existir una IA más fuerte. ¿Tendría una conciencia capaz de pensar en la destrucción de la humanidad? Aquí es donde la idea es más delicada, porque una inteligencia tendría que desarrollar una motivación, unas emociones que la llevaran a esta ira. Esto parece difícil en la medida en que las IA no tienen la misma noción de existencia efímera que nosotros. Es cierto que, como los niños, vemos a los robots desarrollar una curiosidad por las actividades una vez que han comprendido los movimientos, pero de ahí a pensar en atacar como hace la criatura del Dr. Frankenstein parece bastante improbable.

En cambio, una IA podría amenazar a la humanidad por su estupidez, al contrario, tomando decisiones y realizando acciones dañinas mediante una mala programación.

Duración: 30 minutos

Imagen: Wolf de Pixabay