Publicado el 01 de diciembre de 2023 Actualizado el 05 de diciembre de 2023
El tema de la inteligencia artificial en la educación es objeto de numerosos debates y plantea muchas preguntas. El objetivo de este artículo es repasar algunas de las cuestiones clave para la gestión de la educación. Se puede enseñar el nuevo y perturbador campo de la Inteligencia Artificial, así como las herramientas operativas que afectan a los datos de gestión de alumnos y profesores.
"La inteligencia artificial (IA) es un conjunto de teorías y técnicas destinadas a crear máquinas capaces de simular la inteligencia humana.
A menudo clasificada en el grupo de las matemáticas y las ciencias cognitivas, se basa en la neurobiología computacional (en particular, las redes neuronales) y la lógica matemática (parte de las matemáticas y la filosofía). Utiliza métodos para resolver problemas de gran complejidad lógica o algorítmica. Por extensión, incluye, en el lenguaje cotidiano, los dispositivos que imitan o sustituyen al ser humano en algunas de sus funciones cognitivas.
Entre las aplicaciones de la IA se encuentran los motores de búsqueda, los sistemas de recomendación, la comprensión del lenguaje natural, los coches autónomos, los chatbots, las herramientas de generación de imágenes, las herramientas de toma de decisiones automatizadas y los programas competitivos en los juegos de estrategia.
Desde la aparición del concepto, sus objetivos y retos, así como su desarrollo, han dado lugar a numerosas interpretaciones, fantasías e inquietudes, expresadas tanto en relatos y películas de ciencia ficción como en ensayos filosóficos. Aunque las herramientas de inteligencia artificial especializadas o generativas han demostrado su valía, la realidad parece seguir manteniendo a la inteligencia artificial de propósito general muy lejos del rendimiento de los organismos vivos en todas sus capacidades naturales".
Fuente: wikipedia https://fr.wikipedia.org/wiki/Intelligence_artificielle
La palabra gestor educativo se utiliza aquí de forma muy general. Debe entenderse como una persona que toma decisiones sobre la elección y el uso de una inteligencia artificial que intervendrá en su trabajo.
elegir la IA que enseñarán o utilizarán
elegir la IA para gestionar el ecosistema escolar o universitario por parte de
"A partir de esta observación, pueden aplicarse una serie de buenas prácticas para limitar y evitar en la medida de lo posible los sesgos cognitivos y de muestreo. Para ello, hemos enumerado 10 reglas de oro que deben observarse durante un proyecto de IA:
- Seleccionar datos reales, de la misma fuente que los que se utilizarán en producción: cuanto más fieles sean los datos de entrenamiento a los de producción, más precisos serán los resultados.
- Utilizar datos recientes y actualizarlos en la medida de lo posible, ya que los datos del pasado no pueden reflejar con exactitud los datos actuales (cambios en las prácticas, formas de pensar, etc.).
- Disponga de una cantidad de datos suficiente para poder identificar tendencias objetivas.
- Partir de una necesidad empresarial e identificar con precisión al usuario objetivo: es mucho más difícil desarrollar un sistema de IA si su objetivo no es tangible y está claramente definido. Además, conocer al usuario objetivo, que será por tanto parte integrante de la mejora continua de la IA, permite tener en cuenta posibles sesgos.
- Comunicarse con las personas encargadas de la formación y formarlas previamente: del mismo modo, cuanto más clara sea la comunicación y las buenas prácticas que deben adoptarse, más dudas y errores se evitarán durante la formación.
- Recurrir a la validación independiente: el rendimiento de un algoritmo debe validarse con datos independientes que no se hayan utilizado para entrenarlo.
- Formar un equipo multidisciplinar: parece esencial poder tener una mirada crítica sobre la solución desarrollada y su rendimiento, y asegurarse siempre de que responde a la pregunta planteada, y de que los resultados obtenidos tienen sentido y no corren el riesgo de estar contaminados por sesgos.
- Asegurarse de que las variables utilizadas para el entrenamiento son consistentes y relevantes para el resultado objetivo: para un chatbot, por ejemplo, el algoritmo debe estar preparado para las preguntas a las que tendrá que enfrentarse cuando entre en producción.
- Utiliza herramientas para identificar sesgos: Lime, Open Scale, AI Fairness 360, etc.
- Por último, pero no por ello menos importante, evite depositar demasiada confianza en la IA y mantenga un ojo crítico: especialmente para el usuario objetivo, porque cuanto más se corrija la IA, más eficaz será".
Fuente: Sesgos de la IA: ¿cuáles son las palancas para controlarlos? - Romain Lamotte - 2021
https://kpmg.com/fr/fr/blogs/home/posts/2021/1/comment-maitriser-utilisation-ia.html
No se puede dejar que la inteligencia corra libre. Es su responsabilidad comprobar regularmente los puntos anteriores.
"Los sesgos cognitivos son patrones de pensamiento repetidos que conducen a conclusiones inexactas y subjetivas. El sesgo de confirmación, por ejemplo, se refiere a la tendencia del cerebro a buscar y centrarse en la información que apoya lo que alguien ya cree, mientras que ignora los hechos que van en contra de esas creencias, a pesar de su relevancia. El sesgo de atribución se produce cuando las personas intentan atribuir razones o motivaciones a sus acciones o a las de los demás, sin que esas razones o motivaciones reflejen necesariamente la realidad.
Los sesgos cognitivos pueden ayudarnos a tomar decisiones más rápidamente, pero a veces a expensas de la racionalidad. Hasta la fecha se han identificado un total de 180 sesgos que afectan a nuestro juicio. Es una cifra impresionante, que pone en entredicho la equidad e imparcialidad de nuestra toma de decisiones cotidiana.
Sin embargo, los llamados sesgos cognitivos no son la única definición de sesgo. En estadística, por ejemplo, la recogida de datos de una muestra que no es representativa de la población general constituye un "sesgo de muestreo". Los resultados obtenidos no pueden conducir a conclusiones relativas al conjunto de la población.
Así que tenemos que volver a los principios básicos de las soluciones de Inteligencia Artificial para entender las implicaciones de todos estos sesgos. En primer lugar, la inteligencia artificial está diseñada por un humano. Por tanto, puede convertirse en una lupa para sus propios sesgos. Entre estos sesgos, cabe mencionar que, en este campo, sólo encontramos lo que buscamos: una IA sólo reproduce aquello para lo que ha sido desarrollada y entrenada, sólo responde a la pregunta que se le formula, por lo que debemos asegurarnos de que la pregunta está correctamente formulada.
En segundo lugar, una IA se entrena a partir de ejemplos conocidos, seleccionados por un humano. Por lo tanto, es esencial que estos ejemplos sean fiables, en cantidad suficiente, y que no estén contaminados por prejuicios, como el sesgo de muestreo".
Fuente idem: AI biases: what are the levers for controlling them?
Este punto afecta a dos cuestiones distintas
Los datos gestionados por la inteligencia artificial no están protegidos. Y cuanto más sensibles sean los datos, menos deben ser manipulados directamente por terceros internos o externos (humanos o tecnológicos). Cada vez que hay pasarelas, puertas abiertas y puentes hacia otros sistemas, los riesgos se multiplican.
El segundo punto es más delicado y difícil porque hay que evaluar el riesgo. Como se indica en el apartado cognitivo, un programa informático es creado por un ser humano que lo hace desarrollar por otros seres humanos. Por tanto, ya existen riesgos de fallos en el modelo, que pueden multiplicarse e intensificarse con el tiempo. Por ejemplo, un programa humanitario puede convertirse con el tiempo en un programa puramente financiero si se introduce un indeseable grano de ADN de carácter financiero.
Sin embargo, el verdadero riesgo no es el de cometer un error, sino el de establecer procesos internos que no se correspondan con los deseos del cliente. El problema puede venir de la empresa o de una iniciativa personal de un empleado. Por ejemplo, un sistema de inteligencia artificial necesita cruzar tantos datos como sea posible para perfeccionar su funcionamiento, y podría utilizar sus datos con este fin sin que usted lo supiera. Por eso es importante firmar protocolos de confidencialidad con estos proveedores de servicios, sobre todo si esto no está incluido en los protocolos de comercialización.
En cuanto a los programas desconocidos que pueden haberse instalado sin que nadie lo sepa, a veces son imposibles de detectar, pero siempre acaban saliendo a la luz. Por eso hay que ser extremadamente riguroso en el uso y la seguridad de los datos, para no tener que enfrentarse a algunos de los problemas más adelante, razón de más para formar al personal de forma eficaz y ética. Y si los protocolos establecidos por su comunidad o país no le parecen suficientemente eficaces o éticos... nada le impide crear sus propios documentos contractuales para complementarlos.
Y si el intermediario o creador de la solución se niega a firmar, dite a ti mismo que no puede ser un buen socio para cuidar y gestionar tus datos. No olvides que eres un cliente, incluso de un sistema llave en mano, y un cliente debe ser atendido según sus deseos y no tener que contorsionarse para encajar en un producto existente. Si puede permitírselo, opte por herramientas a medida o modulares.
La inteligencia artificial sigue siendo una herramienta que debe estar a nuestro servicio, ahí para ayudarnos en nuestro trabajo. Revolucionar el mundo de la educación es complicado. Para evitar tomar decisiones equivocadas, existen recursos, asociaciones y grupos de trabajo sobre los mismos temas. No somos los únicos que nos enfrentamos a estas elecciones.
Fuente de la imagen: Pixabay - Hobim
También te puede gustar:
Mi colega conectado: El sensor de la dieta hace que la clase de ciencias de la vida sea agradable.
"Mi colega conectado" nos muestra cómo la clase de SVT está ayudando a educar a los alumnos en materia de alimentación gracias al sensor de dieta. Nunca antes se habían vaciado los platos de la cantina con tanto entusiasmo.
La clasificación facetada del conocimiento
La clasificación facetada asistida por Inteligencia Artificial facilita la exploración de las posibilidades de la interdisciplinariedad en prácticamente cualquier campo, y la rápida identificación de las combinaciones más prometedoras. Descubra cómo.
test Test
Herramientas de scripting educativo
Los guiones educativos, como la educación en general, han dado un giro informático en los últimos años. Sin embargo, con la pandemia del covid-19, se ha hecho más necesario que nunca construir lecciones con ordenadores. Afortunadamente, existen varias soluciones que facilitan el trabajo de guionización para que los profesores piensen también en el contenido y no en la forma.
Organizar una videoconferencia eficaz, ¡garantizado!
Preferimos que la videoconferencia sea un éxito y que todos queden satisfechos. He aquí una lista de los principales puntos en los que hay que fijarse para conseguirlo; esta lista ha sido recopilada y sintetizada a partir de diversas fuentes y autores.
Cómo hacer que una casa sea autosuficiente en agua
La experiencia de ser autosuficiente, ya sea en electricidad o en agua, da una sensación de libertad y de dejar de depender de factores exógenos para su suministro. Además, aunque no se consiga el 100% de autonomía a nivel ecológico, es interesante preservar el recurso que es el agua.
Superprof: la plataforma para encontrar los mejores profesores particulares en España.
