Actualmente nos encontramos entre varias disyuntivas sobre el uso de IA en el contexto educativo, tenemos muchísimas opciones las que pueden constituir riesgos, oportunidades y beneficios. Sin embargo, se requiere iniciar considerando que estás variables van a ser volubles e impactadas según el nivel de conocimiento que tenga el sujeto operante de esta tecnología. En otras entradas hemos tratado el tema del desarrollo de saberes, habilidades, destrezas y competencias digitales, y cómo éstas posibilitan tener un background de conocimiento que constituye el acercamiento a una mediación de tecnologías digitales que conforma la cultura digital, en este caso del docente.
En una revisión bibliográfica, revisamos dos textos desde la perspectiva de una de las disyuntivas que resultan muy relevantes al momento de atender propuestas formativas para docentes de educación superior que buscan introducirse en este contexto, pero que tienen elementos que inflexibilizan la posibilidad de generar espacios disruptivos y de innovación, como las políticas públicas en educación, el currículo, la percepción del profesorado frente a la irrupción de las tecnologías, entre otras. Entre quienes avanzan, como institución y en lo individual emergen las dudas sobre el uso en un devenir entre qué se puede hacer y que es lo éticamente abordable.
En esta revisión constante, seleccionamos dos interesantes textos que unen estos conceptos en su esencia, y como pueden ser susceptibles de apoyar en una línea de conceptualización, diseño y desarrollo de experiencias de aprendizaje. Por un lado la publicación de la guía de Diego F. Craig, “El paso siguiente”, se centra en mejorar las interacciones con Modelos de Lenguaje de Gran Escala (LLMs) como Chat GPT. Por otro lado la ética de la IA (UNESCO), es un documento más amplio y normativo (como generalmente propone el organismo internacional), abordando las preocupaciones éticas y sociales del desarrollo y uso de la IA en general.
En un breve análisis inicial, hemos dispuesto una simple tabla comparativa:
Categoría | El paso siguiente (Diego F. Craig) | Recomendación sobre la ética de la IA (UNESCO) |
Objetivos y Propósito | Enfocado en mejorar la interacción con LLMs como Chat GPT para fines educativos y prácticos. | Establecer principios éticos y directrices para el desarrollo y uso de la IA. |
Enfoque en la IA | Práctico, centrado en el uso y la interacción con herramientas de IA. | Ético y normativo, abordando las implicaciones más amplias de la IA en la sociedad. |
Público Objetivo | Educadores, usuarios de LLMs, y personas interesadas en IA. | Legisladores, académicos, y profesionales en tecnología y ética. |
Directrices y Recomendaciones | Consejos prácticos para interactuar eficazmente con LLMs. | Principios éticos y recomendaciones para el desarrollo responsable de la IA. |
Implicaciones Educativas | Aplicación directa en la enseñanza y el aprendizaje de la IA. | Implicaciones en la formación de políticas y en la educación sobre ética en IA. |
Aspectos Éticos y Sociales | Enfoque limitado en ética, más centrado en la aplicación práctica. | Fuerte énfasis en la ética, la equidad, la privacidad y la responsabilidad social. |
Innovación y Futuro de la IA | Enfoque en la utilización actual y futura de LLMs en diversos contextos. | Visión amplia del impacto futuro de la IA en la sociedad y la necesidad de regulación ética. |
Si nos centramos en las posibilidades que se presentan en el texto de Craig, podemos hablar de los siguientes aspectos que pueden ser mejorados y tratados a través de una orientación en el contexto teórico sobre cómo funcionan estas herramientas, que tienen componentes de IA hasta el diseño de Prompt, en distintos niveles, con distintos objetivos según lo que se desea diseñar. Entre estos elementos se destacan cuatro ejes principales que conforman la propuesta:
A través de estos elementos, abordamos sin duda el “QUÉ” podemos hacer y “CÓMO”, pero nos falta abordar la dimensión ética, en el texto de UNESCO, se hace incapié en recomendar el abordaje de los aspectos éticos y sociales en el uso de IA mediante un enfoque integral que considere el impacto en la adopción de decisiones, el empleo y el trabajo, la interacción social, la atención de la salud, la educación, los medios de comunicación, el acceso a la información, la brecha digital, la protección del consumidor y de los datos personales, el medio ambiente, la democracia, el estado de derecho, la seguridad y el mantenimiento del orden, el doble uso y los derechos humanos y las libertades fundamentales, incluida la libertad de expresión, la privacidad y la no discriminación.
A partir de este enfoque macro, se hace la bajada en el escenario educativo, donde se plantean los siguientes elementos a considerar para aportar desde la dimensión ética el uso de tecnologías mediadas por inteligencia artificial:
Emergen oportunidades valiosas como la reflexión ética y pensamiento crítico: Vivir en sociedades en proceso de digitalización exige nuevas prácticas educativas, una reflexión ética, un pensamiento crítico, prácticas de concepción responsables y nuevas competencias, dadas las implicaciones para el mercado laboral, la empleabilidad y la participación cívica. Desde esta dimensión se plantea nuevos enfoques metodológicos acordes con los recursos del contexto, donde el sistema educativo debe actuar como catalizador de nuevas formas de aprender a lo largo de la vida
Visibilizar el impacto en la educación, permite considerar el impacto de la inteligencia artificial en la educación, incluyendo aspectos éticos relacionados con la adopción de decisiones, la interacción social, la equidad en el acceso a la educación, la privacidad de los estudiantes, la transparencia en el uso de algoritmos educativos, y la responsabilidad en el desarrollo y uso de tecnologías de IA en el espacio educativo
Participación de los actores educativos, en donde los protagonistas deben fortalecerse, siendo guías y promovedores de un uso consciente que fortalezca y no debilite a los usuarios de una tecnología que contempla un ejercicio ético en beneficio de todos. En esta dimensión los tomadores de decisiones, docentes, académicos, estudiantes y familias deben participar activamente en la reflexión ética sobre el uso de la inteligencia artificial en la educación, promoviendo la transparencia, la equidad, la responsabilidad y la protección de los derechos de los estudiantes
Como en todo ecosistema, no se puede dejar a ningún miembro fuera; es por ello que se debe considerar a las empresas desarrolladoras de tecnología, las empresas EdTech, ya que tienen un rol clave en la aplicación ética de la inteligencia artificial en el contexto educativo. Promueven la transparencia, la responsabilidad y la participación activa de todos los actores educativos en el desarrollo y uso de tecnologías de IA en la educación. Desde el Living Lab del Instituto para el Futuro de la Educación del Tecnológico de Monterrey, estamos acuñando el concepto de ‘Tecnología Educativa Basada en Evidencias’ para estimular, a través de la investigación, a las instituciones educativas, investigadores y empresas EdTech, a desarrollar de forma conjunta acciones que movilicen nuevos conocimientos y, sobre todo, espacio para la experimentación de nuevas mediaciones entre las capacidades humanas y las que la tecnología puede fortalecer en la docencia, los tomadores de decisiones, funcionarios administrativos de la educación, estudiantes y familias. Al abordar estos desafíos, es crucial que las visiones incluyan los niveles de desarrollo de los individuos, sus intereses y su contexto, con el objetivo principal de generar un espacio de reflexión y pensamiento crítico sobre el uso de las herramientas que potencian los escenarios de aprendizaje en nuestra cultura digital.
[…] Actualmente nos encontramos entre varias disyuntivas sobre el uso de IA en el contexto educativo, tenemos muchísimas opciones las que pueden constituir riesgos, oportunidades y beneficios. Sin embargo, se requiere iniciar considerando que estás variables van a ser volubles e impactadas según el nivel de conocimiento que tenga el sujeto operante de esta tecnología. En otras entradas hemos tratado el tema del desarrollo de saberes, habilidades, destrezas y competencias digitales, y cómo éstas posibilitan tener un background de conocimiento que constituye el acercamiento a una mediación de tecnologías digitales que conforma la cultura digital, en este caso del docente. […]
El impacto de la inteligencia artificial en la educación es un tema apasionante y complejo que merece una reflexión más profunda. La personalización del aprendizaje es uno de los aspectos más destacados, ya que la IA permite adaptar el contenido educativo a las necesidades individuales de los estudiantes, lo que puede mejorar significativamente la efectividad del proceso de enseñanza-aprendizaje.
Además, la facilitación de la labor docente a través de herramientas basadas en IA, como los chatbots, plantea cuestiones éticas y prácticas. Si bien estos recursos pueden ser útiles, es importante considerar cómo se integran de manera efectiva en el entorno educativo y cómo afectan la interacción humana en el aula.
La capacidad de monitorear el rendimiento de los estudiantes y proporcionar retroalimentación personalizada es otra área en la que la IA ha demostrado su potencial. Sin embargo, es crucial abordar las preocupaciones sobre la privacidad y la seguridad de los datos personales en este contexto.
Finalmente, la simplificación de tareas administrativas y logísticas a través de sistemas basados en IA puede liberar tiempo para que los educadores se enfoquen en aspectos más creativos y humanos del proceso educativo. Sin embargo, esto también plantea preguntas sobre el equilibrio entre la eficiencia y el valor humano en la educación.
En resumen, el impacto de la inteligencia artificial en la educación es multifacético y complejo, y su implementación exitosa requiere un análisis ético detallado que considere tanto las oportunidades como los desafíos que presenta.