9.4 Inteligencia artificial

Figura 9.4.1 Imagen: Applift

9.4.1 Características únicas de IA para la enseñanza y el aprendizaje

La inteligencia artificial (IA) es un tema que presenta dificultades con respecto a su uso en la educación. Actualmente, la IA está atravesando otro período de exageración extrema como la panacea para la educación, y se encuentra en la cima del pico de expectativas debido principalmente a aplicaciones exitosas fuera del campo de la educación, como en finanzas y marketing y la investigación médica. Además, el término ‘IA’ se usa cada vez más (incorrectamente) como un término complejo para cualquier actividad computacional.

Incluso en educación, existen diferentes áreas posibles de aplticación de la IA. Zeide (2019) hace una distinción muy útil entre aplicaciones institucionales, de apoyo al estudiante y de instrucción (Figura 9.4.2 a continuación).

Figura 9.4.2 Aplicaciones de IA en educación Imagen: © Zeide, 2019 (imagen adaptada para la versión en Español por CETEC)

Si bien las aplicaciones de IA para fines de apoyo institucional o estudiantil son muy importantes, este capítulo se centra en las posibilidades pedagógicas de diferentes medios y tecnologías (lo que Zeide llama aplicaciones «instructivas»). En particular, el enfoque en esta sección estará en el rol de la IA como una forma de medio o tecnología para la enseñanza y el aprendizaje, sus posibilidades pedagógicas y sus fortalezas y debilidades en esta área.

La IA es realmente un subconjunto de la informática. Por lo tanto, todas las posibilidades generales de la informática en educación establecidas en la Sección 5 del capítulo 8 se aplicarán a la IA. Esta sección tiene como objetivo descubrir el potencial adicional que la IA puede ofrecer a la enseñanza y el aprendizaje. Esto significará centrarse particularmente en su rol como medio en lugar de tecnología para la educación, y observarla en un contexto más amplio al margen de los aspectos computacionales de la IA, en particular, su papel pedagógico.

9.4.2 ¿Qué es la inteligencia artificial?

La definición original de inteligencia artificial de McCarthy (1956, citado en Russell y Norvig, 2010) es:

cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede describirse con tanta precisión que se puede hacer una máquina para simularlo. Se intentará encontrar cómo hacer que las máquinas usen el lenguaje, formen abstracciones y conceptos, resuelvan tipos de problemas ahora reservados para los humanos y se mejoren.

Zawacki-Richter et al. (2019), en una revisión de la literatura sobre IA en la educación superior, informan que aquellos autores que definieron la inteligencia artificial tendieron a describirla como:

sistemas informáticos inteligentes o agentes inteligentes con características humanas, como la capacidad de memorizar conocimientos, percibir y manipular su entorno de manera similar a los humanos, y de comprender el lenguaje natural humano.

Klutka et al. (2018) también definen AI en términos de lo que puede hacer en la educación superior (Figura 9.4.3 a continuación):

      Figura 9.4 3 Lo que la IA puede hacer en la educación Imagen: Klutka et al. (2018) (imagen adaptada para la versión en Español por CETEC)

Hay tres requisitos básicos de computación que diferencian a la IA ‘moderna’ de otras aplicaciones informáticas:

• acceso a grandes cantidades de datos;
• poder computacional a gran escala para administrar y analizar los datos;
• algoritmos potentes y relevantes para el análisis de datos.

9.4.3 ¿Por qué utilizar la inteligencia artificial para enseñar y aprender?

Hay dos objetivos diferentes para el uso general de la inteligencia artificial. El primero es aumentar la eficiencia de un sistema u organización, principalmente mediante la reducción de los altos costos de la mano de obra, es decir, mediante la sustitución de trabajadores humanos relativamente caros por máquinas relativamente menos costosas (automatización). Los políticos, empresarios y creadores de políticas observan un creciente movimiento hacia la automatización como una forma de reducir los costos de la educación. Sin embargo en la educación, el costo principal es el que representan los maestros e instructores.

El segundo objetivo es aumentar la efectividad de la enseñanza y el aprendizaje, en términos económicos, para aumentar los resultados: mejores resultados de aprendizaje y mayores beneficios por el mismo costo o más. Con este objetivo, la inteligencia artificial se utilizaría junto al rol de soporte de maestros e instructores.

Klutka y col. (2018) proporcionan una declaración general del potencial de la IA en la ‘instrucción’ de educación superior a través de la Figura 8.7c.4:

Figura 9.4.4 Metas para  IA en la educación superior. Imagen: Klutka et al. (2018) (imagen adaptada para la versión en Español por CETEC)

Estas son metas comprensibles, pero veremos más adelante en esta sección que tales metas hasta la fecha son principalmente aspiracionales en vez de reales.

En términos de este libro, un enfoque clave es desarrollar el conocimiento y las competencias requeridas a los estudiantes en la era digital. La prueba clave para la inteligencia artificial es hasta qué punto puede ayudar en el desarrollo de estas competencias de orden superior.

9.4.4 Posibilidades «affordances» y ejemplos de uso de IA en la enseñanza y el aprendizaje

Zawacki-Richter y col. (2019) en una revisión de la literatura sobre IA en educación identificó inicialmente 2.656 trabajos de investigación en inglés o español, luego redujo la lista eliminando duplicados, limitando la publicación a artículos en revistas revisadas por pares publicados entre 2007 y 2018, y eliminando artículos concluyó que no se tratababan sobre el uso de la IA en la educación. El resultado reveló que solo 145 artículos finales debían ser analizados. Zawacki-Richter et al. luego clasificó estos 145 artículos en diferentes usos de la IA en la educación. Esta sección se basa en gran medida en esta clasificación. (Cabe señalar que dentro de los 145 artículos, solo 92 se centraron en la instrucción/apoyo estudiantil. El resto se centró en usos institucionales como la identificación de estudiantes en riesgo antes de la admisión).

El estudio de Zawacki-Richter ofrece una idea de las principales formas en que la IA se ha utilizado en la educación para la enseñanza y el aprendizaje durante los diez años transcurridos entre 2007 y 2018, lo más cerca que podemos estar de las «posibilidades». En primer lugar, a continuación se proporcionan tres categorías principales de «instrucción» generales (con una superposición considerable) del estudio, seguidas de algunos ejemplos específicos. (He omitido la categoría de perfil y predicción de Zawacki-Richter et al. relacionada con cuestiones administrativas como admisiones, programación de cursos y sistemas de alerta temprana para estudiantes en riesgo).

9.4.4.1 Sistemas inteligentes de tutoría (29 de 92 artículos revisados ​​por Zawacki-Richter et al.)

Los sistemas inteligentes de tutoría permiten:

• proporcionar contenido didáctico a los alumnos y, al mismo tiempo, apoyarlos mediante  comentarios adaptativos y sugerencias para resolver preguntas relacionadas con el contenido, así como detectar las dificultades/errores de los alumnos  al trabajar con el contenido o los ejercicios;
• seleccionar materiales de aprendizaje basados ​​en las necesidades de los estudiantes, como proporcionar recomendaciones específicas sobre el tipo de material de lectura y ejercicios realizados, así como cursos de acción personalizados;
• facilitar la colaboración entre los alumnos, por ejemplo, proporcionando comentarios automáticos, generando preguntas automáticas para el debate y el análisis del proceso.

9.4.4.2 Evaluación y la calificación (36 de 92)

AI apoya la evaluación y la calificación a través de:

• clasificación automatizada;

• retroalimentación, incluyendo una variedad de herramientas orientadas a los estudiantes, tales como agentes inteligentes que brindan indicaciones u orientación a los estudiantes cuando están confundidos o estancados en su trabajo;

• evaluación de la comprensión, participación e integridad académica del alumno.

9.4.4.3 Sistemas adaptativos y personalización (27 de 92)

La IA permite sistemas adaptativos y la personalización del aprendizaje al:

• enseñar el contenido del curso y luego diagnosticar las fortalezas o lagunas en el conocimiento del alumno y proporcionar retroalimentación automatizada
• recomendar contenido personalizado;
• apoyar a los maestros en el diseño del aprendizaje recomendando estrategias de enseñanza apropiadas basadas en el desempeño del estudiante;
• apoyar la representación del conocimiento en mapas conceptuales.

Klutka y col. (2018) identificaron varios usos de la IA para la enseñanza y el aprendizaje en universidades de los EE. UU.

• ECoach,  desarrollado en la University of Michigan, proporciona retroalimentación formativa para una variedad de clases principalmente grandes en el campo STEM. Realiza un seguimiento del progreso de los estudiantes a través de un curso y los dirige a acciones y actividades apropiadas de forma personalizada.
• análisis de sentimientos  (usando las expresiones faciales de los estudiantes para medir su nivel de participación en el estudio),
• una aplicación para monitorear la participación de los estudiantes en los foros de discusión y
• organizar los errores comúnmente compartidos en los exámenes en grupos  para que el instructor responda una vez al grupo en lugar de individualmente.

9.4.4.4 Chatbots

Un chatbot es una programación que simula la conversación o ‘charla’ de un ser humano a través de interacciones de texto o voz (Rouse, 2018). Los chatbots en particular son una herramienta utilizada para automatizar las comunicaciones con los estudiantes. Bayne (2014) describe una de esas aplicaciones en un MOOC con 90.000 suscriptores. Gran parte de la actividad estudiantil tuvo lugar fuera de la plataforma Coursera en las redes sociales. Los cinco académicos que enseñan el MOOC estuvieron activos en Twitter, cada uno con grandes redes, y la actividad de Twitter alrededor del hashtag MOOC (#edcmooc) fue alta en todas las instancias del curso (por ejemplo, se intercambiaron un total de 180.000 tweets en la primera edición del MOOC). Se diseñó un ‘Teacherbot’ para recorrer los tweets usando el hashtag del curso de Twitter, usando palabras clave para identificar ‘problemas’ y luego eligiendo respuestas prediseñadas para estos problemas, lo que a menudo implicaba dirigir a los estudiantes a una investigación más específica sobre un tema. Para una revisión de la investigación sobre chatbots en educación, ver Winkler y Söllner (2018).

9.4.4.5 Calificación automatizada de ensayos

Thompson (2022) ofrece una explicación sencilla, dirigida principalmente en los profesores, sobre cómo funciona la calificación automática de ensayos (AES).

Lo primero y más importante a saber es que no hay un algoritmo que «lea» los ensayos de los estudiantes. En cambio, es necesario entrenar a un algoritmo…. De hecho, usted tiene que calificar los ensayos (o al menos una gran muestra de ellos) y luego usar esos datos para ajustar el algoritmo de aprendizaje automático. 

Lo que implica identificar las rúbricas que usted utiliza para calificar ensayos. Luego de corregir y calificar una gran cantidad de ensayos se determina el puntaje (por ejemplo, en una escala de cinco puntos) que se asigna a cada rúbrica para calificar cada tarea. Se realizan pruebas con diversos modelos de corrección automática de IA y se implementan sus tareas a través de esos modelos varias veces para identificar el que se correlaciona mejor con su propia calificación. Los modelos de hecho ‘aprenderán’ a mejorar,  cuantos más ensayos corrija.

Thomson lo dice con estas palabras:

Existe un equilibrio entre la simplicidad y la precisión. Los modelos complejos pueden ser precisos pero tardan días en ejecutarse. El modelo más simple puede demorar 2 horas pero con una pérdida del 5% precisión…. El consenso general en la investigación es que los algoritmos AES funcionan tan bien como un segundo ser humano, y por lo tanto  cumplen muy bien en ese papel. Sin embargo, no debería utilizarlos como la única referencia de corrección.

Los sistemas de inteligencia artificial de procesamiento del lenguaje natural (PNL), a menudo llamados motores de calificación de ensayos automatizados, ahora son los principales o secundarios en las pruebas estandarizadas en al menos 21 estados en los Estados Unidos (Feathers, 2019). De acuerdo a Feathers:

Los motores de puntuación de ensayos en realidad no analizan la calidad de la escritura. Están capacitados en conjuntos de cientos de ensayos de ejemplo para reconocer patrones que se correlacionan con calificaciones más altas o más bajas asignadas por humanos. Luego predicen qué puntaje asignaría un ser humano a un ensayo, basándose en esos patrones.

Sin embargo, Feathers afirma que la investigación de psicometristas y expertos en inteligencia artificial muestra que estas herramientas son susceptibles a un defecto común en la inteligencia artificial: sesgo contra ciertos grupos demográficos (ver Ongweso, 2019).

Lazendic et al. (2018)  ofrecen una descripción detallada del plan para la clasificación de máquinas en las escuelas secundarias australianas. Ellos  declaran:

Es … crucialmente importante reconocer que los modelos de puntuación humana, que se desarrollan para cada solicitud de escritura de NAPLAN, y su aplicación consistente, aseguran y mantienen la validez de las evaluaciones de escritura de NAPLAN. En consecuencia, la confiabilidad estadística de los resultados de puntuación humana está fundamentalmente relacionada y es la evidencia clave para la validez de la marca de escritura NAPLAN.

En otras palabras, la evaluación debe basarse en criterios humanos consistentes. Sin embargo, se anunció más tarde (Hendry, 2018) que los ministros de educación australianos acordaron no introducir la calificación automática de ensayos para las pruebas de escritura de NAPLAN, atendiendo los llamados de los grupos de maestros para rechazar la propuesta.

Perelman (2013) desarrolló un programa llamado generador BABEL que unió cadenas de palabras y oraciones sofisticadas en ensayos sin sentido. Los ensayos sin sentido constantemente obtuvieron puntajes altos, a veces perfectos, a través de varios motores de calificación diferentes. También Mayfield, 2013, y Parachuri, 2013, ofrecen un análisis reflexivo sobre los problemas que surgen en la calificación automática de la escritura. Para una buena descripción de hacia dónde se dirige la calificación automática de ensayos, ver Kumar y Boulanger (2020).

AES puede eventualmente tener el potencial para calificación de manera masiva un gran
número de tareas en los exámenes nacionales de NAPLAN en Australia o el Certificado General de Educación Secundaria en el Reino Unido. Sin embargo, tales métodos siguen siendo poco prácticos para la mayoría de los profesores de manera individual.  En el momento de la redacción, a pesar de la considerable presión para utilizar la calificación de ensayos automatizada para los exámenes estandarizados, la tecnología aún tiene muchas preguntas pendientes.

9.4.4.6 Supervisión en línea (proctoring)

Como resultado de la pandemia de Covid-19, se produjo especialmente un rápido aumento en el uso de servicios de supervisión basados en IA con el fin de verificar si los estudiantes que rendían exámenes en casa hacían trampa. Hay un número sorprendentemente grande de empresas que ofrecen el servicio de supervisión en línea, como Examity, Mercer/Mettle, Proctortrack, OnVUE (de Pearson Publishing), Meazure Learning (anteriormente ProctorU) y Proctorio. Se utilizan las cámaras instaladas en la computadora de los estudiantes o las provistas por la compañía para que los estudiantes utilicen en sus casas o en el lugar que rindan el examen. La supervisión en línea se realiza principalmente de dos formas: en vivo, con una persona remota mirando (generalmente contratada por la empresa); o de manera automatizada. A veces, se implementa una mezcla de ambas modalidades.

De manera creciente, estos servicios utilizan IA para identificar el comportamiento engañoso, tal como:

•  la cara de los estudiantes no coincide con la foto del documento de identificación cargado antes del examen;
• ‘distracción’: los movimientos del estudiante durante el examen fuera del ángulo de la cámara;
• otras personas en la habitación;
• sonido humano extraño;
• libros u otros documentos sobre el escritorio;
• una vista de 360 grados de la habitación el estudiante está realizando el examen.

Algunas empresas crean, mediante el uso de IA, un «índice de credibilidad’ en el resultado. Los estudiantes generalmente tienen que proporcionar información personal como nombre, dirección, número de legajo y, a veces, información de la tarjeta de crédito. Los estudiantes, o incluso la institución o escuela que requiere el uso del servicio de supervisión- no tienen control sobre el uso de estos datos personales, que a veces pueden compartirse con terceros.

La información confidencial recopilada por las empresas de supervisión en línea plantea muchos dilemas entre los estudiantes, y los padres, que quedan automáticamente excluidos del proceso del examen.

Nigam et al. (2021) realizaron una revisión sistemática de 43 artículos sobre Sistemas de supervisión basados y no basados en IA publicados entre 2015 y 2021. Concluyeron que:

‘Nuestro análisis… revela que los problemas de seguridad asociados con los AIPS se están multiplicando y son motivo de legítima preocupación. Los principales problemas incluyen la seguridad y privacidad, aspectos éticos, confianza en la tecnología basada en IA, falta de capacitación en el uso de la tecnología, costos y muchos más. Es dificil saber si los beneficios de estas tecnologías de supervisión en línea superan sus riesgos. La conclusión más razonable al presente es que la justificación ética de estos tecnologías y sus diversas capacidades nos obliga a garantizar rigurosamente que se logre un equilibrio entre las desventajas y los posibles beneficios.’

La supervisión en línea es un buen ejemplo de intento de adaptación de los métodos del siglo XIX a la tecnología del siglo XXI. La evaluación en línea se analiza con más detalle en el Capítulo 6.8.4, que indica que la evaluación se puede realizar de diversas maneras en la educación en línea, utilizando, por ejemplo, la evaluación continua, realizando el seguimiento automático del aprendizaje del estudiante a través de un sistema de gestión LMS/EVEA, o Portafolios electrónicos, que permiten a los estudiantes crear una auténtica recopilación de su trabajo. Lo que se debe evitar es la intrusión, la falta de privacidad y la falta de transparencia de los servicios de supervisión basados en IA.

9.4.5 Fortalezas y debilidades

Hay varias formas de evaluar el valor de las características únicas de las aplicaciones particulares de la IA en la enseñanza y el aprendizaje:

• ¿La aplicación se basa en las tres características principales de la IA ‘moderna’: conjuntos de datos masivos, capacidad de cómputo masivo; algoritmos potentes y relevantes
• ¿La aplicación tiene beneficios claros en términos de prestaciones sobre otros medios, y en particular aplicaciones informáticas generales?
• ¿La aplicación facilita el desarrollo de las competencias y conocimientos necesarios en la era digital?
• ¿Hay algún sesgo involuntario integrado en los algoritmos? ¿Parece discriminar a ciertas categorías, de personas?
• ¿Es la aplicación ética en términos de privacidad de estudiantes y docentes/instructores y sus derechos en una sociedad abierta y democrática?
• ¿Son los resultados de la aplicación ‘explicables’? Por ejemplo, ¿puede un maestro o instructor o los responsables de la aplicación comprender y explicar a los estudiantes cómo se alcanzaron los resultados o las decisiones tomadas por la aplicación de IA?

Estos problemas se abordan a continuación.

9.4.5.1 ¿Se trata realmente de una aplicación de IA ‘moderna’ en la enseñanza y el aprendizaje?

Mirando el Zawacki-Richter et al. estudio y muchos otros trabajos de investigación publicados en revistas evaluadas por pares, muy pocas de las llamadas aplicaciones de IA en la enseñanza y el aprendizaje cumplen con los criterios de datos masivos, capacidad informática masiva y algoritmos potentes y relevantes. Gran parte de la tutoría inteligente dentro de la educación convencional es lo que podría llamarse IA ‘antigua’: no hay gran procesamiento y los datos son relativamente pequeños. Muchos de los llamados documentos de IA centrados en la tutoría inteligente y el aprendizaje adaptativo son realmente solo aplicaciones informáticas generales.

De hecho, los llamados sistemas de tutoría inteligente, calificación automática de pruebas de opción múltiple y retroalimentación automática sobre tales pruebas han existido desde principios de la década de 1980. Las aplicaciones de IA más cercanas a las modernas parecen ser la calificación de ensayos automatizada de pruebas estandarizadas administradas en todo un sistema educativo, y el uso de sistemas de IA y de supervisión en línea aunque haya serios problemas con el uso de ambas aplicaciones. Claramente se necesita más desarrollo para hacer que la calificación de ensayos automatizados y los sistemas de supervisión en línea basados en IA  sean prácticas más confiables y seguras.

La principal ventaja que Klutka et al. (2018), identificaron para IA es que abre la posibilidad de que los servicios de educación superior sean escalables a un ritmo sin precedentes, tanto dentro como fuera del aula. Sin embargo, es difícil ver cómo la IA ‘moderna’ podría usarse dentro del sistema educativo actual, donde el tamaño de las clases o incluso departamentos académicos completos, y por lo tanto los puntos de datos, son relativamente pequeños, en términos de los números necesarios para la IA ‘moderna’ . No se puede decir hasta la fecha que la inteligencia artificial moderna se haya intentado y haya fallado en la enseñanza y el aprendizaje; Ni siquiera se ha intentado.

Las aplicaciones fuera del sistema educativo formal actual son más realistas, para MOOC, por ejemplo, o para capacitación corporativa a escala internacional, o para universidades de enseñanza a distancia con un gran número de estudiantes. El requisito de datos masivos sugiere que todo el sistema educativo podría ser masivamente disruptivo, si se pudiera alcanzar la escala necesaria ofreciendo educación moderna basada en inteligencia artificial fuera de los sistemas educativos existentes, por ejemplo, por grandes corporaciones de Internet que podrían aprovechar y usar los datos personales de sus mercados masivos de consumidores.

Sin embargo, todavía queda un largo camino por recorrer antes de que la IA lo haga factible. Esto no quiere decir que no podría haber tales aplicaciones de la IA moderna en el futuro, pero en este momento, en palabras del viejo inglés bobby, ‘Avanza, ahora, no hay nada que ver aquí’.

Sin embargo, en aras de la discusión, supongamos que la definición de IA que se ofrece aquí es demasiado estricta y que la mayoría de las aplicaciones discutidas en esta sección son ejemplos de IA. ¿Cómo cumplen estas aplicaciones de IA los otros criterios anteriores?

9.4.5.2 ¿Las aplicaciones facilitan el desarrollo de las competencias  y conocimientos necesarios en la era digital?

Este no parece ser el caso en la mayoría de las llamadas aplicaciones de IA para la enseñanza y el aprendizaje de hoy. Están muy centradas en la presentación de contenido y las pruebas de comprensión. En particular, Zawacki-Richter et al. señala que la mayoría de los desarrollos de IA para la enseñanza y el aprendizaje, o al menos los trabajos de investigación, son de informáticos, no de educadores. Dado que la IA tiende a ser desarrollada por científicos informáticos, tiende a usar modelos de aprendizaje basados ​​en cómo funcionan las computadoras o las redes de computadoras (ya que, por supuesto, será una computadora que debe operar la IA). Como resultado, tales aplicaciones de IA tienden a adoptar un modelo de aprendizaje muy conductista: presentación/prueba/retroalimentación. Lynch (2017) argumenta que:

Si la IA va a beneficiar a la educación, será necesario fortalecer la conexión entre los desarrolladores de IA y los expertos en ciencias del aprendizaje. De lo contrario, la IA simplemente «descubrirá» nuevas formas de enseñar mal y perpetuar ideas erróneas sobre la enseñanza y el aprendizaje.

Comprender y entender son competencias fundamentales importantes, pero la IA hasta ahora no está ayudando con el desarrollo de competencias de orden superior en los estudiantes como el pensamiento crítico, la resolución de problemas, la creatividad y la gestión del conocimiento. De hecho, Klutka et al. (2018) afirman que la IA puede manejar muchas de las funciones de rutina que actualmente realizan los instructores y administradores, liberándolos para resolver problemas más complejos y conectarse con los estudiantes en niveles más profundos. Esto refuerza la opinión de que el papel del instructor o maestro necesita alejarse de la presentación del contenido, la gestión del contenido y las pruebas de comprensión del contenido, todo lo cual se puede hacer mediante la informática, y centrarse en el desarrollo de competencias. La buena noticia es que la IA utilizada de esta manera es compatible con la función de profesores e instructores, pero no los reemplaza. La mala noticia es que muchos maestros e instructores necesitarán cambiar la forma en que enseñan o se volverán redundantes.

9.4.5.3 ¿Hay sesgos no intencionados en los algoritmos?

Se podría argumentar que todo lo que hace la IA es encapsular los sesgos existentes en el sistema. Sin embargo, el problema es que este sesgo a menudo es difícil de detectar en un algoritmo específico, y que la IA tiende a ampliar o expandir dichos sesgos. Estos son problemas más para los usos institucionales de la IA, pero el sesgo realizado por las máquinas puede discriminar a los estudiantes también en un contexto educativo, y especialmente en la evaluación automatizada.

9.4.5.4 ¿La aplicación es ética?

Existen muchos problemas éticos potenciales que surgen del uso de IA en la enseñanza y el aprendizaje, principalmente debido a la falta de transparencia en el software de IA, y particularmente debido a los supuestos integrados en los algoritmos. La revisión de la literatura por Zawacki-Richter et al. (2019) concluyó:

… un resultado sorprendente de esta revisión es la dramática falta de reflexión crítica de las implicaciones pedagógicas y éticas, así como los riesgos de implementar aplicaciones de IA en la educación superior.

¿Qué datos se recopilan, quién los posee o los controla, cómo se interpretan, cómo se utilizarán? Será necesario que las políticas estén del lado de la protección de los maestros/profesores (ver por ejemplo Las políticas de datos de los estudiantes del Departamento de Educación de los Estados Unidos para las escuelas, o del Ministerio de Educación Superior de British Columbia y la Estrategia de Educación Digital en la Capacitación de competencias. Los estudiantes y los profesores/maestros necesitan estár involucrados en el desarrollo de tales políticas.

9.4.5.5 ¿Los resultados son explicables?

El mayor problema con IA en general y con la educación en particular es la falta de transparencia. ¿Por qué obtuve este puntaje? ¿Por qué me sugieren esta lectura en lugar de otra, o me redirecciona a una lectura que no comprendí la primera vez? Lynch (2017) argumenta que la mayoría de los datos recopilados sobre el aprendizaje de los estudiantes son indirectos, poco auténticos, carecen de confiabilidad o validez demostrables y reflejan horizontes de tiempo poco realistas para demostrar el aprendizaje.

‘ejemplos actuales de IA en la Educación a menudo se basan en … proxys pobres para el aprendizaje, utilizando datos que son fácilmente recopilables en lugar de significativos desde el punto de vista educativo.

9.4.6 Conclusiones

9.4.6.1. Sigan soñando, entusiastas de la IA

En términos de lo que IA está haciendo actualmente para enseñar y aprender, el sueño está más allá de la realidad. Lo que funciona bien en finanzas, marketing o astronomía no necesariamente se traduce en contextos de enseñanza y aprendizaje. Al hacer la investigación para esta sección, me resultó muy difícil encontrar ejemplos convincentes de IA para la educación, en comparación con los juegos serios o la realidad virtual. Siempre es difícil demostrar que es negativo, pero los resultados hasta la fecha de aplicación de la IA a la enseñanza son extremadamente limitados y decepcionantes. (ver por ejemplo, Brooks, 2021).

Esto se debe principalmente a la dificultad de aplicar la IA ‘moderna’ a escala en un sistema muy fragmentado que depende en gran medida de clases, programas e instituciones relativamente pequeñas. Probablemente para que la IA moderna ‘funcione’, se necesitaría una estructura organizativa educativa totalmente diferente. Pero hay que tener cuidado con lo que se desea.

Hay una fuerte influencia afectiva o emocional en el aprendizaje. Los estudiantes a menudo aprenden mejor cuando sienten que al instructor o al maestro le importa. En particular, los estudiantes quieren ser tratados como individuos, con sus propios intereses, formas de aprendizaje y cierta sensación de control sobre su aprendizaje. Aunque a nivel de masa el comportamiento humano es predecible y hasta cierto punto controlable, cada estudiante es un individuo y responderá de manera ligeramente diferente de otros estudiantes en el mismo contexto. Debido a estos aspectos emocionales y personales del aprendizaje, los estudiantes deben relacionarse de alguna manera con su maestro o instructor. El aprendizaje es una actividad compleja donde solo una parte relativamente menor del proceso puede automatizarse de manera efectiva. El aprendizaje es una actividad intensamente humana, que se beneficia enormemente de las relaciones personales y la interacción social. Este aspecto relacional del aprendizaje puede manejarse igualmente bien en línea como cara a cara, pero significa usar la informática para apoyar la comunicación, así como para la distribución del contenido y la evaluación de la adquisición de contenido.

9.4.6.2 No apto para el propósito

Sobre todo, la IA aún no ha progresado hasta el punto en que pueda soportar los niveles más altos de aprendizaje requeridos en la era digital o los métodos de enseñanza necesarios para implementarlo, aunque otras formas de computación o tecnología, como simulaciones, juegos y realidad virtual pueden lograrlo.

En particular, los desarrolladores de IA no han sido conscientes de que el aprendizaje es evolutivo y se construye. En cambio, han impuesto un método antiguo y menos apropiado de enseñanza basado en el conductismo y una epistemología objetivista. Sin embargo, para desarrollar las competencias y el conocimiento necesarios en la era digital, se necesita un enfoque de aprendizaje más constructivista. Hasta la fecha no ha habido evidencia de que la IA pueda respaldar este enfoque de la enseñanza, aunque puede ser posible.

9.4.6.3 Agenda real de la IA

Los defensores de la IA a menudo argumentan que no están tratando de reemplazar a los maestros, sino de hacer su vida más fácil o más eficiente. Esto debe tomarse con una pizca de desconfianza. El impulsor clave de las aplicaciones de IA es la reducción de costos, lo que significa reducir el número de maestros, ya que este es el costo principal en la educación. En contraste, la lección clave de todos los desarrollos de IA es que tendremos que prestar más atención a los aspectos afectivos y emocionales de la vida en una sociedad robótica, por lo que los maestros serán aún más importantes.

Otro problema con la inteligencia artificial es que la misma vieja publicidad sigue dando vueltas y vueltas. Los mismos argumentos para usar la inteligencia artificial en la educación se remontan a la década de 1980. Millones de dólares se destinaron a la investigación de IA en ese momento, incluidas las aplicaciones educativas, sin ningún beneficio.

Desde entonces, ha habido algunos desarrollos significativos en IA, en particular el reconocimiento de patrones, el acceso y el análisis de grandes conjuntos de datos, algoritmos potentes, que conducen a una toma de decisiones dentro de límites acotados. Sin embargo, el truco es reconocer exactamente para qué tipo de aplicaciones son buenos estos nuevos desarrollos de IA y qué no pueden hacer bien. En otras palabras, el contexto en el que se usa la IA es importante y debe tenerse en cuenta. Enseñar y aprender es un entorno particularmente difícil para las aplicaciones de IA.

9.4.6.4 Definición del papel de la IA en la enseñanza y el aprendizaje

Sin embargo, hay un amplio margen para aplicaciones útiles de IA en la educación, pero solo si hay un diálogo continuo entre los desarrolladores y educadores de IA a medida que surgen los nuevos desarrollos. Pero eso requerirá tener muy claro el propósito de las aplicaciones de IA en la educación y estar completamente despierto ante las consecuencias no deseadas.

En educación, la IA sigue siendo un gigante dormido. Las aplicaciones ‘innovadoras’ de IA para la enseñanza y el aprendizaje probablemente no provengan de las principales universidades y colleges, sino de fuera del sistema formal postsecundario, a través de organizaciones como LinkedIn, lynda.com, Amazon o Coursera, que tienen acceso a grandes conjuntos de datos que hacen que las aplicaciones de IA sean escalables y valiosas (para ellos). Sin embargo, esto representaría una amenaza existencial para las escuelas públicas, colleges y universidades. El problema es: qué sistema es el mejor para proteger y mantener al individuo en la era digital: corporaciones multinacionales que usan IA para enseñar y aprender; o ¿un sistema de educación pública con profesores humanos que utilicen la IA como apoyo para los alumnos?

La pregunta clave es si la tecnología debe tener como objetivo reemplazar a los maestros e instructores a través de la automatización, o si la tecnología debe usarse para empoderar no solo a los maestros sino también a los estudiantes. Sobre todo, ¿quién debería controlar la IA en la educación: los educadores, los estudiantes, los informáticos o las grandes corporaciones? De hecho, estas son preguntas existenciales si la IA se vuelve inmensamente exitosa en la reducción de los costos de la enseñanza y el aprendizaje, pero ¿a qué costo para nosotros como humanos? Afortunadamente, la IA aún no está en condiciones de proporcionar tal amenaza; pero bien puede hacerlo pronto.

Referencias

Bayne, S. (2014) Teacherbot: interventions in automated teaching Teaching in Higher Education, Vol. 20. No.4

Brooks, D.C. (2021) EDUCAUSE QuickPoll Results: Artificial Intelligence Use in Higher Education, EDUCAUSE Review, June 11

Feathers, T. (2019) Flawed Algorithms Are Grading Millions of Students’ Essays, Motherboard: Tech by Vice, 20 August

Hendry, J. (2018) Govts dump NAPLAN robo marking plans itnews, 30 January

Klutka, J. et al. (2018) Artificial Intelligence in Higher Education: Current Uses and Future Applications Louisville Ky: Learning House (accessed 19 April, 2019, but no longer available.)

Koumar, V. and Boulanger, D. (2020) Explainable Automated Essay Scoring: Deep Learning Really Has Pedagogical Value Frontiers in Education, 6 October

Lazandic, G., Justus, J.-A., and Rabinowitz, S. (2018) NAPLAN Online Automated Scoring Research Program: Research Report, Canberra, Australia: Australian Curriculum, Assessment and Reporting Authority

Lynch, J. (2017) How AI will destroy education, buZZrobot, 13 November (accessed 15 February, 2019 – no longer available.)

Mayfield, E. (2013) Six ways the edX Announcement Gets Automated Essay Grading Wrong, e-Literate, April 8

Nigam, A., Pasricha, R., Singh, T. and Churi, P. (2021) A Systematic Review on AI-based Proctoring Systems: Past, Present and Future, Education and Information Technologies, Vol. 26, June 23

Ongweso jr. E. (2019) Racial Bias in AI Isn’t Getting Better and Neither Are Researchers’ Excuses Motherboard: Tech by Vice, July 29

Perelman. L. (2013) Critique of Mark D. Shermis & Ben Hamner, Contrasting State-of-the-Art Automated Scoring of Essays: Analysis, Journal of Writing Assessment, Vol. 6, No.1

Rouse, M. (2019) What is chatbot? Techtarget Network Customer Experience, 5 January

Russell, S. and Norvig, P. (2010) Artificial Intelligence – A Modern Approach New Jersey: Pearson Education

Thompson, N. (2022) What is automated essay scoring?, ASC, April 22

Winkler, R. & Söllner, M. (2018): Unleashing the Potential of Chatbots in Education: A State-Of-The-Art Analysis. Academy of Management Annual Meeting (AOM) Chicago: Illinois

Zawacki-Richter, O. er al. (2019) Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Technology in Higher Education Vo.16, No. 39

Zeide, E. (2019) Artificial Intelligence in Higher Education: Applications, Promise and Perils, and Ethical Questions EDUCAUSE Review, Vol. 54, No. 3, August 26

  AUDIO – Escuche este podcast en ES

  TEXTO – Lea este podcast en ES 8.7c