Arizona State University soft lanzó una aplicación web a principios de este mes que permite a cualquiera, por 5 dólares al mes, crear un número aparentemente ilimitado de “módulos de aprendizaje” personalizados mediante inteligencia artificial. El chatbot de IA, llamado Atom, utiliza materiales de instrucción online de profesores de la ASU para crear un curso adaptado a los objetivos, intereses y nivel de habilidad del usuario. Tras realizar un puñado de preguntas y de procesar durante unos cinco minutos, Atom estrena un curso personalizado que incluye lecturas, pruebas y vídeos de una media docena de expertos de la ASU.
Pero varios profesores de cuyo contenido extrae Atom se sorprendieron al saber que sus materiales, incluidas conferencias de vídeo, diapositivas y tareas online, se estaban consultando, recortando y reempaquetando para estos módulos cortos de cursos online. Al profesorado nada se le dijo sobre la aplicación, ASU Atomic, dijeron.
“Me sorprendió mucho ver mi cara mirándome unos instantes después”, dijo Chris Hanlon, profesor de literatura en ASU. Después de aprender sobre Atomic, impulsó al IA a crear un módulo sobre la historia de la crítica literaria, algo que sabía mucho. Denominó el resultado “frankensteiniano”.
“Un vídeo mío fue muy modificado respecto a su forma original; era algo que había colgado en Canvas hace mucho tiempo. Y después vi muchos otros vídeos de otros miembros del profesorado… y me puse en contacto con todos ellos. Ninguno me dijo que les habían consultado al respecto. Nunca oyeron hablar de Atomic”.
La preocupación del profesorado por la aplicación web pone de relieve preguntas siempre presentes sobre cómo las universidades están desplegando la IA: ¿de dónde proviene su conocimiento aparentemente infinito, quién es el propietario y quién se beneficiará? ¿Y qué control, si existe, tienen los profesores sobre cómo las herramientas de IA y los funcionarios universitarios que les sancionan cooptan sus materiales del curso?
En una reciente sesión de preguntas y respuestas del profesorado con el presidente de la ASU, Michael Crow, un miembro del profesorado preguntó sobre Atomic. Crow parecía sorprendido por la pregunta, dijo Michael Ostling, profesor de estudios religiosos que asistió a la reunión.
“Dijo que éste es un experimento y que son las primeras etapas”, dijo Ostling. “Entendía que esto no estaba realmente preparado para la hora de máxima audiencia. Aún no se había evaluado. No se estaba promocionando de forma intensiva, al menos no todavía. Y dijo… que la pregunta (sobre) el currículo es legítima”.
Según Política de propiedad intelectual de la ASUla Junta de Regentes es propietario de los derechos de la mayoría de los materiales didácticos. La junta reclama la propiedad de “cualquier propiedad intelectual creada por una universidad o un empleado de la Junta en el curso y alcance de la ocupación”, afirma la política. Los trabajos académicos, como la investigación publicada, se excluyen a menos que se produzcan con un “uso significativo” de los recursos de la junta, que incluye material producido durante las horas de trabajo mientras trabaja en la universidad. También quedan excluidas las obras de arte y las obras de estudiantes.
Según Hanlon, al colgar contenido instructivo en Canvas, el sistema de gestión del aprendizaje que utiliza ASU, los profesores abren su propiedad intelectual a una posible redistribución y modificación. Varios contratos de uso estándar de Canvas disponibles públicamente con universidades aclaran que estos cambios sólo pueden utilizarse para “propósitos de operar y proporcionar las propiedades de Instructure (la empresa matriz de Canvas) a usted ya los demás usuarios”. No está claro hasta qué punto la empresa interpreta “operación y suministro”.
Como es el caso de muchos chatbots de IA todavía en su infancia, Atom se equivoca. En el módulo que diseñó para Hanlon, incluía clips de una antigua conferencia que dio centrada en la obra y carrera del teórico literario del siglo XX Cleanth Brooks. A lo largo del curso llamó al crítico “Cliente” Brooks.
El videoclip estaba “incrustado en otro material, algunos de los cuales me parecían, probablemente, generados por IA, como un material descriptivo para intentar contextualizar el vídeo y preparar a los estudiantes para entenderlo”, dijo Hanlon. “No lo logró… No pude entender por qué se seleccionó (esta parte del vídeo)”.
A Ostling le preocupa que Atomic “comenzará a utilizarse ampliamente y tengo contenido en las estanterías de Canvas que sería muy inadecuado para aparecer sin contexto en un curso”, dijo. “No sólo creo que los estudiantes estarán mal servidos porque podrían aprender cosas que no son ciertas, sino que podría ponerme en problemas”.
Ostling teme que Atomic pueda ayudar a los actores políticos a identificar y acosar a los profesores que enseñan sobre raza, género y sexualidad, dijo. No es una preocupación infundada: los políticos de derecha y las cuentas de las redes sociales han utilizado la plataforma de alojamiento de programas online Simple Syllabus para encontrar profesores y discutir sus enseñanzas.
“Sería increíblemente fácil, creo, para un mal actor obtener una cuenta de Atomic, pedir un curso y obtener un montón de material de clases sobre conflictos en Oriente Medio, o clases sobre raza y género, y obtener lo que parece evidencia de varios profesores que enseñan cosas terribles”, dijo Ostling. “Pero esta evidencia sería falsa, porque enseñamos cuidadosamente, enseñamos en contexto, nos encaderamos, hacemos todas las cosas que se supone que deben hacer los profesores para ayudar a nuestros estudiantes a entender qué estamos enseñando y por qué. Si se saca de estos marcos, puede parecer bastante extraño y puede ser realmente perjudicial”.
Aún en fase beta, Atomic está limitado en lo que se refiere a lo que puede ofrecer. Dentro de Ed. Superior primero pidió al IA un módulo del curso sobre psicología canina, al que respondió que no tenía acceso a materiales sobre psicología animal, ciencias del comportamiento o estudios veterinarios, apuntando en cambio a opciones de cursos STEM más amplias como las estadísticas. Cuando se le pidió un módulo sobre estadísticas para periodistas, señaló que tampoco existía la instrucción de periodismo, una disciplina para la que ASU es conocida.
En la página de inicio, la aplicación anuncia su uso para aprender “habilidades empresariales buscadas”, incluido el aprendizaje de la IA, cómo crear un negocio, gestión de proyectos, inversiones y bienes raíces. El sitio web señala que “se añade contenido nuevo regularmente”.
Un portavoz de la ASU no dijo sobre qué modelo de IA se basa Atom. Cuando se le preguntó directamente, Atom al principio se negó a decir, pero más tarde dijo que era Claude de Anthropic. No respondió otra pregunta sobre su formación o marca. El portavoz del ASU también se negó a responder a ningún Dentro de Ed. Superiorpreguntas sobre Atomic y, en cambio, compartió una breve declaración.
“Un lanzamiento piloto del programa empezó en abril”, dijo el portavoz. “El piloto explora cómo la ASU puede utilizar el contenido digital existente de nuevas maneras para llegar a los estudiantes más allá de los inscritos en programas de grado”.
(Esta historia se ha actualizado para incluir detalles de los contratos de uso estándar de Canvas con universidades.)
