Los envíos a revistas están llenos de citas falsas generadas por inteligencia artificial.

Hace unas semanas, un profesor asistente de educación se acercó a Charles Hodges y Stephanie Moore, dos investigadores que colaboran con frecuencia, y les solicitó una copia de su artículo de 2023 “Presencia instructiva y éxito del alumno en el aprendizaje en línea sincrónico y asincrónico”. El profesor esperaba compartirlo con los estudiantes en su curso de e-learning.

Hodges y Moore estaban felices de compartir su trabajo, pero había un problema: el documento no existía.

“El tipo nos envió la referencia completa y dijimos: ‘Nunca escribimos eso'”, dijo Moore, profesor de ciencias de la organización, la información y el aprendizaje en la Universidad de Nuevo México. “Si intenta hacer clic en el enlace (Identificador de objeto digital), no le llevará a ninguna parte”.

La cita parece completamente legítima. Formateado usando el estilo APA. el apunta a Revista de aprendizaje en línea– Una verdadera revista En el que Moore publicó el trabajo.– Como editor del periódico. Incluso incluye un enlace DOI falso que conduce a una página “DOI no encontrado”. Para cualquiera, excepto para los autores mal atribuidos, sería casi imposible saber que el artículo es falso sin más investigación. Pero la cita fue una alucinación de la IA.

También en los últimos dos meses, se le pidió a Hodges, profesor de liderazgo, tecnología y desarrollo humano en la Universidad del Sur de Georgia, que revisara una propuesta de libro sobre un tema adyacente a su trabajo.

“El tema de este libro no era completamente mi área de especialización, pero tampoco estaba completamente fuera de mi área de especialización. Todo el tiempo estuve pensando: ‘Me pregunto por qué me pidieron’ que lo revisara”, dijo Hodges. “Luego llegué a la sección donde los autores potenciales enumeraban libros competidores o similares, y tenían un libro que Stephanie y yo habíamos editado. El libro tardó un año en prepararse y estaba incluido en Springer, una importante editorial académica. Incluso tenía un resumen simple de lo que trataba el libro”.

Pero al igual que el artículo de la revista, el libro no existía.

A medida que la inteligencia artificial se extiende a la vida académica, los profesores se obsesionan cada vez más con las citas falsas. Pauline Cooper, profesora de geografía en la Universidad York St. John, dijo Dentro de la educación superior Bluesky señala que revisó una solicitud de subvención que “citaba un artículo inexistente, aparentemente escrito por mí”. Gail Sinatra, profesora de educación y psicología en la Universidad del Sur de California, pidió recientemente a un chatbot de IA una lista de sus publicaciones, que incluía algunos artículos de investigación reales y otros falsos. Los documentos falsos eran tan convincentes que volvió a comprobar su currículum.

“Tuve que comprobarlo seriamente”, dijo. “Por lo tanto, cualquiera asumiría que era exacto”.

Andrea Harkins-Brown, editora en jefe de la revista, dijo que las citas falsas se han convertido en un problema particular para las revistas académicas, que normalmente examinan las listas de referencias durante la segunda o tercera ronda del proceso de revisión. Revista de tecnología y formación docente..

“Parece muy plausible, porque para eso están diseñados los grandes modelos de lenguaje”, dijo Harkins-Brown. “A veces, enumeran autores que normalmente publican sobre ese tema. Parecen lugares donde uno esperaría ver el trabajo, pero hay una discrepancia. Por lo tanto, podría ser el autor correcto, pero no el año correcto”.

Es una cuestión relativamente nueva. Hodges, quien fue editor de Tendencias tecnológicas De 2014 a 2024, dijo que no tuvo problemas con citaciones falsas, incluso hacia el final de su mandato. Harkins-Brown ha sido editora durante aproximadamente un año y ya ve más citas generadas por IA en las publicaciones que cuando comenzó.

“Teníamos artículos que pasaron por varias rondas de revisión; los miré como editor y los miré durante varias rondas de revisores”, dijo Harkins-Brown. “Y es realmente difícil detectar estas referencias falsas, y no las detectamos hasta que llegamos a la etapa de revisión”.

En la UNM, Moore también es el editor en jefe de la revista. Revista de Computación en la Educación Superiorpublicado por Springer. Springer examina las presentaciones para comprobar su integridad y, a veces, las presentaciones se retiran de la pila antes de que lleguen al escritorio de Moore. Harkins-Brown está considerando utilizar un software que podría hacer algo similar.

“De vez en cuando, obtendremos algo en el que se señala a un autor con un problema de integridad, lo que significa que esa persona se involucra en patrones claros y documentables de citar trabajos inexistentes u otros problemas éticos”, dijo Moore. “Definitivamente hemos visto un aumento en este tipo de actividad, y Springer ha implementado (detección) debido a estos problemas con artículos generados por IA o citas falsas y cosas así”.

Cuando los editores encuentran una cita falsa, Harkins-Brown le pide al autor que le envíe una copia del artículo citado.

“Siempre quiero asumir que tal vez cometieron un error, o tal vez simplemente fue el año equivocado, o tal vez hay una razón plausible por la que no pude encontrarlo”, dijo. Pero la mayoría de las veces, los autores simplemente le dicen que no pueden. “No hay muchas conversaciones de ida y vuelta”, dijo.

Desafortunadamente, dijo, esto lleva eventualmente al rechazo del buen trabajo.

“En el mundo académico, la gente está muy centrada en… publicar o morir”, dijo Harkins-Brown. “Es un gran desperdicio utilizar la IA para intentar ahorrar unas cuantas horas, cuando en realidad podría convertirse en la razón por la que se sacrifica ese trabajo”.