ArXiv Bloquear documentos de encuesta generados por IA después de una 'inundación' de envíos de baja calidad

En breve

• ArXiv cambió su política después de que las herramientas de IA facilitaran la generación masiva de artículos de encuesta.
• Solo se aceptarán artículos de revisión o documentos de posición revisados por pares en la categoría de Ciencias de la Computación.
• Los investigadores están divididos, algunos advierten que la regla perjudica a los autores en las primeras etapas de su carrera, mientras que otros la consideran necesaria para detener el spam de IA.

Centro de Arte, Moda y Entretenimiento de Decrypt.

Descubre SCENE

<br>

ArXiv, un repositorio gratuito fundado en la Universidad de Cornell que se ha convertido en el punto de referencia para miles de científicos y tecnólogos en todo el mundo para publicar trabajos de investigación temprana, ya no aceptará artículos de revisión ni documentos de posición en su categoría de Ciencias de la Computación a menos que ya hayan pasado por revisión por pares en una revista o conferencia.

El cambio de política, anunciado el 31 de octubre, se produce tras una “inundación” de trabajos de encuesta generados por IA que los moderadores describen como “poco más que bibliografías anotadas.” El repositorio ahora recibe cientos de estas presentaciones mensualmente, un aumento de un pequeño goteo de reseñas de alta calidad escritas históricamente por investigadores senior.

“En los últimos años, arXiv ha estado inundado de artículos,” explicó una declaración oficial en el sitio. “La IA generativa/modelos de lenguaje grandes han contribuido a esta inundación al hacer que los artículos—especialmente los artículos que no introducen nuevos resultados de investigación—sean rápidos y fáciles de escribir.”

La sección de Ciencias de la Computación de @arxiv ahora requiere revisión por pares previa para Encuestas de Literatura y Documentos de Posición. Detalles en una nueva publicación de blog

— Thomas G. Dietterich (@tdietterich) 31 de octubre de 2025

<br>

“Esta decisión fue impulsada por un gran aumento en los artículos de encuestas asistidos por LLM,” agregó Thomas G. Dietterich, un moderador de arXiv y ex presidente de la Asociación para el Avance de la Inteligencia Artificial, en X. “No tenemos los recursos de moderadores para examinar estas presentaciones e identificar las buenas encuestas de las malas.”

La investigación publicada en Nature Human Behaviour encontró que casi una cuarta parte de todos los resúmenes de ciencias de la computación mostraron evidencia de modificación por modelos de lenguaje grande para septiembre de 2024. Un estudio separado en Science Advances mostró que el uso de IA en artículos de investigación publicados en 2024 se disparó desde el lanzamiento de ChatGPT. Fuente: ArXiv

Los moderadores voluntarios de ArXiv siempre han filtrado las presentaciones por su valor académico y relevancia temática, pero no realizan revisión por pares. Los artículos de revisión y los documentos de posición nunca fueron tipos de contenido oficialmente aceptados, aunque los moderadores hicieron excepciones para trabajos de investigadores establecidos o sociedades científicas. Ese sistema discrecional se rompió bajo el peso de las presentaciones generadas por IA.

La plataforma ahora maneja un volumen de presentaciones que se ha multiplicado varias veces en los últimos años, con la inteligencia artificial generativa que hace trivialmente fácil producir artículos de encuesta superficiales.

La respuesta de la comunidad de investigación ha sido mixta. Stephen Casper, un investigador en seguridad de IA, expresó preocupaciones de que la política podría afectar desproporcionadamente a los investigadores en las primeras etapas de su carrera y a aquellos que trabajan en temas de ética y gobernanza.

“Los documentos de revisión/posición son desproporcionadamente escritos por jóvenes, personas sin acceso a mucha capacidad de computación y personas que no están en instituciones que tienen mucha experiencia en publicaciones,” escribió en una crítica.

Otros simplemente criticaron la postura de ArXiv como incorrecta ( e incluso tonta ), con otros incluso apoyando el uso de IA para detectar trabajos generados por IA.

Thomas, hay una fuerte resistencia contra que arxiv se convierta en guardianes, inclinándose hacia la revisión por pares e ignorando el problema hasta que empeore. ¿Has considerado alguna de las propuestas constructivas hechas por la comunidad de IA/ML?

1. Tener una sección no moderada de ArXiv ( de…

— Justin Angel (@JustinAngel) 2 de noviembre de 2025

<br>

Un problema es que las herramientas de detección de IA han demostrado ser poco fiables, con altas tasas de falsos positivos que pueden etiquetar injustamente trabajos legítimos. Por otro lado, un estudio reciente encontró que los investigadores no lograron identificar un tercio de los resúmenes médicos generados por ChatGPT como escritos por máquinas. La Asociación Americana para la Investigación del Cáncer informó que menos del 25% de los autores revelaron el uso de IA a pesar de las políticas de divulgación obligatorias.

El nuevo requisito significa que los autores deben presentar documentación de revisión por pares exitosa, incluyendo referencias de revistas y DOIs. Las revisiones de talleres no cumplirán con el estándar. ArXiv enfatizó que el cambio solo afecta por ahora a la categoría de Ciencias de la Computación, aunque otras secciones pueden adoptar políticas similares si enfrentan aumentos comparables en las presentaciones generadas por IA.

El movimiento refleja un reconocimiento más amplio en la publicación académica. Conferencias importantes como CVPR 2025 han implementado políticas para rechazar automáticamente trabajos de revisores señalados por conductas irresponsables. Los editores están lidiando con trabajos que contienen señales obvias de IA, como uno que comenzó con: “Ciertamente, aquí hay una posible introducción para su tema.”