Por Gema Revuelta

¿Cómo está reconfigurando la Inteligencia Artificial (IA) la manera en que producimos, evaluamos, editamos, consumimos y difundimos el conocimiento científico?

Autores, revisores, editores, lectores, nos encontramos en medio de una reorganización profunda de las responsabilidades y dinámicas de trabajo de todos los actores del ecosistema de las publicaciones científicas… y de la propia industria editorial.

Hace unas semanas, la Fundación Lilly me invitó a moderar la mesa redonda «Cambios en la publicación científica», en el marco de la XX Jornada MEDES (Medicina en Español). Durante la sesión, tuve el privilegio de compartir diálogo con Carlos Lopezosa (profesor del Departamento de Biblioteconomía, Documentación y Comunicación Audiovisual de la Universitat de Barcelona), Vicente Martín Sánchez (editor jefe de SEMERGEN e investigador del Instituto de Biomedicina en la Universidad de León) y Federico Mayor (catedrático de Bioquímica y Biología Molecular de la Universidad Autónoma de Madrid).

Sinceramente, fue un encuentro de esos que invitan a reflexionar con perspectiva sobre la transformación que estamos viviendo, así que me he tomado unos días para poner en orden lo que se dijo y compartirlo con las personas que leéis este blog.

Disclosure: este artículo lo he escrito mientras escuchaba el vídeo de la mesa redonda (que podéis encontrar en https://www.youtube.com/watch?=sjBZxlqviag), ayudada por notas mías e información complementaria que llevo tiempo buscando… y cómo no, por una herramienta de IA (Gemini) que me ha ido recordando algunas ideas que se habían mencionado en la sesión.

• Autores: entre la eficiencia operativa y el rigor intelectual

Para la comunidad investigadora, la integración de la IA ha supuesto una auténtica aceleración en la gestión del flujo de trabajo. Las distintas herramientas disponibles permiten agilizar la búsqueda bibliográfica, traducir textos con alta precisión técnica, estructurar borradores preliminares, elaborar gráficos, crear ilustraciones, adaptar las referencias a los estilos exigidos por cada revista y un largo etcétera. Aún más, ya que la IA se ha integrado en la propia investigación, así que se utiliza mucho antes de comenzar a escribir el artículo. En la mesa se citaron algunos ejemplos: la detección de patrones complejos en grandes conjuntos de datos, el análisis estadístico, la transcripción de entrevistas en investigaciones cualitativas… El listado, dependiendo del área de conocimiento en la que nos encontremos, es prácticamente inabarcable.

Como consecuencia de esta facilidad para crear nuevos artículos, las revistas científicas se han visto desbordadas ante un verdadero alud de manuscritos que reciben a diario con la intención de pasar el proceso de revisión y ser publicados.

Luego hablamos de las revistas, pero centrémonos ahora en los autores. La agilidad para redactar artículos obviamente conlleva riesgos si la IA se adopta de forma acrítica. Durante la mesa se puso un énfasis especial en el fenómeno de las alucinaciones (la invención de citas, datos o análisis con una apariencia absolutamente convincente) y en la propagación inintencionada de sesgos preexistentes en los datos de entrenamiento. También se criticó la falta de ideas verdaderamente originales o innovadoras cuando se deja la fase creativa en manos exclusivas de la IA.

Recordamos además un principio ético e institucional básico: la IA carece de personalidad jurídica, conciencia o responsabilidad ética. Por tanto, la autoría de un trabajo y la responsabilidad sobre la veracidad de lo publicado recaen de forma ineludible en los investigadores humanos que firman el artículo.

• Revisores: el reto de la evaluación humana ante un alud de manuscritos

La facilidad con la que hoy se pueden generar borradores asistidos por IA ha provocado un incremento notable en el volumen de artículos enviados a las revistas, desbordando la capacidad de un colectivo de revisores que realiza esta tarea de manera altruista.

Frente a esta saturación, empiezan a implantarse herramientas automatizadas que ayudan a los evaluadores a verificar la consistencia de las referencias, el formato metodológico o la coherencia interna de los datos. No obstante, los ponentes de nuestra mesa coincidieron en un punto crítico: el juicio científico no es automatizable.

La capacidad de juzgar la verdadera novedad de una hipótesis, el interés de un hallazgo o la solidez metodológica de un experimento requiere el sentido crítico del ser humano. Delegar el arbitraje técnico a un algoritmo pondría en riesgo la esencia misma del peer review, dado que la propia palabra peers, iguales, excluye la máquina.

Por otra parte, subir un documento inédito sobre el cual no tenemos la autoría a una herramienta de IA puede suponer violar la confidencialidad que se presupone en la revisión, por lo que no debería hacerse a no ser que la propia revista proporcione circuitos cerrados y garantías de seguridad.

• Editores: velar por la integridad y fijar las reglas de juego

Los editores tienen, entre otras funciones, el actuar como filtros de calidad. Actualmente se apoyan en sistemas avanzados de IA para tareas operativas: desde la selección imparcial de los revisores más adecuados para cada temática hasta la implantación de software capaz de detectar plagios sofisticados o manipulaciones sutiles en imágenes.

Sin embargo, el gran desafío al que se enfrentan los editores no es de índole técnica, sino de gobernanza y ética. La clave reside en articular políticas de transparencia estricta que sean realistas y a la vez capaces de acompañar los procesos actuales. Es necesario exigir a los autores que declaren de manera explícita qué herramientas de IA han utilizado en la elaboración de su estudio y con qué propósito exacto.

La labor de las revistas científicas no debe centrarse en prohibir el uso de la tecnología, sino en establecer normativas claras que garanticen la trazabilidad y la honestidad en el proceso de publicación. También es necesario garantizar a los autores que la declaración del uso de IA no penalizará en su revisión, siempre que esta herramienta se haya utilizado de manera responsable.

• Lectores: la tentación de delegar la lectura

Para todas aquellas personas que consumen información científica, no solo personal de investigación, sino también profesionales sanitarios que deben estar al día de la evidencia científica, personal técnico que trabaja en empresas y precisan conocer la actualidad de su sector, tomadores de decisiones, profesionales de la comunicación científica o incluso la propia ciudadanía, la IA se ha convertido en una herramienta extraordinariamente útil para realizar búsquedas conceptuales e integrar literatura dispersa en cuestión de segundos.

Sin embargo, acostumbrarse a consumir únicamente los resúmenes o las interpretaciones sintetizadas por modelos generativos, sin una revisión crítica o sin que en el proceso haya intervenido una persona especializada en su comunicación (science writers, periodistas, comunicadores, etc.), puede inducir a asimilar conclusiones descontextualizadas o sesgadas.

• La industria editorial: de la diversificación del negocio a la pérdida del control

Para las grandes editoriales, la IA no es solo una herramienta técnica, sino un potente acelerador de su modelo de negocio. Por un lado, la tecnología está permitiendo reducir significativamente los costes operativos de producción: la búsqueda de revisores y la captación de autores, la maquetación, la corrección de estilo y la generación de métricas se resuelven hoy en una fracción del tiempo y con un coste mucho menor para la empresa editorial.

Además, la IA ha abierto nuevas vías de monetización a través de la comunicación transmedia y la reutilización de contenidos. Un mismo estudio científico ya no es solo un documento en PDF tras un muro de pago. Los algoritmos permiten empaquetarlo instantáneamente en múltiples productos de valor añadido: resúmenes ejecutivos para profesionales, infografías interactivas, boletines, formatos en audio, módulos educativos, etc. Esto permite a las editoriales diversificar sus suscripciones, empaquetar información “a la carta” y vender nuevos servicios tanto a instituciones como al sector empresarial (por ejemplo, en el ámbito farmacéutico y biotecnológico).

A esto se suma la explotación de los propios datos como activo comercial. Actualmente, los grandes grupos editoriales no solo publican ciencia, sino que alimentan sus propias bases de datos y modelos de IA con el conocimiento científico que recopilan. Estas plataformas cerradas de búsqueda y análisis asistido por IA se venden posteriormente a las universidades y centros de investigación mediante licencias de alto coste, creando un círculo comercial sumamente lucrativo.

Sin embargo, esta expansión del negocio convive con una amenaza directa a su propio activo más valioso: la credibilidad. La multiplicación de las llamadas “fábricas de artículos” (paper mills) y las predatory journals (que utilizan la IA para producir en masa manuscritos de bajo valor científico o directamente fraudulentos) amenaza con contaminar aún más el mercado editorial y con ello la confianza pública en la ciencia.

Si la industria editorial, que es la espina dorsal de la producción científica, “no se porta bien”, la sociedad desconfía de su papel y se vuelve más vulnerable ante la desinformación circulante o ante anuncios científicos que llegan directamente sin haber sido revisados ni publicados (véase, por ejemplo, el caso de SpudCell, el hito de célula sintética liderado por Kate Adamala). ¿Están las revistas científicas perdiendo el control de la producción del conocimiento?

• Una reflexión sobre el futuro: la formación de las nuevas generaciones

Para finalizar la sesión, compartimos una inquietud que considero central para el futuro. Las nuevas promociones de jóvenes investigadores, residentes y estudiantes se están incorporando a la ciencia con una destreza técnica notable en el manejo de estas herramientas. Son nativos de la era de la IA. Sin embargo, abordamos una paradoja fundamental: para poder supervisar a una máquina y detectar sus errores, se requiere un criterio científico y metodológico previo altamente consolidado. Si en etapas tempranas de su aprendizaje, los jóvenes investigadores empiezan a delegar la lectura, el análisis crítico, la síntesis teórica y la redacción de manuscritos, corremos el riesgo de frenar el desarrollo de su propia capacidad de pensamiento abstracto y de su intuición investigadora.

La solución ante este reto no pasa en absoluto por prohibir la tecnología ni por dar la espalda a la innovación. Pasa por reforzar la mentoría y la supervisión humana tradicional. Las universidades y los centros de investigación deben volcarse en garantizar una formación sólida en el método científico, en la ética y en el rigor analítico. Solo así conseguiremos que las futuras generaciones utilicen la Inteligencia Artificial como un auténtico amplificador de su talento y creatividad, y no como una prótesis desajustada que sustituya a su propio criterio.