Por Laura Rodríguez / Periodista y comunicadora científica

Ya nadie duda de que la inteligencia artificial generativa se ha colado en la rutina científica. En los últimos dos años, su uso se ha doblado, hasta triplicado en algunos casos, en la escritura de manuscritos, las revisiones de artículos o como ayudante en la investigación. 

Una investigación reciente en Nature revelaba que los artículos escritos con IA podían tener mayor impacto, aumentar el número de citas y mejorar la productividad. Pero pagaban un precio. A cambio, los estudios eran menos creativos y el foco de la investigación colectiva se empequeñecía.

Una palanca y un atajo

La doble cara de la IA, como palanca para acelerar el conocimiento y, al mismo tiempo, un medio para saltarse controles o delegar pensamiento, fue la idea que atravesó la jornada “Retos de la inteligencia artificial en la evaluación, comunicación e integridad científica”, celebrada el 20 de enero de 2026 en el Ministerio de Ciencia, Innovación y Universidades, con el Comité Español de Ética de la Investigación (CEEI) como anfitrión y en colaboración con la AEI y ANECA.

Como señaló Iñigo de Miguel, profesor de investigación de Ikerbasque (UPV/EHU), la IA generativa puede estimular el avance de la ciencia o, sencillamente, hacernos más vagos. La diferencia no está en la herramienta, sino en cómo se usa y en los incentivos que la rodean.

El peligro de esa “pereza intelectual”, y de confiar en exceso en la máquina, es especialmente preocupante en quienes están empezando. La directora de la ANECA, Pilar Paneque, puso el foco en la vulnerabilidad de los investigadores en formación por su falta de experiencia. Lluis Montoliu, vicedirector del Centro Nacional de Biotecnología (CSIC) y vocal del CEEI, advirtió que aquellos que no son expertos tienen menos capacidad de detectar los errores que cometen estos sistemas (las famosas alucinaciones) así como un criterio menos consolidado para cuestionar sus conclusiones. 

“La IA es experta en explorar todos los recovecos de lo conocido pero no tanto en aportar novedad”, Lluis Montoliu.

El resultado es que podemos empezar a perder ideas originales y disruptivas. “La IA es experta en explorar todos los recovecos de lo conocido”, dijo Montoliu, “pero no tanto en aportar novedad”. De ahí la importancia de establecer para qué y cómo se debe usar.

La opacidad de las “cajas negras”

El problema del uso de la IA generativa no es solo la falta de reglas sino también técnico y político. La ciencia, que por definición exige transparencia y reproducibilidad, choca con la opacidad de las llamadas “cajas negras”. Si no podemos conocer el camino que han realizado estas máquinas es complicado rastrear cómo se llega a ciertos resultados. Si no podemos saber con qué datos se han entrenado, no podemos identificar sus posibles sesgos. 

Un asunto preocupante si tenemos en cuenta que estas herramientas, por su elevado coste para crearlas, están en manos de unas pocas compañías. Varios ponentes insistieron en el mismo punto práctico. Cuando un científico introduce datos en estos modelos, no siempre sabe con certeza dónde van ni qué usos pueden tener después. Para la confianza, esa incertidumbre es crucial.

Fraude y desinformación

La IA generativa, además, puede propagar la desconfianza en el sistema a través de la aceleración del fraude. Jordi Camí, presidente del CEEI, recordó que, desde que lo digital abarató la publicación, las revistas depredadoras y las fábricas de artículos falsos se han multiplicado. Con la IA, capaz de producir textos convincentes en cuestión de segundos, todo indica que este negocio está creciendo.

Se trata de un daño que va más allá de lo académico. Los resultados falsos pueden llegar a informes y noticias en los medios de comunicación, contaminando el debate público con desinformación. Algo que ya hemos visto tanto en actores malintencionados (como en las declaraciones antivacunas de Robert Kennedy), como en fallos sistémicos que se han producido en instituciones de referencia (el caso del informe sobre la obesidad en Asia del Banco Mundial). 

Para la comunicación científica, eso tiene una implicación inmediata. Si la IA acelera la producción de textos con apariencia de rigor, la verificación se vuelve más imperiosa. Y denunciar el fraude será cada vez más necesario. Pero habrá que hacerlo con cuidado, sin alimentar la idea de que todo el sistema es sospechoso, como advirtieron varios ponentes. 

La IA se ha sumado a todos los quehaceres científicos, desde cómo se evalúa hasta cómo se publica, pero todavía faltan mecanismos sólidos que garanticen un uso fiable. En un entorno donde crece el contenido generado automáticamente, reforzar esos controles es esencial. De lo contrario, la confianza social en la investigación puede deteriorarse.

La jornada terminó con muchas preguntas y algunas respuestas. La IA ya forma parte del trabajo científico cotidiano y lo seguirá haciendo. La cuestión es cómo conseguir que se use bien. Quedó una impresión común. Al final, tiene que haber un humano detrás. O, mejor dicho, un humano experto que evalúe con criterio. No solo para guiar el proceso, sino que asuma la responsabilidad. Y, quizá lo más importante, para asegurar que las ideas verdaderamente nuevas y originales sigan apareciendo.