29 de mayo de 2024
IA en la escritura científica: avances e implicaciones éticas
El avance tecnológico y las herramientas provenientes de la inteligencia artificial (IA) han transformado fundamentalmente el panorama de la investigación científica. Utilizados desde la concepción del proyecto hasta el análisis de datos, nuevos softwares emergen casi a diario como aliados del quehacer científico, redibujando las fronteras de la metodología de investigación. Sin embargo, también es importante resaltar los desafíos y ruidos que el uso de estas herramientas puede causar en el proceso de construcción de las investigaciones.

La dependencia que el uso sin cautela de estas herramientas puede causar en los investigadores sirve como advertencia de que la tecnología debe usarse con precaución (Rolim et al. 2023). Los mecanismos de ayuda a la investigación deben tratarse como herramientas, en el sentido que consta en los diccionarios: “cualquier instrumento necesario para la práctica profesional” (Houaiss, 2024). Esto quiere decir que el investigador debe utilizar la IA y las tantas oportunidades que de ella se derivan como apoyo – un instrumento para auxiliar en el desarrollo de la investigación que pueda servir de guía.
Para fundamentar esta discusión, cabe analizar el libro de Michel Foucault “Vigiar e Punir”, de 1998. En una de sus obras más emblemáticas, el autor revela las intrincadas redes del poder y del control social que permean las estructuras institucionales y muestra cómo la sociedad se va moldeando a partir de los avances conquistados. En este contexto de evolución social, el ascenso de la inteligencia artificial en la investigación científica arroja luz sobre nuevas formas de vigilancia epistémica, donde algoritmos y softwares no solo facilitan el análisis de datos, sino que también influyen sutilmente los caminos del saber.
En un informe publicado en el último trimestre de 2023 por la Academia Brasileña de Ciencias (ABC), un comité de varios científicos afirmó que el retraso del escenario científico brasileño en relación con la IA, tanto en términos de incorporación como de inversiones, es preocupante y alimenta la “fuga de cerebros” hacia otros países, lo que no contribuye al desarrollo de la innovación y de la ciencia en Brasil. Este panorama puede perpetuar la falta de competitividad del país en el futuro.
Curiosidad y ética

La tira cómica de Mafalda, reproducida en 2013 en una de las pruebas del Examen Nacional de Enseñanza Media (ENEM), sobre el proceso de modernización y las perspectivas de vida de las mujeres en el contexto profesional, ilustra la transición de valores e intereses que refleja la propia evolución de la ciencia y la tecnología en la sociedad.
Así como el personaje ve en la cibernética un campo lleno de promesas, la inteligencia artificial representa un horizonte a ser explorado para laescritura científica. Al abrazar estas herramientas con curiosidad y ética, es posible continuar expandiendo las fronteras del conocimiento humano y mejorar la comunicación científica, contribuyendo así al avance en las diversas esferas sociales.
Junto al miedo que las nuevas tecnologías imponen a algunos profesionales y, principalmente, a la autonomía y la veracidad de la investigación en la ciencia, es esencial abordar la utilidad práctica de estas herramientas y su intersección con el conocimiento científico, además de los paradigmas que moldean nuestra comprensión del mundo (Rolim et al. 2023).
Recientemente, un reportaje publicado en The Guardian mostró que, en 2023, más de diez mil artículos en periódicos de todo el mundo fueron objeto de retracciones (término en inglés para el acto de “despublicar” un trabajo) por uso indebido y/o inadecuado de IA, ligado a motivos que van de la autoría de las informaciones hasta el tratamiento de los datos presentados.
Otro hecho reciente que llamó la atención y causó preocupación en la comunidad científica mundial fue mencionado por el Jornal da USP, que, en febrero de 2024, informó que una revista de impacto internacional había publicado un artículo que contenía información incorrecta e imágenes con errores de proporción. La revista tuvo que retractarse tres días después.
El caso llamó la atención por los errores burdos y primarios que poseían las imágenes, abriendo una discusión sobre las vertientes éticas y editoriales del caso, ya que, para ser aprobado, el artículo pasó por una serie de etapas evaluativas. Después de todo, ¿cuál es la responsabilidad que los editores tienen sobre las publicaciones? Vigilar y parametrizar la forma en que se usa la IA o castigar, retratando los artículos publicados?
Casos recientes como los reportados por The Guardian y Jornal da USP resaltan la urgencia de la discusión sobre el establecimiento de criterios rigurosos para la utilización de IA en la producción científica. La responsabilización tanto de los editores como de los autores es crucial, no solo en la validación y verificación de los contenidos generados por IA, sino también en el mantenimiento de la integridad y la calidad de las publicaciones.
La elección de estas herramientas no debe ser meramente técnica; debe basarse en teorías que puedan contribuir a la producción de conocimiento de manera ética y respetando las directrices de cada publicación (Rolim et al. 2023). Los cambios de paradigmas epistemológicos a partir de los cuestionamientos que el ser humano va construyendo son positivos e incluso ayudan en la composición de las revoluciones científicas, guiando la forma en que se conciben los estudios (Kuhn, 1998). Pero la transformación puede y debe ser paulatina, para no causar daños al equilibrio de todo un sistema. La figura a continuación muestra consejos sobre la utilización ponderada de la inteligencia artificial, como herramienta de apoyo en la investigación.

El cuadro anterior es un ejemplo de uso de la inteligencia artificial como herramienta. La figura se realizó con la ayuda de un software para el desarrollo del diseño y para la elaboración de los puntos mencionados, y su contenido fue adaptado por el autor a partir de conocimientos previos. La intención aquí al presentar la IA como una ayuda para el desarrollo de un estudio fue intentar dilucidar las funcionalidades prácticas de estas herramientas y problematizar las ramificaciones más amplias de su uso para la producción y la difusión del saber científico.
Así como Foucault delineó los mecanismos de poder que moldean las instituciones sociales, los investigadores contemporáneos enfrentan el desafío de comprender cómo los softwares de investigación y las herramientas de IA se adaptan no solo a la práctica científica, sino también a las propias estructuras del conocimiento y de la convivencia, como se menciona en la tira de Mafalda. Después de todo, el conocimiento y el uso de IA deben ser colaborativos, siguiendo patrones éticos y normativos de la ciencia y apuntando a una producción científica de calidad.
| Para tener acceso a las referencias de este texto haz clic aquí |
Este contenido fue producido por:

Luiz Eduardo Giovanelli
Editor asistente de la Revista Estrategias y Soluciones. Maestrando en Administración por la Universidad de São Paulo. Especialista en Gestión Pública por la Universidad Estatal de Ponta Grossa y graduado en Administración por la Universidad Estatal del Norte de Paraná.
Quién publicó esta columna
Editora Pecege








