Recientemente he tenido el honor de coordinar un número monográfico de la Revista Electrónica de Investigación y Evaluación Educativa (RELIEVE, 29(2)), en el que, bajo el título “Integridad Académica en la Era de la Inteligencia Artificial Generativa” autoras y autores han tratado desde diversos enfoques este tema. En este breve artículo intentaré exponer algunas de las ideas recogidas por ellos y reflexionar sobre las implicaciones de malas conductas académicas como el plagio. En un mundo dominado por la tecnología, la relación y discusiones generadas entre inteligencia artificial e integridad académica son cada vez más usuales. A primera vista, podríamos entenderlos como dos conceptos en conflicto, pero intentaremos brevemente revelar que la dinámica entre ambos es complementaria, pues son dos términos que no sólo coexisten, sino que pueden reforzarse mutuamente y enriquecer el entorno educativo.
La incorporación de la inteligencia artificial generativa (IAG) en el sector de la educación superior está marcando un cambio significativo que ha propiciado un clima continuo de discusión y de opiniones divergentes sobre el rol de herramientas avanzadas como ChatGPT, Bing, Google Bard, Humata, Metsa, ANTHRYHOPC, LAION, PDF.ai, etc… Aunque es reconocido que ofrecen beneficios significativos, también presentan retos considerables en cuanto a la información que proporcionan, sobre el uso de las fuentes en las que se basan o cuestiones relativas a la propiedad intelectual y seguridad de los datos, se ponen en entredicho cuestiones como la ética y la integridad en el ámbito académico y profesional. Así, mientras la integridad académica aboga por mantener valores referidos a la honestidad, confianza, justicia, respeto y valentía (como nos indica el Centro Internacional de Integridad Académica) centrándose en principios como la autoría original, el reconocimiento de fuentes o la prevención del plagio; la inteligencia artificial ofrece información con una velocidad de la que no teníamos conocimiento hoy en día y, con sus herramientas, modelos de transformación en la manera en que aprendemos, enseñamos e investigamos.
Ambos términos lejos de ser contrapuestos pueden ayudarnos a establecer una fabulosa alianza. La IA puede servir de facilitador para fomentar la integridad académica, proporcionando herramientas avanzadas para detectar plagio, verificar fuentes y analizar la originalidad del trabajo académico. Existen diferentes tipos de fraude académico, como los referidos a la apropiación de ideas de terceros, las alteraciones del trabajo de otras personas sin la debida autorización, el uso de información falsa o, incluso, la fabricación de datos, el autoplagio, la manipulación de resultados, la compra-venta de trabajos académicos realizados con o sin IA,… Pero uno de los principales retos que nos encontramos con la utilización de la IA es el relativo a la seguridad, accesibilidad y a otras formas de plagio y fraude académico.
La responsabilidad de mantener la integridad académica debe ser compartida, pues implementar efectivamente una cultura de integridad académica en la era de la IA requiere un esfuerzo colectivo
Las herramientas basadas en IA pueden crear textos originales de una forma prácticamente indetectable, lo que plantea desafíos significativos para la detección del plagio, en lo que se denomina «plagio inteligente» y que está ganando una amplia popularidad. Este fenómeno se refiere al uso de herramientas de IA para crear contenido que, aunque no son copias textuales precisas, se basan en la adaptación de material existente sin el debido reconocimiento. Este tipo de plagio es particularmente capcioso porque puede pasar desapercibido por los métodos tradicionales de detección de plagio, al reformular las ideas y conceptos de manera sutil. Más aún cuando el uso de modelos de lenguaje avanzados pueden eludir las herramientas de similitud del texto y desafiar las definiciones actuales de plagio.
La responsabilidad de mantener la integridad académica debe ser compartida, pues implementar efectivamente una cultura de integridad académica en la era de la IA requiere un esfuerzo colectivo. Las instituciones educativas deben establecer políticas claras y transparentes que definan el uso aceptable de la IA y las herramientas digitales en la investigación y el aprendizaje. El profesorado debe asumir la responsabilidad de guiar a los estudiantes no solo en el uso técnico de estas herramientas, sino también en su aplicación ética por lo que deben estar al tanto de las nuevas formas de deshonestidad académica, adaptar sus métodos de enseñanza y favorecer nuevas formas de aprendizaje.
La revisión bibliográfica y los planteamientos actuales de investigadores e investigadoras por todo el mundo nos llevan a la idea de integrar y orientar las prácticas pedagógicas de manera colectiva y dirigidas a estudiantes y profesorado sobre lo que constituye un uso ético de la IA y las herramientas digitales. La educación juega un papel crucial en la formación de una cultura de integridad académica sólida. Ambos sectores deben ser conscientes no solo de las capacidades de la IA, sino también de sus limitaciones y de cómo su uso puede afectar a la ética y a las políticas de integridad de las instituciones de educación superior. Esto implica ir más allá de la instrucción técnica y abordar cuestiones éticas como el reconocimiento adecuado, la autoría y el plagio. Para preservar la integridad académica en esta nueva era, es crucial una cultura de honestidad y respeto por la autoría original e incluir en la formación módulos dedicados a enseñar cómo citar correctamente el uso de herramientas de IA en la investigación y los trabajos académicos. Además, es puede ser importante discutir casos de estudio y escenarios hipotéticos donde la IA se utiliza de manera que pueda oscurecer la autoría original o llevar a la apropiación indebida de ideas.
Los sistemas de detección de plagio existentes, que tradicionalmente se han enfocado en la identificación de copias textuales exactas, han quedado obsoletos
Mientras que la educación y la formación son fundamentales, también lo es la implementación de herramientas tecnológicas que puedan ayudar a mantener la integridad. Es por ello que se requiere cada vez más del desarrollo de sistemas de detección de plagio avanzados que puedan identificar no solo la copia textual, sino también el uso indebido de ideas y conceptos reestructurados a través de IA. Esto es, que permitan detectar cuando un texto ha sido generado o modificado significativamente por IA, además de ser capaces de analizar no solo el texto, sino también el contexto y la originalidad de las ideas y conceptos presentados. Los sistemas de detección de plagio existentes, que tradicionalmente se han enfocado en la identificación de copias textuales exactas, han quedado obsoletos y deben evolucionar para enfrentarse a los desafíos presentados por el plagio inteligente lo que implica el uso de algoritmos sofisticados que puedan evaluar la originalidad de un trabajo más allá de la mera coincidencia textual.
Frente a esta visión relativa al plagio, nos encontramos que la IA se está integrando en las aulas universitarias a través de diversas prácticas pedagógicas que requieren cada vez más de un uso correcto, en aras de fomentar enfoques educativos innovadores dirigidos a evitar conductas deshonestas y favorecer la integridad académica. Al mismo tiempo están cambiando los modelos de educación proporcionando herramientas de aprendizaje personalizadas y ampliando el acceso a una variedad de recursos tales como sistemas de aprendizaje que se adaptan al ritmo de los estudiantes; asistentes educativos que ayudan a encontrar respuestas en tiempo real a sus preguntas, tutoría personalizada que puede ayudar a predecir posibles dificultades e identificar áreas en las que se puede realizar una intervención temprana, evaluación automatizada, juegos educativos basado en IA, plataformas de aprendizaje de idiomas, soporte para necesidades educativas especiales, y un largo etcétera.
Sin embargo, aunque estas herramientas pueden mejorar la experiencia educativa, también pueden llevar a los estudiantes a depender demasiado de la tecnología, lo que podría obstaculizar el desarrollo de habilidades críticas y creativas. Por ello, es fundamental mantener un equilibrio entre incorporar la IA en la educación y promover la creatividad y el pensamiento independiente. En esta línea, es fundamental desarrollar recursos que guíen al profesorado en el uso ético de la IA en los procesos de aprendizaje y evaluación. Es necesario, como dirían Moya y Eaton, en un reciente estudio publicado en la revista mencionada, conectar los resultados de aprendizaje con el uso ético de la IA.
Es necesario abordar la integridad desde un enfoque sistémico, desde una perspectiva ética y académica reconociendo que las herramientas de ISA están generando nuevos retos en la comprensión actual del plagio y de la integridad académica. Esta nueva forma de percibir la realidad académica requiere de una transformación de las culturas sociales y organizativas. Las instituciones deben establecer políticas responsables encaminadas a gestionar el uso de la IA, así como su compromiso con la conducta ética. Hemos de destacar la necesidad de evaluar cuidadosamente las implicaciones éticas del uso de la inteligencia artificial generativa en la educación superior, prestando especial atención a aspectos como la seguridad, la accesibilidad, la privacidad y la transparencia. Además, de promover un compromiso ético sólido en la comunidad universitaria para mantener los valores esenciales de la educación superior y prevenir la emergencia de nuevas formas de plagio y fraude académico.
En suma, la integridad académica puede fortalecerse con la ayuda de la inteligencia artificial y, a su vez, la integridad académica puede guiar el desarrollo y el uso ético de la inteligencia artificial en el ámbito educativo. Este método integrador promete mantener los principios fundamentales de la educación y adaptarlos a los desafíos y oportunidades de la era digital.
Presidente de AIDIPE. Universidade da Coruña. RETINDE. Red Transdisciplinaria de Investigación en Educación
