Una guía para estudiantes alerta de las "alucinaciones" de la inteligencia artificial

La UNED es una de las universidades españolas pioneras en la elaboración de este tipo de manuales y el pasado mes de noviembre ya editó una guía de IA para la enseñanza y el aprendizaje. En esta ocasión, las publicaciones ofrecen recomendaciones específicas a estudiantes y docentes y ejemplos de instrucciones («prompts») para sacar el máximo partido a las herramientas de IAG de texto, como ChatGPT, Bard o Claude, ha indicado a Efe el vicerrector adjunto de Tecnologías Educativas de la UNED, Sergio Martín.

El estudiantado de la UNED puede usar la IA generativa durante sus estudios, pero en las pruebas de evaluación y de los trabajos fin de título no está permitido, salvo que el equipo docente indique lo contrario. «Además, herramientas como ChatGPT tienden a inventarse hechos. Por ejemplo, si le pides que te haga un estado del arte sobre un tema en concreto es muy probable que se invente muchas de las referencias, aunque aparentemente parezcan reales», recalca la guía. Por ello, «solo debes usarlas para ayudarte con tareas sobre las que tú tengas el suficiente conocimiento para discernir si la respuesta es correcta o no».

Aunque la inteligencia artificial puede resultar útil para preparar un borrador inicial sobre un tema, la universidad subraya que puede dar nombres, eventos o referencias ficticias, lo que se conoce como «alucinaciones». Además puede producir información inexacta, sesgada o desactualizada y, en ningún caso, constituye una fuente original de información, sino que reproducen información de otras fuentes que no identifican.

Por otro lado, la guía destinada al profesorado explica que la IAG puede complementar y facilitar la labor del docente, por ejemplo a la hora de diseñar nuevos materiales didácticos, automatizar ciertas tareas e implementar nuevas estrategias pedagógicas. Hoy por hoy, no existe ninguna herramienta que funcione para detectar el empleo de inteligencia artificial generativa. «Existen pero dan falsos positivos y falsos negativos, es una moneda al aire, no son sistemas fiables», según el vicerrector adjunto.

Casi 150 profesores e investigadores de varias universidades españolas han impulsado y firmado un manifiesto en favor del uso de las Tecnologías de la Información y la Comunicación (TIC) y del desarrollo de la competencia digital con finalidad educativa en las aulas, «si se integran de manera adecuada». En el Manifiesto a favor del uso de las TIC y el desarrollo de la competencia digital en las aulas, los firmantes reaccionan a la prohibición total de las pantallas en las aulas y afirman que «sugerir que las escuelas prescindan de la tecnología digital constituye una posición extrema que no responde a motivos fundamentados y que puede suponer un retroceso muy grave para la educación».

Entre los beneficios del uso de las TIC en el aula se señala que «ofrecen múltiples oportunidades para un aprendizaje activo, mediante el desarrollo de propuestas didácticas que se apoyan en recursos interactivos». Además, señalan que los contenidos digitales «pueden incluir recursos multimedia que pueden enriquecer la experiencia de aprendizaje más allá de los recursos estáticos del soporte en papel». Asimismo, indican que los gestores de contenidos y actividades también «pueden contribuir a una mayor personalización de la enseñanza y facilitar la atención a la diversidad», y que los estudiantes con determinadas discapacidades o dificultades de aprendizaje «pueden beneficiarse de herramientas y recursos que facilitan su accesibilidad a los contenidos y las actividades digitales».

También señalan que las aplicaciones educativas «pueden proporcionar retorno a los estudiantes sobre su desempeño y facilitar procesos de gran valor para el aprendizaje como la autoevaluación», además de «ofrecer a los docentes información exhaustiva sobre el desempeño de los alumnos». «Existe un consenso científico general sobre las ventajas que puede ofrecer la tecnología digital a la educación», añade el manifiesto, que puntualiza que las TIC «solo generarán oportunidades cuando se integren de manera adecuada en los contextos educativos» ya que «no toda innovación tecnológica supone una innovación educativa de valor».

El texto también pone el acento en que las escuelas «tienen el deber de educar en el uso responsable y productivo de la tecnología» ya que «para muchos estudiantes, la escuela representa el único entorno que promoverá el uso educativo y crítico de los medios digitales». Por ello, señala que «eliminar las tecnologías digitales en el proceso educativo implicaría contribuir a la brecha digital y a generar desigualdad social».

Los firmantes también señalan que el uso que se hace de la tecnología digital en la escuela «no tiene ninguna relación con los presuntos efectos negativos en la salud de los estudiantes» en aspectos como la miopía, las alteraciones del sueño, dificultad en la atención y la memoria y que no deriva en problemas lingüísticos ni afecta al nivel de inteligencia de los estudiantes. Entre ellos se encuentran investigadores de la Universidad del País Vasco, Universidad del Atlántico Medio, Universitat Oberta de Catalunya, Universidad Rey Juan Carlos, Universidad de Burgos, Universidad de Valladolid, Universitat de València, Universidad de Sevilla, Mondragon Unibertsitatea, Universidad de Salamanca, Universidad de Jaén, Universidad de Murcia, Universitat Autònoma de Barcelona, Universidad San Jorge de Zaragoza, Universitat Politècnica de Catalunya y Universitat de les Illes Balears.

Otros de los firmantes pertenecen a la Universidad de Barcelona, Universidad de Granada, Universidad de Zaragoza, Universidad de La Laguna, Universidad de Santiago de Compostela, Universidad de Málaga, Universidad de Nebrija, Universidad Autónoma de Madrid, Universidad Pompeu Fabra, Universitat de Lleida, Universitat Rovira i Virgili, entre otras.

Nacida de un grupo de profesores universitarios especialistas en investigación sobre tecnología y educación, también han secundado la iniciativa más de 200 profesores de Primaria y Secundaria. Asimismo, apoyan el manifiesto la Red Universitaria de Tecnología Educativa (RUTE) y la Asociación para el Desarrollo de la Tecnología Educativa y de las Nuevas Tecnologías Aplicadas a la Educación (Edutec), que tiene presencia en Europa y América Latina y que aprobó su adhesión al manifiesto durante el XXVI Congreso Internacional Edutec celebrado en Panamá en noviembre de 2023.