Ismael Ariel Robles Martínez, Integrante de la RIIE-UAM.Departamento de Matemáticas Aplicadas y Sistemas. UAM Cuajimalpa.
La irrupción de la Inteligencia Artificial (IA) en el ámbito educativo abre un panorama lleno de oportunidades y desafíos inéditos. Según la Guía para el uso de IA generativa en educación e investigación, publicada por la UNESCO en 2023, una de las principales ventajas de esta tecnología es su capacidad para integrarse en plataformas educativas, proporcionando retroalimentación inmediata y recursos personalizados.
No obstante, las perspectivas optimistas sobre el uso de la IA generativa a menudo pasan por alto importantes problemas. Uno de los más inmediatos es la cuestión de las «alucinaciones», es decir, la generación de información falsa o inexacta que se presenta como verdadera. De acuerdo con el artículo A Survey on Hallucination in Large Language Models (Huang et al., 2023), las IA generativas producen con frecuencia contenido que, aunque parece plausible, carece de sustento factual. Por ejemplo, Walters y Wilder (2023) reportaron en Fabrication and errors in the bibliographic citations generated by ChatGPT que, de un total de 636 referencias bibliográficas generadas por ChatGPT-3.5 al revisar múltiples temas multidisciplinarios, el 55% resultaron ser alucinaciones (citas fabricadas).
Un desafío más es la cuestión del plagio académico y la dificultad para detectarlo. El estudio realizado por Weber et al. (2023), Testing of Detection Tools for AI-Generated Text, demuestra que basta con realizar pequeñas modificaciones en el texto producido por una IA generativa —un proceso conocido como "escritura de parches"— para que las herramientas antiplagio pierdan efectividad, reduciendo su precisión a casi la mitad. Este fenómeno plantea la necesidad de reconsiderar los métodos tradicionales de evaluación mediante tareas, ya que la facilidad para incurrir en plagio con el apoyo de herramientas de IA pone en riesgo el valor formativo de estas actividades, que buscan promover el desarrollo de competencias.
Otro problema es el sesgo cultural inherente a las IA generativas, que tienden a estar entrenadas principalmente con datos provenientes de contextos occidentales. Esta tendencia reproduce y amplifica sesgos culturales, invisibilizando o distorsionando las perspectivas, historias y saberes de comunidades no occidentales, tal como se señala en el trabajo Generative AI and Digital Neocolonialism in Global Education (Nyaaba et al., 2024).
Finalmente, también debe considerarse si el uso de la IA en la educación podría provocar deterioro cognitivo, como sugiere el estudio de Hamsa et al. (2024), Generative AI Can Harm Learning. En dicho estudio, se encontró que los estudiantes que se auxiliaron de alguna IA para realizar sus actividades escolares obtuvieron peores resultados en las pruebas académicas en comparación con aquellos que completaron sus tareas sin la ayuda de esta tecnología.
En conclusión, aunque la inteligencia artificial ofrece nuevas posibilidades para enriquecer la educación, también presenta serios desafíos que deben abordarse en el sector educativo en México. Solo a través de un enfoque reflexivo y cuidadoso podremos asegurar que la IA se utilice de manera que beneficie al estudiantado, respetando su diversidad y promoviendo una educación más equitativa y de calidad.
irobles@cua.uam.mx
