La inteligencia artificial (AI, por sus siglas en inglés) es la combinación de algoritmos con el propósito de crear máquinas que imiten las capacidades cognitivas del ser humano. La AI está detrás de las recomendaciones de búsqueda en Google o de películas en Netflix. En educación superior, múltiples herramientas son empleadas por los estudiantes para completar su trabajo. En noviembre de 2022, Open AI lanzó ChatGPT, una versión de su modelo grande de lenguaje (LLM) que puede generar texto de buena calidad sobre casi cualquier tema. En julio 2024 lanzaron ChatGPT 4, su versión pagada y más avanzada. Desde entonces, universidades en todo el mundo han intentado establecer normas y guías para su uso y combatir el plagio que pueda surgir por parte de los estudiantes.
Los modelos grandes de lenguaje (LLM) producen lenguaje (texto) en respuesta a lenguaje (texto). El usuario escribe una pregunta o instrucción y la herramienta provee una respuesta coherente. Aunque ChatGPT es el más popular, no es el único.
Los modelos LLM se entrenan a aprender regularidades (patrones) en el texto intentando completar la próxima palabra (token). Mediante la prueba y error aprenden a generar las terminaciones más probables basadas en los tokens anteriores. Un ejemplo hipotético pero ilustrativo de cómo hace esto es el siguiente:
GPT-3 fue entrenado con 500 mil millones (billones) de tokens de texto, provenientes de bases de datos como Common Crawl, WebText2, Books 1, Books 2, y Wikipedia (Brown et al, 2020).
Al igual que la AI, los humanos somos excelentes en el aprendizaje de patrones lingüísticos. En nuestro caso, la “instrucción” lingüística es el lenguaje que vemos u oímos desde la infancia temprana. A los 8 meses de edad, los bebés ya reconocen regularidades en el habla que les ayudan a escuchar palabras (Saffran et al, 1996).
A diferencia de la AI, los humanos aprendemos con mucho menos input lingüístico que los LLM. Un humano de 10 años de edad tiene un excelente manejo de su idioma, y en ese punto de su vida ha escuchado en promedio solamente 100 millones de palabras (Warstadt & Bowman, 2022). ChatGPT 4 fue entrenado con más de 1 trillón de tokens.
Entender estos patrones lingüísticos nos facilita el pensamiento rápido. Podemos entender y producir lenguaje rápidamente. A diferencia de la AI, los humanos además contamos con el pensamiento lento. Además de aprender asociaciones estadísticas en el lenguaje, aprendemos reglas (matemáticas, de lógica, de parentesco, etc.) y construimos representaciones mentales. Este tipo de pensamiento lento es crítico para muchos problemas. Stanovich y West (2000) definen esto como los dos sistemas de pensamiento. El sistema 1 es rápido, intuitivo, basado en asociaciones aprendidas, probabilístico y propenso a errores. El sistema 2 es lento, lógico, demandante, y determinante: puede usar y aplicar reglas. Los modelos de ChatGPT emplean exclusivamente el sistema 1.
- Los LLM consumen mucha energía, lo cual tiene un impacto negativo en el medio ambiente: Un estudio de la Universidad de Copenhagen halló que una sesión de entrenamiento de GPT-3 consume energía equivalente al consumo anual de 126 hogares daneses (Strubell et al, 2019).
- Evitar el contenido “tóxico” de ChatGPT ha llevado a la explotación laboral: sin intervención humana estos LLM reproducen contenido ofensivo, racista y violento. Para evitar esto, personas en una empresa de Kenia son pagados $2/hora para crear texto etiquetado y prevenir que ChatGPT reproduzca ese contenido violento. Además del bajo pago que reciben por su labor, son expuestos al trauma de leer y etiquetar contenido violento todo el día.
- ChatGPT puede reproducir e intensificar las desigualdades sociales. ChatGPT 4 es un modelo superior a ChatGPT 3. Esta versión se puede acceder solamente mediante un pago mensual, lo cual da acceso a más herramientas e información a estudiantes que ya son privilegiados con mayores recursos financieros.
Existen múltiples estrategias de diseño de cursos y de enseñanza que aprovechan el sistema 2 del pensamiento humano, el modelo del aula invertida, y las herramientas de aprendizaje activo, que los docentes pueden utilizar para crear asignaciones y trabajos que obliguen a los estudiantes a pensar por cuenta propia sin emplear ChatGPT. El siguiente documento contiene doce ideas para combatir el mal uso de ChatGPT en los cursos o bien, incorporar el uso de ChatGPT como herramienta pedagógica.
Doce estrategias para combatir el mal uso de ChatGPT en los cursos universitarios
- GPTZero: Detector de texto creado con ChatGPT. Creado por el estudiante universitario Edward Tian, es el detector más reconocido de uso de inteligencia artificial en la creación de textos.
- Learnt.ai: Herramienta de inteligencia artificial que ayuda a facultad a generar contenido para sus cursos, incluyendo animaciones, estudios de caso, resúmenes, rúbricas de avalúo, y asignaciones resistentes al uso de ChatGPT. Acceso completo a esta herramienta está disponible en nuestro Co-Laboratorio de Innovación y Accesibilidad Pedagógica (CoLab).
- “When Robots Learn How to Write, What Happens to Learning?” Keynote del Dr. Bill Hart-Davidson
Brown, T., Mann, B., Ryder, N., Subbiah, M., Kaplan, J. D., Dhariwal, P., … & Amodei, D. (2020). Language models are few-shot learners. Advances in neural information processing systems, 33, 1877-1901.
Saffran, J. R., Aslin, R. N., & Newport, E. L. (1996). Statistical learning by 8-month-old infants. Science, 274(5294), 1926-1928.
Stanovich, K. E., & West, R. F. (2000). Advancing the rationality debate. Behavioral and brain sciences, 23(5), 701-717.
Strubell, E., Ganesh, A., & McCallum, A. (2019). Energy and policy considerations for deep learning in NLP. arXiv preprint arXiv:1906.02243.
Warstadt, A., & Bowman, S. R. (2022). What artificial neural networks can tell us about human language acquisition. In Algebraic Structures in Natural Language (pp. 17-60). CRC Press.