Integrating a LLaMA-based chatbot with augmented retrieval generation as a complementary educational tool for high school and college students

Abstract

En el panorama educativo actual, la transición de paradigmas tradicionales a experiencias de aprendizaje más interactivas y personalizadas se ha visto acelerada por los avances tecnológicos, particularmente en inteligencia artificial. Esta investigación presenta el desarrollo de un chatbot basado en el modelo largo de lenguaje (LLM) llamado LLaMA 7B chat desarrollado por Meta, que ha sido cuantizado para optimizar el uso de recursos, mejorado mediante técnicas de generación aumentada por recuperación con el fin de llevar a cabo respuestas en una asignatura centrada predominantemente en habilidades de resolución de problemas como son las matemáticas. Nuestra investigación ha dado como resultado un sistema de recuperación de documentos utilizando Pinecone como vectorstore, cuyos documentos almacenados fueron creados a partir del contenido de las páginas, que denominamos metadatos, del aclamado libro Precálculo: Matemáticas para el Cálculo que se procesaron utilizando el modelo all-MiniLM-L6-v2 y empleando la similitud coseno como métrica para realizar la búsqueda semántica. A continuación, el sistema de recuperación de documentos se une al modelo cuantizado utilizando el framework especializado en LLM denominado Langchain. De esta forma hemos obtenido un chatbot que siguiendo un prompt de sistema, el contexto de los documentos recuperados de Pinecone y la pregunta del usuario puede responder con ejercicios o material audiovisual de apoyo a preguntas de matemáticas para estudiantes de secundaria o cursos de nivel universitario.