EUVIMEDEUVIMED entdecken
Crossref

A Hybrid Transformer–XGBoost Framework with SHAP Explainability for Multimodal Student Performance Prediction in Higher Education

Ms. Amal Mohammed Hassan Nouri, Assoc. Prof. Dr. Fakhreldin Saeed

Journal of Arabian Peninsula Centre for Medical and Applied Researches · 31.12.2026 · 01 (04) · 28

DOI: 10.56793/pcra23142 ↗

Kurz gefasst

Fachartikel in der Zeitschrift Journal of Arabian Peninsula Centre for Medical and Applied Researches, online erschienen am 31.05.2026. Verfasst von Ms. Amal Mohammed Hassan Nouri und 1 weiteren Autor:innen. Die Arbeit nennt 97 Literaturangaben.

AbstractBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

Accurate student performance prediction is critical for early interventions and data-driven educational decisions; thus, this study develops a hybrid framework combining Transformer-based deep learning and XGBoost to predict academic outcomes using textual data, LMS interaction logs, assessment scores, and demographics. Evaluated via five-fold stratified cross-validation on real institutional data, the framework was compared against Transformer, XGBoost, Random Forest, and multimodal MLP baselines. In multi-class classification, it achieved 79.3% accuracy, 0.746 F1-score, and 0.861 ROC-AUC, outperforming all baselines; in binary classification, it reached 84.5% accuracy and 0.902 ROC-AUC, highly distinguishing students at risk of academic failure. To enhance transparency, SHAP interpreted global and individual feature importance. Results showed assessment scores and online interactions were most influential, while BERT semantic embeddings significantly improved discrimination between high-performing and at-risk students. These findings confirm the framework's potential in academic advising, early warning systems, and personalized interventions, offering a robust, explainable approach for fair, accountable AI in higher education.//يُعد التنبؤ الدقيق بأداء الطلاب مهمًا لدعم التدخلات المبكرة والقرارات التعليمية المستندة للبيانات، لذا تهدف الدراسة لتطوير إطار تنبؤي هجين يجمع التعلم العميق القائم على بنية Transformer وخوارزمية XGBoost للتنبؤ بالمخرجات الأكاديمية اعتمادًا على بيانات النصوص، وسجلات تفاعل أنظمة إدارة التعلم (LMS)، ودرجات التقييم، والبيانات الديموغرافية. تم تدريب النموذج وتقييمه ببيانات مؤسسية واقعية عبر التحقق المتقاطع الطبقي خماسي الطيات، ومقارنته بنماذج مرجعية شملت Transformer وXGBoost وRandom Forest والشبكات العصبية متعددة الطبقات متعددة الوسائط (MLP)؛ حيث حقق الإطار بمهمة التصنيف متعدد الفئات دقة 79.3%، وقيمة F1 بلغت 0.746، ومؤشر ROC-AUC كليًا قدره 0.861 متفوقًا على النماذج المرجعية، بينما حقق بمهمة التصنيف الثنائي دقة 84.5% ومؤشر ROC-AUC بلغ 0.902، مما يعكس قدرة عالية على تحديد الطلاب المعرضين لخطر التعثر. ولتعزيز الشفافية، استُخدمت تقنية SHAP لتفسير أهمية المتغيرات كليًا والتنبؤات الفردية، وأظهرت النتائج أن درجات التقييم ومؤشرات التفاعل الإلكتروني كانت الأكثر تأثيرًا، في حين أسهمت التمثيلات الدلالية المستمدة من تضمينات BERT ملحوظًا في تحسين التمييز بين الطلاب مرتفعي الأداء والمعرضين للخطر، مما يؤكد إمكانات الإطار في دعم الإرشاد الأكاديمي، وأنظمة الإنذار المبكر، والتدخلات المخصصة عبر تقديم نهج قوي وقابل للتفسير يدعم تطبيقات الذكاء الاصطناعي العادلة والخاضعة للمساءلة بالتعليم العالي.

Zitieren

APA

Nouri, M. A. M. H., & Saeed, A. P. D. F. (2026). A Hybrid Transformer–XGBoost Framework with SHAP Explainability for Multimodal Student Performance Prediction in Higher Education. Journal of Arabian Peninsula Centre for Medical and Applied Researches, 01(04), 28. https://doi.org/10.56793/pcra23142

Vancouver

Nouri MAMH, Saeed APDF. A Hybrid Transformer–XGBoost Framework with SHAP Explainability for Multimodal Student Performance Prediction in Higher Education. Journal of Arabian Peninsula Centre for Medical and Applied Researches. 2026;01(04):28. doi:10.56793/pcra23142

BibTeX
@article{Nouri2026,
  author = {Nouri, Ms. Amal Mohammed Hassan and Saeed, Assoc. Prof. Dr. Fakhreldin},
  title = {A Hybrid Transformer–XGBoost Framework with SHAP Explainability for Multimodal Student Performance Prediction in Higher Education},
  journal = {Journal of Arabian Peninsula Centre for Medical and Applied Researches},
  year = {2026},
  volume = {01},
  number = {04},
  pages = {28},
  doi = {10.56793/pcra23142}
}
Kostenlos starten →