EUVIMEDEUVIMED entdecken
Open Access · CC BY-NC 4.0

Medical pre-training and fine-tuning improve large-language-model prediction of rheumatoid-arthritis disease activity

Medizinisches Pre-Training und Fine-Tuning verbessern die Vorhersage der Krankheitsaktivität bei rheumatoider Arthritis mit Large-Language-Modellen

Suguru Honda iD, Katsunori Ikari, Mayuko Fujisaki, Eiichi Tanaka, Masayoshi Harigai iD

Modern Rheumatology · 04.11.2026 · 36 (6) · 927-934

DOI: 10.1093/mr/roag039 ↗

Auf einen Blick

Medizinisches Pre-Training und Fine-Tuning verbesserten die Vorhersage von Krankheitsaktivität und Behinderung bei rheumatoider Arthritis mit lokal einsetzbaren LLMs. Die Leistung war teils höher, teils vergleichbar mit tabellarischen Modellen.

Fragestellung

Verbessern medizinisches Pre-Training und parameter-effizientes Fine-Tuning die Vorhersage von Langzeit-Krankheitsaktivität und Behinderung bei rheumatoider Arthritis durch LLMs?

Methode

Llama-2-Modelle (70B) wurden on-premises mit und ohne medizinisches Pre-Training (Meditron) trainiert und mit Quantized Low-Rank Adapter feinabgestimmt. Vergleich mit logistischer Regression, Random Forest und XGBoost.

Ergebnisse

Feinabgestimmte LLMs erzielten für die meisten Disease-Activity-Score-basierten Endpunkte die höchste oder vergleichbare ROC-AUC und für Remissionsaufgaben ähnliche Werte wie konventionelle Modelle. Bei seltenen Endpunkten war die Kalibrierung stabiler und der Nettonutzen teils besser.

Schlussfolgerung der Autor:innen

Endpunktspezifische, datenschutzfreundliche LLMs können konventionelle tabellarische Modelle zur Vorhersage der Krankheitsaktivität bei rheumatoider Arthritis ergänzen oder ersetzen und lokale Entscheidungsunterstützung liefern, ohne den Datenschutz zu beeinträchtigen.

Kernaussagen

  • Medizinisches Pre-Training und Fine-Tuning verbesserten Diskrimination und Kalibrierung.
  • Für die meisten Disease-Activity-Score-Endpunkte waren LLMs am besten oder vergleichbar.
  • Bei seltenen Endpunkten zeigten LLMs stabilere Kalibrierung und teils höheren Nettonutzen.

Deutsche Zusammenfassung: KI-gestützt aus dem Original-Abstract erstellt; alle Zahlen wurden automatisch mit dem Original abgeglichen. Maßgeblich ist der Original-Abstract.

Kurz gefasst

Fachartikel in der Zeitschrift Modern Rheumatology, online erschienen am 15.05.2026. Verfasst von Suguru Honda und 4 weiteren Autor:innen. Beteiligte Einrichtung: Department of Rheumatology, Tokyo Women's Medical University School of Medicine, Tokyo, Japan. Hauptthemen laut MEDLINE: Arthritis, Rheumatoid. Die Arbeit nennt 25 Literaturangaben. Der Volltext ist frei zugänglich (Open Access, CC BY-NC 4.0). Gefördert von: JSPS KAKENHI, Program for the Promotion of Precision Medicine in Rheumatoid Arthritis, Japan College of Rheumatology.

Auf einen BlickAbstractSchlagwörterBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

Objective

To evaluate whether medical-domain pre-training and parameter-efficient fine-tuning improve the ability of locally deployable Large Language Models (LLMs) to predict long-term disease activity and disability in rheumatoid arthritis, and to benchmark their performance against established tabular machine-learning models.

Methods

We trained on-premises Llama-2 (70B) models with and without medical pre-training (Meditron) and applied Quantized Low-Rank Adapter fine-tuning using structured data from 11 865 patients in the Institute of Rheumatology, Rheumatoid Arthritis cohort. Models predicted eight binary outcomes of rheumatoid arthritis disease activity and disability at 2 years. Performance was compared with logistic regression, random forest, and XGBoost using receiver operating characteristic-area under the curve, Brier score, calibration plots, and decision-curve analysis.

Results

Medical pre-training and Quantized Low-Rank Adapter fine-tuning both improved discrimination and calibration, with effects varying by endpoint. Fine-tuned LLMs achieved the highest or comparable receiver operating characteristic-area under the curves for most Disease Activity Score-based outcomes and matched conventional models for remission tasks. In low-prevalence outcomes, LLMs showed more stable calibration and small but consistent net-benefit advantages, while some tabular models exhibited clinically harmful decision curves.

Conclusions

Endpoint-specific, privacy-preserving LLMs can complement or replace conventional tabular models for rheumatoid arthritis disease-activity prediction, providing reliable, locally deployable decision support without sacrificing data privacy.

Schlagwörter

MeSH-Schlagwörter (MEDLINE)

Arthritis, RheumatoidHumansLarge Language ModelsPredictive Learning ModelsFemaleSeverity of Illness IndexPrediction AlgorithmsROC CurveMale

Stichwörter der Autor:innen

Large Language Modelsdisease activityfine-tuningpre-trainingpredictionrheumatoid arthritis

Autor:innen und Institutionen

  • Department of Rheumatology, Tokyo Women's Medical University School of Medicine, Tokyo, Japan.
  • Institute of Rheumatology, Tokyo Women's Medical University Hospital, Tokyo, Japan.
  • Department of Orthopedic Surgery, Tokyo Women's Medical University School of Medicine, Tokyo, Japan.
  • Section of Surgery for Inflammatory Arthritis, Department of Orthopedic Surgery, Tokyo Women's Medical University, Tokyo, Japan.

ORCID-Profile: Suguru Honda, Masayoshi Harigai

Förderung

  • JSPS KAKENHI
  • Program for the Promotion of Precision Medicine in Rheumatoid Arthritis, Japan College of Rheumatology

Zitieren

APA

Honda, S., Ikari, K., Fujisaki, M., Tanaka, E., & Harigai, M. (2026). Medical pre-training and fine-tuning improve large-language-model prediction of rheumatoid-arthritis disease activity. Modern Rheumatology, 36(6), 927-934. https://doi.org/10.1093/mr/roag039

Vancouver

Honda S, Ikari K, Fujisaki M, Tanaka E, Harigai M. Medical pre-training and fine-tuning improve large-language-model prediction of rheumatoid-arthritis disease activity. Modern Rheumatology. 2026;36(6):927-934. doi:10.1093/mr/roag039

BibTeX
@article{Honda2026,
  author = {Honda, Suguru and Ikari, Katsunori and Fujisaki, Mayuko and Tanaka, Eiichi and Harigai, Masayoshi},
  title = {Medical pre-training and fine-tuning improve large-language-model prediction of rheumatoid-arthritis disease activity},
  journal = {Modern Rheumatology},
  year = {2026},
  volume = {36},
  number = {6},
  pages = {927--934},
  doi = {10.1093/mr/roag039}
}
Kostenlos starten →