EUVIMEDEUVIMED entdecken
Scoping ReviewOpen Access · CC BY 4.0

The ethical challenges in the integration of artificial intelligence and large language models in medical education: A scoping review

Die ethischen Herausforderungen bei der Integration von Künstlicher Intelligenz und Large Language Models in die medizinische Ausbildung: Scoping Review

Xinrui Li, Xiaodan Yan, Han Lai iD

PLOS One · 22.10.2025 · 20 (10) · e0333411

DOI: 10.1371/journal.pone.0333411 ↗

Auf einen Blick

Das Scoping Review beschreibt ethische Herausforderungen bei KI und LLMs in der medizinischen Ausbildung. Genannt werden 7 ethische Dimensionen, darunter Datenschutz, Bias und Patientenautonomie.

Fragestellung

Welche ethischen Herausforderungen und Chancen ergeben sich aus der Integration von KI und LLMs in die medizinische Ausbildung?

Methode

Scoping Review; Literaturrecherche in PubMed, Embase und Web of Science von Januar 2010 bis 31. August 2024; 50 Artikel eingeschlossen.

Ergebnisse

50 Artikel. Identifiziert wurden 7 Kernbereiche: Privacy und Datensicherheit, algorithmischer Bias, Zurechnung von Verantwortung, Fairness, technologische Zuverlässigkeit, Abhängigkeit von der Technologie und Patientenautonomie.

Schlussfolgerung der Autor:innen

Die Autor:innen betonen die Notwendigkeit spezifischer ethischer Rahmenwerke und Anwendungsleitlinien für KI in der medizinischen Ausbildung.

Kernaussagen

  • 7 ethische Dimensionen wurden beschrieben
  • 50 Artikel in das Scoping Review eingeschlossen
  • Privacy, Bias und Patientenautonomie standen im Fokus

Deutsche Zusammenfassung: KI-gestützt aus dem Original-Abstract erstellt; alle Zahlen wurden automatisch mit dem Original abgeglichen. Maßgeblich ist der Original-Abstract.

Kurz gefasst

Scoping Review in der Zeitschrift PLOS One, online erschienen am 22.10.2025. Verfasst von Xinrui Li und 2 weiteren Autor:innen. Beteiligte Einrichtung: Hospital of Chengdu University of Traditional Chinese Medicine, Chengdu, China. Hauptthemen laut MEDLINE: Artificial Intelligence, Education, Medical, Language. Die Arbeit wurde bisher 37-mal zitiert (Crossref) und nennt 85 Literaturangaben. Der Volltext ist frei zugänglich (Open Access, CC BY 4.0). Gefördert von: 2022 National Innovation & Entrepreneurship Training Program for College Students, Research Program of Sichuan TCM Culture Coordinated Development Research Center, 2023 National Traditional Chinese Medicine Examination Research Project.

Auf einen BlickAbstractSchlagwörterBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

With the rapid development of artificial intelligence (AI), large language models (LLMs), such as ChatGPT have shown potential in medical education, offering personalized learning experiences. However, this integration raises ethical concerns, including privacy, autonomy, and transparency. This study employed a scoping review methodology, systematically searching relevant literature published between January 2010 and August 31, 2024, across three major databases: PubMed, Embase, and Web of Science. Through rigorous screening, 50 articles which met inclusion criteria were ultimately selected from an initial pool of 1,192 records. During data processing, the Kimi AI tool was utilized to facilitate preliminary literature screening, extraction of key information, and construction of content frameworks. Data reliability was ensured through a stringent cross-verification process whereby two independent researchers validated all AI-generated content against original source materials. The study delineates ethical challenges and opportunities arising from the integration of AI and LLMs into medical education, identifying seven core ethical dimensions: privacy and data security, algorithmic bias, accountability attribution, fairness assurance, technological reliability, application dependency, and patient autonomy. Corresponding mitigation strategies were formulated for each challenge. Future research should prioritize establishing dedicated ethical frameworks and application guidelines for AI in medical education while maintaining sustained attention to the long-term ethical implications of these technologies in healthcare domains.

Schlagwörter

MeSH-Schlagwörter (MEDLINE)

Artificial IntelligenceEducation, MedicalLanguageHumansComputer SecurityLarge Language Models

Autor:innen und Institutionen

  • Hospital of Chengdu University of Traditional Chinese Medicine, Chengdu, China.
  • Chengdu University of Traditional Chinese Medicine, Chengdu, China.

ORCID-Profile: Han Lai

Förderung

  • 2022 National Innovation & Entrepreneurship Training Program for College Students
  • Research Program of Sichuan TCM Culture Coordinated Development Research Center
  • 2023 National Traditional Chinese Medicine Examination Research Project

Zitieren

APA

Li, X., Yan, X., & Lai, H. (2025). The ethical challenges in the integration of artificial intelligence and large language models in medical education: A scoping review. PLOS One, 20(10), e0333411. https://doi.org/10.1371/journal.pone.0333411

Vancouver

Li X, Yan X, Lai H. The ethical challenges in the integration of artificial intelligence and large language models in medical education: A scoping review. PLOS One. 2025;20(10):e0333411. doi:10.1371/journal.pone.0333411

BibTeX
@article{Li2025,
  author = {Li, Xinrui and Yan, Xiaodan and Lai, Han},
  title = {The ethical challenges in the integration of artificial intelligence and large language models in medical education: A scoping review},
  journal = {PLOS One},
  year = {2025},
  volume = {20},
  number = {10},
  pages = {e0333411},
  doi = {10.1371/journal.pone.0333411}
}
Kostenlos starten →