EUVIMEDEUVIMED entdecken
Scoping ReviewOpen Access · CC BY-NC 3.0

Ethical considerations of artificial intelligence in emergency medicine for triage and resource allocation: a scoping review

Ethische Überlegungen zu künstlicher Intelligenz in der Notfallmedizin für Triage und Ressourcenallokation: Scoping-Review

Hyunjae Cha, Junhewk Kim

Clinical and Experimental Emergency Medicine · 24.09.2025 · 12 (4) · 306-319

DOI: 10.15441/ceem.25.199 ↗

Auf einen Blick

Ein Scoping-Review zu ethischen und rechtlichen Aspekten von KI in der Notfallmedizin. Beschrieben werden v. a. Datenschutz, algorithmische Verzerrung, Automatisierungsabhängigkeit, Verantwortlichkeit und Erklärbarkeit.

Fragestellung

Welche ethischen und rechtlichen Diskussionen gibt es zum Einsatz von KI für Triage und Ressourcenallokation in der Notfallmedizin?

Methode

Scoping-Review; Literatur ab Januar 2020 in Web of Science, Scopus, CINAHL, PubMed und Cochrane Library gesucht; 27 Artikel analysiert.

Ergebnisse

Die Literatur behandelte vor allem Datenschutz, algorithmische Verzerrung, Automatisierungsabhängigkeit, Verantwortlichkeit und Erklärbarkeit. Als Lösungen wurden human-centered design, explainable AI, regulatorische Rahmen, laufende Evaluation und human-in-the-loop diskutiert.

Einschränkungen

Diskussionen zu risks of „persuasive AI“, ethischen Fragen generativer KI sowie sozialer Validierung und Beteiligung von Patient:innen und Öffentlichkeit waren unzureichend.

Schlussfolgerung der Autor:innen

Die ethischen und rechtlichen Diskussionen entwickeln sich hin zu konkreten Lösungen auf technischer, institutioneller und relationaler Ebene. Zugleich sind vertiefte Forschungen zu den Besonderheiten schnell entwickelnder KI und den Werten der Notfallmedizin dringend nötig.

Kernaussagen

  • 27 Artikel wurden ausgewertet.
  • Genannt wurden u. a. Datenschutz, Bias und Verantwortlichkeit.
  • Lücken bestanden bei persuasive AI, generativer KI und Beteiligung Betroffener.

Deutsche Zusammenfassung: KI-gestützt aus dem Original-Abstract erstellt; alle Zahlen wurden automatisch mit dem Original abgeglichen. Maßgeblich ist der Original-Abstract.

Kurz gefasst

Scoping Review in der Zeitschrift Clinical and Experimental Emergency Medicine, online erschienen am 24.09.2025. Verfasst von Hyunjae Cha und 1 weiteren Autor:innen. Beteiligte Einrichtung: Department of Humanity and Social Medicine, College of Medicine, Yonsei University, Seoul, Korea. Die Arbeit wurde bisher 6-mal zitiert (Crossref) und nennt 60 Literaturangaben. Der Volltext ist frei zugänglich (Open Access, CC BY-NC 3.0). Gefördert von: Korea National Institute of Health.

Auf einen BlickAbstractSchlagwörterBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

Objective

This study aims to systematically review the ethical and legal discussions regarding the utilization of artificial intelligence (AI) for patient triage and resource allocation in emergency medicine, and to identify the current state of discussions, their limitations, and future research directions.

Methods

A comprehensive literature search was conducted following scoping review methodology. Relevant literature published after January 2020 was searched in the Web of Science, Scopus, CINAHL, PubMed, and Cochrane Library databases. Based on a PCC (population, concept, and context) framework (emergency patients/medical staff; triage, resource allocation; and emergency medicine with AI application), a final selection of 27 articles was analyzed.

Results

The selected literature raised various ethical and legal issues related to the introduction of AI triage systems and AI utilization in emergency medicine, including data privacy, algorithmic bias, automation dependency, accountability, and explainability. In response to these issues, human-centered design, implementation of explainable AI, establishment of regulatory frameworks, continuous verification and evaluation, and ensuring human-in-the-loop were discussed as major solutions. However, discussions on the risks of “persuasive AI” that could mislead users, ethical issues of generative AI, and social validation and patient and public involvement were found to be insufficient.

Conclusion

Ethical and legal discussions regarding AI in emergency medicine are evolving toward seeking concrete solutions at technical, institutional, and relational dimensions. However, in-depth research on ethical challenges, such as reflecting the specificity of rapidly developing AI and the values of emergency medicine, is urgently required.

Schlagwörter

Stichwörter der Autor:innen

Artificial intelligenceEmergency medicineMedical ethicsResource allocationTriage

Autor:innen und Institutionen

  • Department of Humanity and Social Medicine, College of Medicine, Yonsei University, Seoul, Korea.
  • Department of Dental Education, College of Dentistry, Yonsei University, Seoul, Korea.

Förderung

  • Korea National Institute of Health

Zitieren

APA

Cha, H., & Kim, J. (2025). Ethical considerations of artificial intelligence in emergency medicine for triage and resource allocation: a scoping review. Clinical and Experimental Emergency Medicine, 12(4), 306-319. https://doi.org/10.15441/ceem.25.199

Vancouver

Cha H, Kim J. Ethical considerations of artificial intelligence in emergency medicine for triage and resource allocation: a scoping review. Clinical and Experimental Emergency Medicine. 2025;12(4):306-319. doi:10.15441/ceem.25.199

BibTeX
@article{Cha2025,
  author = {Cha, Hyunjae and Kim, Junhewk},
  title = {Ethical considerations of artificial intelligence in emergency medicine for triage and resource allocation: a scoping review},
  journal = {Clinical and Experimental Emergency Medicine},
  year = {2025},
  volume = {12},
  number = {4},
  pages = {306--319},
  doi = {10.15441/ceem.25.199}
}
Kostenlos starten →