EUVIMEDEUVIMED entdecken
Systematische ÜbersichtOpen Access

Unmasking bias in artificial intelligence: a systematic review of bias detection and mitigation strategies in electronic health record-based models

Bias in künstlicher Intelligenz: systematische Übersicht zu Detektion und Minderung in auf EHR-Daten basierenden Modellen

Feng Chen, Liqin Wang, Julie Hong, Jiaqi Jiang, Li Zhou

Journal of the American Medical Informatics Association · 19.04.2024 · 31 (5) · 1172-1183

DOI: 10.1093/jamia/ocae060 ↗

Auf einen Blick

Die Übersichtsarbeit fasst Bias-Typen sowie Strategien zur Erkennung und Minderung in KI-Modellen auf Basis elektronischer Gesundheitsakten zusammen. 20 von 450 Artikeln erfüllten die Kriterien.

Fragestellung

Welche Bias-Typen und welche Strategien zur Erkennung und Minderung von Bias in auf EHR-Daten basierten KI-Modellen werden beschrieben?

Methode

Systematische Übersichtsarbeit nach PRISMA; Analyse von Artikeln aus PubMed, Web of Science und IEEE.

Ergebnisse

20 Studien erfüllten die Kriterien. Beschrieben wurden 6 Bias-Typen: algorithmic, confounding, implicit, measurement, selection und temporal. 5 Studien untersuchten die Erkennung von implicit und algorithmic bias; 15 Studien schlugen Minderungsstrategien vor.

Einschränkungen

Keine Modelle wurden in realen Gesundheitssystemen eingesetzt.

Schlussfolgerung der Autor:innen

Die Übersichtsarbeit zeigt sich entwickelnde Strategien zur Minderung von Bias in EHR-basierten KI-Modellen und betont den Bedarf an standardisierter, detaillierter Berichterstattung sowie systematischer Prüfung in der Praxis.

Kernaussagen

  • 20 von 450 Artikeln erfüllten die Kriterien
  • 6 Bias-Typen wurden identifiziert
  • 15 Studien schlugen Minderungsstrategien vor

Deutsche Zusammenfassung: KI-gestützt aus dem Original-Abstract erstellt; alle Zahlen wurden automatisch mit dem Original abgeglichen. Maßgeblich ist der Original-Abstract.

Kurz gefasst

Systematische Übersicht in der Zeitschrift Journal of the American Medical Informatics Association, online erschienen am 23.03.2024. Verfasst von Feng Chen und 4 weiteren Autor:innen. Beteiligte Einrichtung: Department of Biomedical Informatics, Harvard Medical School, Boston, MA 02115, United States. Hauptthemen laut MEDLINE: Electronic Health Records, Artificial Intelligence, Bias. Die Arbeit wurde bisher 184-mal zitiert (Crossref) und nennt 69 Literaturangaben. Der Volltext ist frei in PubMed Central verfügbar. Gefördert von: NLM NIH HHS, National Library of Medicine.

Auf einen BlickAbstractSchlagwörterBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

Objectives

Leveraging artificial intelligence (AI) in conjunction with electronic health records (EHRs) holds transformative potential to improve healthcare. However, addressing bias in AI, which risks worsening healthcare disparities, cannot be overlooked. This study reviews methods to handle various biases in AI models developed using EHR data. Materials and Methods We conducted a systematic review following the Preferred Reporting Items for Systematic Reviews and Meta-analyses guidelines, analyzing articles from PubMed, Web of Science, and IEEE published between January 01, 2010 and December 17, 2023. The review identified key biases, outlined strategies for detecting and mitigating bias throughout the AI model development, and analyzed metrics for bias assessment.

Results

Of the 450 articles retrieved, 20 met our criteria, revealing 6 major bias types: algorithmic, confounding, implicit, measurement, selection, and temporal. The AI models were primarily developed for predictive tasks, yet none have been deployed in real-world healthcare settings. Five studies concentrated on the detection of implicit and algorithmic biases employing fairness metrics like statistical parity, equal opportunity, and predictive equity. Fifteen studies proposed strategies for mitigating biases, especially targeting implicit and selection biases. These strategies, evaluated through both performance and fairness metrics, predominantly involved data collection and preprocessing techniques like resampling and reweighting.

Discussion

This review highlights evolving strategies to mitigate bias in EHR-based AI models, emphasizing the urgent need for both standardized and detailed reporting of the methodologies and systematic real-world testing and evaluation. Such measures are essential for gauging models’ practical impact and fostering ethical AI that ensures fairness and equity in healthcare.

Schlagwörter

MeSH-Schlagwörter (MEDLINE)

Electronic Health RecordsArtificial IntelligenceBiasHumansAlgorithmsModels, Theoretical

Stichwörter der Autor:innen

artificial intelligencebiasdeep learningelectronic health recordscoping review

Autor:innen und Institutionen

  • Department of Biomedical Informatics, Harvard Medical School, Boston, MA 02115, United States.
  • Department of Biomedical Informatics and Health Education, University of Washington, Seattle, WA 98105, United States.
  • Division of General Internal Medicine and Primary Care, Brigham and Women's Hospital, Boston, MA 02115, United States.
  • Wellesley High School, Wellesley, MA 02481, United States.

Förderung

  • NLM NIH HHS
  • National Library of Medicine

Zitieren

APA

Chen, F., Wang, L., Hong, J., Jiang, J., & Zhou, L. (2024). Unmasking bias in artificial intelligence: a systematic review of bias detection and mitigation strategies in electronic health record-based models. Journal of the American Medical Informatics Association, 31(5), 1172-1183. https://doi.org/10.1093/jamia/ocae060

Vancouver

Chen F, Wang L, Hong J, Jiang J, Zhou L. Unmasking bias in artificial intelligence: a systematic review of bias detection and mitigation strategies in electronic health record-based models. Journal of the American Medical Informatics Association. 2024;31(5):1172-1183. doi:10.1093/jamia/ocae060

BibTeX
@article{Chen2024,
  author = {Chen, Feng and Wang, Liqin and Hong, Julie and Jiang, Jiaqi and Zhou, Li},
  title = {Unmasking bias in artificial intelligence: a systematic review of bias detection and mitigation strategies in electronic health record-based models},
  journal = {Journal of the American Medical Informatics Association},
  year = {2024},
  volume = {31},
  number = {5},
  pages = {1172--1183},
  doi = {10.1093/jamia/ocae060}
}
Kostenlos starten →