Addressing 6 challenges in generative AI for digital health: A scoping review
Adressierung von 6 Herausforderungen generativer KI für digitale Gesundheit: Scoping Review
PLOS Digital Health · 23.05.2024 · 3 (5) · e0000503
DOI: 10.1371/journal.pdig.0000503 ↗Auf einen Blick
Das Scoping Review fasst 120 Artikel zu generativer KI in der Medizin zusammen. Häufig thematisiert wurden Bias, Datenschutz, Halluzinationen und regulatorische Compliance.
Fragestellung
Welche 6 Herausforderungen generativer KI in medizinischen Settings sind für digitale Gesundheit relevant, und welche Maßnahmen werden beschrieben?
Methode
Scoping Review; PubMed-Suche nach Artikeln bis März 2024; 120 Artikel zu generativer KI in der Medizin wurden ausgewertet.
Ergebnisse
120 Artikel bis März 2024. Häufig berücksichtigt wurden Bias, Datenschutz, Halluzinationen und regulatorische Compliance; seltener Übernutzung von Textmodellen, adversariales Misprompting und Jailbreaking.
Schlussfolgerung der Autor:innen
Die Autor:innen heben 6 zentrale Herausforderungen generativer KI für digitale Gesundheit hervor und verweisen auf Maßnahmen zu ihrer Minderung.
Kernaussagen
- 120 Artikel wurden bis März 2024 identifiziert
- Bias, Datenschutz, Halluzinationen und Compliance dominierten
- Übernutzung, adversariales Misprompting und Jailbreaking wurden seltener evaluiert
Deutsche Zusammenfassung: KI-gestützt aus dem Original-Abstract erstellt; alle Zahlen wurden automatisch mit dem Original abgeglichen. Maßgeblich ist der Original-Abstract.
Kurz gefasst
Scoping Review in der Zeitschrift PLOS Digital Health, online erschienen am 23.05.2024. Verfasst von Tara Templin und 4 weiteren Autor:innen. Beteiligte Einrichtung: Department of Health Policy and Management, University of North Carolina at Chapel Hill, Chapel Hill, North Carolina, United States of America. Die Arbeit wurde bisher 115-mal zitiert (Crossref) und nennt 89 Literaturangaben. Der Volltext ist frei zugänglich (Open Access, CC BY 4.0). Gefördert von: NIAID NIH HHS, NHGRI NIH HHS, National Science Foundation.
Themen: Digitalisierung in der Pflege
Abstract (Originalsprache)
Generative artificial intelligence (AI) can exhibit biases, compromise data privacy, misinterpret prompts that are adversarial attacks, and produce hallucinations. Despite the potential of generative AI for many applications in digital health, practitioners must understand these tools and their limitations. This scoping review pays particular attention to the challenges with generative AI technologies in medical settings and surveys potential solutions. Using PubMed, we identified a total of 120 articles published by March 2024, which reference and evaluate generative AI in medicine, from which we synthesized themes and suggestions for future work. After first discussing general background on generative AI, we focus on collecting and presenting 6 challenges key for digital health practitioners and specific measures that can be taken to mitigate these challenges. Overall, bias, privacy, hallucination, and regulatory compliance were frequently considered, while other concerns around generative AI, such as overreliance on text models, adversarial misprompting, and jailbreaking, are not commonly evaluated in the current literature.
Autor:innen und Institutionen
- Department of Health Policy and Management, University of North Carolina at Chapel Hill, Chapel Hill, North Carolina, United States of America.
- Carolina Population Center, University of North Carolina at Chapel Hill, Chapel Hill, North Carolina, United States of America.
- Department of Genome Sciences, University of Washington, Seattle, Washington, United States of America.
- Sheps Center for Health Services Research, University of North Carolina at Chapel Hill, Chapel Hill, North Carolina, United States of America.
- Biostatistics Program, Fred Hutchinson Cancer Center, Seattle, Washington, United States of America.
- Department of Biostatistics, University of Washington, Seattle, Washington, United States of America.
ORCID-Profile: Tara Templin
Förderung
- NIAID NIH HHS
- NHGRI NIH HHS
- National Science Foundation
- Division of Intramural Research, National Institute of Allergy and Infectious Diseases
- Gillings School of Public Health
- Bruce G. Cochener Foundation
Zitieren
APA
Templin, T., Perez, M. W., Sylvia, S., Leek, J., & Sinnott-Armstrong, N. (2024). Addressing 6 challenges in generative AI for digital health: A scoping review. PLOS Digital Health, 3(5), e0000503. https://doi.org/10.1371/journal.pdig.0000503
Vancouver
Templin T, Perez MW, Sylvia S, Leek J, Sinnott-Armstrong N. Addressing 6 challenges in generative AI for digital health: A scoping review. PLOS Digital Health. 2024;3(5):e0000503. doi:10.1371/journal.pdig.0000503
BibTeX
@article{Templin2024,
author = {Templin, Tara and Perez, Monika W and Sylvia, Sean and Leek, Jeff and Sinnott-Armstrong, Nasa},
title = {Addressing 6 challenges in generative AI for digital health: A scoping review},
journal = {PLOS Digital Health},
year = {2024},
volume = {3},
number = {5},
pages = {e0000503},
doi = {10.1371/journal.pdig.0000503}
}
EUVIMED