EUVIMEDEUVIMED entdecken
Open Access

Ethics in Patient Preferences for Artificial Intelligence–Drafted Responses to Electronic Messages

Ethik bei Patientenpräferenzen für von KI verfasste Antworten auf elektronische Nachrichten

Joanna S Cavalier, Benjamin A Goldstein, Vardit Ravitsky, Jean-Christophe Bélisle-Pipon, Armando Bedoya, Jennifer Maddocks, Sam Klotman, Matthew Roman, Jessica Sperling, Chun Xu, Eric G Poon, Anand Chowdhury

JAMA Network Open · 11.03.2025 · 8 (3) · e250449

DOI: 10.1001/jamanetworkopen.2025.0449 ↗

Auf einen Blick

Eine Umfrage unter 1.455 Mitgliedern eines Patient:innenbeirats zeigte eine leichte Präferenz für von KI verfasste Antworten gegenüber menschlichen Antworten. Eine Offenlegung der KI-Nutzung senkte die Zufriedenheit leicht.

Fragestellung

Welche Präferenzen haben Patient:innen für KI-gestützte Antworten auf elektronische Nachrichten und für deren Offenlegung?

Methode

Umfrage in einem Patient:innenbeirat des Duke University Health System; Erhebungen vom 31. Oktober bis 11. Dezember 2023; verschiedene Faktoren zu Autor:in, Offenlegung und Themenseriosität wurden getestet.

Ergebnisse

1.455 von 2.511 Angeschriebenen antworteten. KI- statt menschlich verfasste Antworten: Zufriedenheit −0,30 (95 %-KI −0,37 bis −0,23), Nützlichkeit −0,28 (95 %-KI −0,34 bis −0,22), wahrgenommene Fürsorge −0,43 (95 %-KI −0,50 bis −0,37).

Schlussfolgerung der Autor:innen

Die Teilnehmenden bevorzugten leicht KI-geschriebene Nachrichten, waren aber bei Hinweis auf KI etwas weniger zufrieden. Die Patient:innenerfahrung soll bei der ethischen Umsetzung von KI berücksichtigt werden; Offenlegung soll aus Autonomiegründen beibehalten werden.

Kernaussagen

  • KI-Antworten wurden gegenüber menschlichen leicht bevorzugt
  • Offenlegung von KI senkte die Zufriedenheit leicht
  • Mehr als 75 % waren unabhängig vom Autor zufrieden

Deutsche Zusammenfassung: KI-gestützt aus dem Original-Abstract erstellt; alle Zahlen wurden automatisch mit dem Original abgeglichen. Maßgeblich ist der Original-Abstract.

Kurz gefasst

Fachartikel in der Zeitschrift JAMA Network Open, online erschienen am 11.03.2025. Verfasst von Joanna S Cavalier und 11 weiteren Autor:innen. Beteiligte Einrichtung: Department of Medicine, Duke University School of Medicine, Durham, North Carolina. Hauptthemen laut MEDLINE: Artificial Intelligence, Patient Preference, Electronic Mail, Physician-Patient Relations. Die Arbeit wurde bisher 64-mal zitiert (Crossref) und nennt 24 Literaturangaben. Der Volltext ist frei in PubMed Central verfügbar.

Auf einen BlickAbstractSchlagwörterBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

Importance The rise of patient messages sent to clinicians via a patient portal has directly led to physician burnout and dissatisfaction, prompting uptake of artificial intelligence (AI) to alleviate this burden. It is important to understand patient preferences around AI in patient-clinician communication as ethical guidelines on appropriate use and disclosure (patient notification of AI use) are developed.

Objective

To analyze patient preferences regarding use of AI in electronic messages. Design, Setting, and Participants A survey study was conducted within the Duke University Health System’s patient advisory committee, consisting of individuals 18 years or older who participate in periodic surveys to inform health system patient care practices. Multiple surveys were administered to test the impact of different factors, including response author, disclosure (AI, human, or none), and seriousness of the topic. A follow-up survey assessed preferred disclosure verbiage. Surveys were administered from October 31 to December 11, 2023. Exposure Multiple surveys. Main Outcomes and Measures Participants rated their overall satisfaction, usefulness of the information, and perceived level of care on a 5-point Likert scale.

Results

Of the 2511 members surveyed, 1455 (57.9%) responded, with respondents being older (median age, 57 [IQR, 49-70] vs 53 [IQR, 41-62] years), more educated (872 of 1083 [80.5%] vs 319 of 440 [72.5%] with a college or graduate degree), and predominantly female (921 [63.3%]). Participants preferred AI- compared with human-drafted responses, with a mean difference for satisfaction of −0.30 (95% CI, −0.37 to −0.23) points, usefulness of −0.28 (95% CI, −0.34 to −0.22) points, and perception they were cared for of −0.43 (95% CI, −0.50 to −0.37) points. Participants tended to have higher satisfaction with a human disclosure over AI disclosure, with a mean difference of 0.13 (95% CI, 0.05-0.22) points, and with no disclosure over AI authorship disclosure, with a mean difference of 0.09 (95% CI, 0.01-0.17) points. Regardless of author or disclosure type, more than 75% of respondents were satisfied (agree or strongly agree) with the response. Conclusions and Relevance In this survey study, participants expressed a mild preference for messages written by AI but had a slightly decreased satisfaction when told AI was involved. Patient experience must be considered along with ethical implementation of AI. Although AI disclosure may slightly reduce satisfaction, disclosure should be maintained to uphold patient autonomy and empowerment.

Schlagwörter

MeSH-Schlagwörter (MEDLINE)

Artificial IntelligencePatient PreferenceElectronic MailPhysician-Patient RelationsHumansFemaleMaleAdultMiddle AgedSurveys and QuestionnairesAgedDisclosurePatient Satisfaction

Autor:innen und Institutionen

  • Department of Medicine, Duke University School of Medicine, Durham, North Carolina.
  • Department of Biostatistics & Bioinformatics, Duke University School of Medicine, Durham, North Carolina.
  • Center for Bioethics, Harvard Medical School, Boston, Massachusetts.
  • Faculty of Health Sciences, Simon Fraser University, Burnaby, British Columbia, Canada.
  • Department of Health Technology Solutions, Duke University Health System, Durham, North Carolina.
  • Duke Clinical & Translational Science Institute, Duke University, Durham, North Carolina.

Zitieren

APA

Cavalier, J. S., Goldstein, B. A., Ravitsky, V., Bélisle-Pipon, J. C., Bedoya, A., Maddocks, J., Klotman, S., Roman, M., Sperling, J., Xu, C., Poon, E. G., & Chowdhury, A. (2025). Ethics in Patient Preferences for Artificial Intelligence–Drafted Responses to Electronic Messages. JAMA Network Open, 8(3), e250449. https://doi.org/10.1001/jamanetworkopen.2025.0449

Vancouver

Cavalier JS, Goldstein BA, Ravitsky V, Bélisle-Pipon JC, Bedoya A, Maddocks J, et al. Ethics in Patient Preferences for Artificial Intelligence–Drafted Responses to Electronic Messages. JAMA Network Open. 2025;8(3):e250449. doi:10.1001/jamanetworkopen.2025.0449

BibTeX
@article{Cavalier2025,
  author = {Cavalier, Joanna S and Goldstein, Benjamin A and Ravitsky, Vardit and Bélisle-Pipon, Jean-Christophe and Bedoya, Armando and Maddocks, Jennifer and Klotman, Sam and Roman, Matthew and Sperling, Jessica and Xu, Chun and Poon, Eric G and Chowdhury, Anand},
  title = {Ethics in Patient Preferences for Artificial Intelligence–Drafted Responses to Electronic Messages},
  journal = {JAMA Network Open},
  year = {2025},
  volume = {8},
  number = {3},
  pages = {e250449},
  doi = {10.1001/jamanetworkopen.2025.0449}
}
Kostenlos starten →