Accountability for large language models in health care
Bulletin of the World Health Organization · 2026
DOI: 10.2471/blt.26.296186 ↗Kurz gefasst
Fachartikel in der Zeitschrift Bulletin of the World Health Organization, 2026. Verfasst von Carlos Fernando Mourão und 1 weiteren Autor:innen. Beteiligte Einrichtung: Department of Basic and Clinical Translational Sciences, Tufts University School of Dental Medicine, One Kneeland Street, Boston, MA02111, United Sta…. Hauptthemen laut MEDLINE: Large Language Models, Social Responsibility, Delivery of Health Care. Der Volltext ist frei in PubMed Central verfügbar.
Abstract (Originalsprache)
Large language models are entering clinical workflows faster than health-care institutions can assign responsibility for their failures. This situation is creating governance gaps with consequences that extend beyond individual patients to public health systems. The result is an accountability vacuum in which responsibility for harm mediated by large language models can be spread across clinicians, institutions and vendors. This responsibility gap distributes harm inequitably, particularly in low- and middle-income countries where regulatory infrastructure for digital health is still developing. We propose earned delegation as a predeployment standard: authority should be delegated only when evidence is proportionate to clinical risk, substantive human oversight is integrated and resourced, and responsibility for foreseeable failure modes is assigned in advance. To operationalize this standard, health systems should adopt a predeployment accountability charter specifying intended use, excluded use, validation evidence, oversight design, escalation pathways, auditability, subgroup performance review and named accountable parties. The charter should be integrated into existing institutional review, accreditation and procurement structures. Earned delegation provides a governance framework that health ministries, regulators and institutional leaders can adopt to ensure that use of large language models serves public health goals without outpacing them. Les grands modèles de langage s’intègrent aux processus cliniques à un rythme plus rapide que celui auquel les établissements de santé parviennent à attribuer la responsabilité de leurs défaillances. Cette situation engendre des lacunes de gouvernance, dont les conséquences s’étendent au-delà des patients individuels pour affecter les systèmes de santé publique. Il en résulte un vide en matière de responsabilité, dans lequel la responsabilité des préjudices occasionnés par les grands modèles de langage peut être répartie entre les cliniciens, les établissements et les fournisseurs. Cet écart répartit les préjudices de manière inéquitable, en particulier dans les pays à revenus faibles et intermédiaires où le cadre réglementaire en matière de santé numérique en est à ses balbutiements. Nous proposons une délégation méritée comme norme préalable au déploiement: l’autorité ne devrait être déléguée que lorsque les preuves sont proportionnées au risque clinique, qu’une supervision humaine substantielle est intégrée et dotée des ressources nécessaires et que la responsabilité des modes de défaillance prévisibles est attribuée à l’avance. Pour mettre en œuvre cette norme, les systèmes de santé doivent adopter une charte de responsabilité préalable au déploiement précisant l’usage prévu, les utilisations exclues, les preuves de validation, la conception de la supervision, les procédures d’escalade, la capacité d’audit, l’évaluation des performances par sous-groupes et les parties responsables désignées. Cette charte doit s’intégrer aux structures existantes d’évaluation, d’accréditation et d’approvisionnement par des institutions. Cette délégation méritée offre un cadre de gouvernance que les ministères de la Santé, les autorités de régulation et les dirigeants d’établissements peuvent adopter afin de garantir que l’utilisation des grands modèles de langage erve les objectifs de santé publique sans les dépasser. Los grandes modelos lingüísticos (Large Language Models, LLM) se están introduciendo en los flujos de trabajo clínicos antes de que a las instituciones sanitarias les dé tiempo a atribuir correctamente la responsabilidad por los errores derivados de su uso. Esta situación está generando brechas de gobernanza, cuyas consecuencias se extienden más allá de los pacientes individuales y afectan a los sistemas de salud pública. El resultado es una ausencia de rendición de cuentas, ya que la responsabilidad por el perjuicio causado por los grandes modelos lingüísticos puede repartirse entre los médicos, las instituciones y los proveedores de dichos modelos. Este vacío de responsabilidad distribuye el perjuicio de forma injusta, especialmente en aquellos países de renta baja y media en los que aún se está desarrollando la infraestructura reglamentaria en el ámbito de la salud digital. Proponemos la delegación basada en el mérito como norma previa al despliegue: la autoridad únicamente debería delegarse cuando el nivel de evidencia sea proporcional al riesgo clínico, cuando haya una supervisión humana real que esté integrada y dotada de recursos, y cuando se haya asignado con antelación la responsabilidad por los defectos previsibles. Para hacer operativa esta norma, los sistemas de salud deberían aprobar un documento de responsabilidad previa al despliegue en el que se especifique el uso previsto, el uso excluido, la evidencia de validación, el diseño de la supervisión, los procedimientos de escalamiento, la auditabilidad y la revisión del rendimiento del subgrupo, así como las partes designadas con obligación de rendir cuentas. Este documento debe integrarse en las estructuras ya existentes de revisión institucional, acreditación y contratación. La delegación basada en el mérito ofrece un marco de gobernanza que pueden adoptar los ministerios de sanidad, los organismos reguladores y las autoridades institucionales para garantizar que el uso de los grandes modelos lingüísticos esté al servicio de los objetivos de la salud pública sin rebasar su capacidad de control. تدخل النماذج اللغوية الكبيرة في عمليات سير العمل الإكلينيكية بوتيرة أسرع من قدرة مؤسسات الرعاية الصحية على تحديد المسؤولية عن إخفاقاتها. يُؤدي هذا الموقف إلى ثغرات في الحوكمة، مع تبعات تتجاوز المرضى الأفراد لتشمل أنظمة الصحة العامة. والنتيجة هي عدم وجود مساءلة، حيث تتوزع مسؤولية الضرر الناجم عن النماذج اللغوية الكبيرة بين الأطباء والمؤسسات والموردين. تؤدي هذه الفجوة في المسؤولية إلى توزيع الضرر بشكل غير عادل، لا سيما في الدول ذات الدخل المنخفض والدخل المتوسط، حيث لا تزال البنية التحتية التنظيمية للصحة الرقمية قيد التطوير. نحن نقترح مبدأ التفويض المكتسب كمعيار قبل النشر: يجب تفويض السلطة فقط عندما تتناسب الأدلة مع المخاطر الإكلينيكية، وعندما يكون الإشراف البشري الفعال مدمجًا ومدعمًا بالموارد، وعندما يتم مسبقًا تحديد المسؤولية عن أنماط الفشل المتوقعة. لوضع هذا المعيار القياسي قيد التنفيذ، يجب على أنظمة الرعاية الصحية اتباع ميثاق للمساءلة قبل النشر، يُحدد الاستخدام المقصود، والاستخدامات المستبعدة، وأدلة التحقق، وتصميم الإشراف، وآليات التصعيد، وإمكانية التدقيق، ومراجعة أداء المجموعات الفرعية، والأطراف المسؤولة المُعينة. يجب دمج هذا الميثاق في الهياكل القائمة للمراجعة المؤسسية، والاعتماد، والمشتريات. يوفر التفويض المكتسب إطار عمل للحوكمة يمكن لوزارات الصحة والهيئات التنظيمية والقادة المؤسسيين اتباعه لضمان أن استخدام النماذج اللغوية الكبيرة يخدم أهداف الصحة العامة دون أن يتعداها. 大语言模型正在迅速进入临床工作流程,其速度远超过医疗保健机构界定失误责任的速度。这一情况形成了治理空白,其导致的后果已超出个体患者,延伸至公共卫生体系。其结果便是产生问责真空,由大语言模型介导产生的损害的责任分散至临床工作者、相关机构和供应商。这一责任缺口会导致损害后果分配不公,尤其是在数字医疗监管体系仍在建设之中的中低收入国家。我们提议将获权授权作为部署前标准:只有当证据与临床风险成比例、纳入实质性人工监督并配备相关资源,以及提前界定可预见的失误模式的责任,才可下放权限。为将这一标准付诸实践,医疗体系应当采纳一份部署前问责宪章,注明预期用途、禁用用途、验证证据、监督机制设计、逐级上报路径、可审计性、亚组性能评估以及具名责任方。此宪章应当被整合至现有的机构审查、资质认定以及采购体系。获权授权提供的治理框架可供各国卫生部门、监管机构及机构领导采用,以确保大语言模型的应用可为公共卫生目标提供服务,且不会超前于他们的节奏。. Большие языковые модели внедряются в клинические рабочие процессы быстрее, чем учреждения здравоохранения успевают определять ответственных за сбои в их работе. Такая ситуация приводит к кризису управления, что влечет за собой последствия не только для конкретных пациентов, но и для всей системы здравоохранения. В результате возникает вакуум подотчетности, при котором вина за вред, причиненный вследствие применения больших языковых моделей, может быть возложена одновременно на врачей, медицинские организации и поставщиков технологий. Этот дефицит ответственности приводит к тому, что бремя ущерба распределяется неравномерно, особенно в странах с низким и средним уровнем дохода, где нормативно-правовая база в сфере цифрового здравоохранения еще недостаточно развита. Мы предлагаем использовать принцип обоснованного делегирования в качестве обязательного стандарта, предшествующего внедрению. Это значит, что полномочия должны делегироваться только тогда, когда доказательная база соразмерна клиническому риску, контроль со стороны человека полностью интегрирован и подкреплен ресурсами, а ответственность за возможные сбои распределена заранее. Чтобы этот стандарт заработал на практике, системам здравоохранения необходимо перед использованием таких инструментов принять хартию ответственности, в которой прописаны целевое назначение технологии, запрещенные варианты использования, результаты валидации, структура надзора, алгоритмы эскалации, возможность проведения аудита, анализ эффективности в подгруппах и указаны поименно ответственные лица. Хартию необходимо интегрировать в уже существующие структуры институционального контроля, аккредитации и закупок. Принцип обоснованного делегирования предлагает структуру управления, которую министерства здравоохранения, регулирующие органы и руководители учреждений могут взять на вооружение, чтобы применение больших языковых моделей служило целям общественного здравоохранения и не выходило из-под контроля.
Schlagwörter
MeSH-Schlagwörter (MEDLINE)
Autor:innen und Institutionen
- Department of Basic and Clinical Translational Sciences, Tufts University School of Dental Medicine, One Kneeland Street, Boston, MA02111, United States of America.
Zitieren
APA
Mourão, C. F., & Juliasse, L. E. (2026). Accountability for large language models in health care. Bulletin of the World Health Organization. https://doi.org/10.2471/blt.26.296186
Vancouver
Mourão CF, Juliasse LE. Accountability for large language models in health care. Bulletin of the World Health Organization. 2026. doi:10.2471/blt.26.296186
BibTeX
@article{Mouro2026,
author = {Mourão, Carlos Fernando and Juliasse, Luiz Eduardo},
title = {Accountability for large language models in health care},
journal = {Bulletin of the World Health Organization},
year = {2026},
doi = {10.2471/blt.26.296186}
}
EUVIMED