Valóban feketedoboz az orvosi mesterséges intelligencia?
Lege Artis Medicinae · 2026 · 36 (1-2) · 35-40
DOI: 10.33616/lam.36.0035 ↗Kurz gefasst
Fachartikel in der Zeitschrift Lege Artis Medicinae, 2026. Verfasst von László Balkányi.
Abstract (Originalsprache)
A tanulmány a magyarázatra képes mesterséges intelligencia (MMI) orvostudományi szükségességét és alkalmazhatóságát vizsgálja. Bár a mélytanulási modellek diagnosztikai pontossága ma már vetekszik a szakorvosokéval, a rendszerek látszólagos feketedoboz-jellege – azaz a döntési folyamat átláthatatlansága – akadályozza a széles körű klinikai elfogadást és veszélyeztetheti a betegbiztonságot. A szerző érvelése szerint valójában szürkedobozról van szó: a folyamat bonyolult, de megfelelő eszközökkel a szükséges mértékig áttekinthetővé tehető. A cikk bemutat néhány főbb MMI-módszert, például a gradiensalapú vizualizációkat: hőtérképekkel mutatják meg, hogy egy orvosi kép mely területei (pixelei) befolyásolták a döntést, segítve a téves asszociációk (például képi hibák) kiszűrését. További példák modellfüggetlen eljárásokra a LIME és a SHAP, melyek bármilyen algoritmusnál képesek számszerűsíteni, hogy mely klinikai változók (laboreredmények tömege esetén) milyen súllyal járultak hozzá egy kockázatbecsléshez. Az MMI alkalmazása azonban kihívásokkal küzd, mint a magyarázatok hűségének bizonytalansága, az orvosok megnövekedett kognitív terhelése és a szabályozási keretek hiánya. A jövőbeli fejlesztések iránya lehet a szabványosított értékelési mutatók bevezetése és az orvosi tudásbázisokat integráló (neuroszimbolikus) modellek fejlesztése is. A konklúzió szerint az MMI nem csupán technikai kiegészítés, hanem az etikus és felelősségteljes orvosi MI-alkalmazás alapfeltétele.
Zitieren
APA
Balkányi, L. (2026). Valóban feketedoboz az orvosi mesterséges intelligencia?. Lege Artis Medicinae, 36(1-2), 35-40. https://doi.org/10.33616/lam.36.0035
Vancouver
Balkányi L. Valóban feketedoboz az orvosi mesterséges intelligencia?. Lege Artis Medicinae. 2026;36(1-2):35-40. doi:10.33616/lam.36.0035
BibTeX
@article{Balknyi2026,
author = {Balkányi, László},
title = {Valóban feketedoboz az orvosi mesterséges intelligencia?},
journal = {Lege Artis Medicinae},
year = {2026},
volume = {36},
number = {1-2},
pages = {35--40},
doi = {10.33616/lam.36.0035}
}
EUVIMED