Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!
Lege Artis Medicinae · 2026 · 36 (4-5) · 211-217
DOI: 10.33616/lam.36.0211 ↗Kurz gefasst
Fachartikel in der Zeitschrift Lege Artis Medicinae, 2026. Verfasst von László Balkányi.
Abstract (Originalsprache)
Az orvoslásban a magyarázatra képes mesterséges intelligencia (MMI) a post-hoc értelmezés felől egy, az orvosi, klinikai gondolkodásnak jobban megfelelő, az átláthatóságot, a reprodukálhatóságot, a bizonytalanság csökkentését és a bizonyítékokon alapuló érvelést is magában foglaló, tágabb eszköztár használata felé fejlődik – legutóbbi számunkban áttekintettük a jelen helyzetet. Most az izgalmas közeljövőre fókuszálunk: a szakirodalom szerint a klinikailag értelmezhető magyarázhatóság már nem korlátozódik a például korábban említett szaliens térképekre vagy a grádiens attribúció ábrákra, hanem az orvosi mesterségesintelligencia-rendszer teljes folyamatát átláthatóvá teszi: az adatok eredetétől, a modell tervezésén, az értékelésen, a jelentéskészítésen át egészen az eredményekig és a bevezetés utáni nyomon követésig. Az elmúlt két-három évben a következő, párhuzamosan haladó fejlesztéseket figyelhetjük meg: 1) a szakterület a belsőleg értelmezhető és koncepcióalapú modellek felé halad, melyek klinikailag értelmezhető közbenső koncepcióikat is bemutatják, látens reprezentációk helyett; 2) a multimodális és longitudinális MMI-k lehetővé teszik a magyarázatot a szövegek, képek, biológiai jelek integrált, strukturált bemutatásával – mindezt az időtengely mentén; 3) a megújuló neuroszimbolikus módszerek ötvözik a neurális modellek rugalmasságát a szimbolikus szabályok és tudásgráfok ellenőrizhetőségével és determinizmusával; 4) a bizonytalanságot figyelembe vevő módszerek, beleértve a kalibrálást és a konformális predikciót, kulcsfontosságú magyarázó eszközökké válnak, jelezve, mikor nem szabad megbízni egy modellben; 5) elismerést kapott, hogy az MI-magyarázatoknak nem csupán a kimenetet kell igazolniuk, hanem csökkenteniük kell a folyamat során a kognitív torzításokat mind az algoritmusok, mind az orvosok esetében. Összességében a reprodukálhatóság és az átláthatóság egyre inkább formalizálódik olyan iránymutatások révén, mint a TRIPOD+AI, a PROBAST+AI és a FUTURE-AI. A jövőben az MMI-t valószínűleg kevésbé az alapján fogják megítélni, hogy hihető indoklásokat generál-e, hanem inkább az alapján, hogy nyomon követhető bizonyítékokat, kalibrált bizonytalanságot, reprodukálható eredményeket és klinikailag hasznos érvelést nyújt-e a valós körülmények között.
Zitieren
APA
Balkányi, L. (2026). Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!. Lege Artis Medicinae, 36(4-5), 211-217. https://doi.org/10.33616/lam.36.0211
Vancouver
Balkányi L. Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!. Lege Artis Medicinae. 2026;36(4-5):211-217. doi:10.33616/lam.36.0211
BibTeX
@article{Balknyi2026,
author = {Balkányi, László},
title = {Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!},
journal = {Lege Artis Medicinae},
year = {2026},
volume = {36},
number = {4-5},
pages = {211--217},
doi = {10.33616/lam.36.0211}
}
EUVIMED