EUVIMEDEUVIMED entdecken
Crossref

Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!

László Balkányi

Lege Artis Medicinae · 2026 · 36 (4-5) · 211-217

DOI: 10.33616/lam.36.0211 ↗

Kurz gefasst

Fachartikel in der Zeitschrift Lege Artis Medicinae, 2026. Verfasst von László Balkányi.

AbstractBibliografische AngabenZitierenVerwandte Studien

Abstract (Originalsprache)

Az orvoslásban a magyarázatra képes mesterséges intelligencia (MMI) a post-hoc értelmezés felől egy, az orvosi, klinikai gondolkodásnak jobban megfelelő, az átláthatóságot, a reprodukálhatóságot, a bizonytalanság csökkentését és a bizonyítékokon alapuló érvelést is magában foglaló, tágabb eszköztár használata felé fejlődik – legutóbbi számunkban áttekintettük a jelen helyzetet. Most az izgalmas közeljövőre fókuszálunk: a szakirodalom szerint a klinikailag értelmezhető magyarázhatóság már nem korlátozódik a például korábban említett szaliens térképekre vagy a grádiens attribúció ábrákra, hanem az orvosi mesterségesintelligencia-rendszer teljes folyamatát átláthatóvá teszi: az adatok eredetétől, a modell tervezésén, az értékelésen, a jelentéskészítésen át egészen az eredményekig és a bevezetés utáni nyomon követésig. Az elmúlt két-három évben a következő, párhuzamosan haladó fejlesztéseket figyelhetjük meg: 1) a szakterület a belsőleg értelmezhető és koncepcióalapú modellek felé halad, melyek klinikailag értelmezhető közbenső koncepcióikat is bemutatják, látens reprezentációk helyett; 2) a multimodális és longitudinális MMI-k lehetővé teszik a magyarázatot a szövegek, képek, biológiai jelek integrált, strukturált bemutatásával – mindezt az időtengely mentén; 3) a megújuló neuroszimbolikus módszerek ötvözik a neurális modellek rugalmasságát a szimbolikus szabályok és tudásgráfok ellenőrizhetőségével és determinizmusával; 4) a bizonytalanságot figyelembe vevő módszerek, beleértve a kalibrálást és a konformális predikciót, kulcsfontosságú magyarázó eszközökké válnak, jelezve, mikor nem szabad megbízni egy modellben; 5) elismerést kapott, hogy az MI-magyarázatoknak nem csupán a kimenetet kell igazolniuk, hanem csökkenteniük kell a folyamat során a kognitív torzításokat mind az algoritmusok, mind az orvosok esetében. Összességében a reprodukálhatóság és az átláthatóság egyre inkább formalizálódik olyan iránymutatások révén, mint a TRIPOD+AI, a PROBAST+AI és a FUTURE-AI. A jövőben az MMI-t valószínűleg kevésbé az alapján fogják megítélni, hogy hihető indoklásokat generál-e, hanem inkább az alapján, hogy nyomon követhető bizonyítékokat, kalibrált bizonytalanságot, reprodukálható eredményeket és klinikailag hasznos érvelést nyújt-e a valós körülmények között.

Zitieren

APA

Balkányi, L. (2026). Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!. Lege Artis Medicinae, 36(4-5), 211-217. https://doi.org/10.33616/lam.36.0211

Vancouver

Balkányi L. Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!. Lege Artis Medicinae. 2026;36(4-5):211-217. doi:10.33616/lam.36.0211

BibTeX
@article{Balknyi2026,
  author = {Balkányi, László},
  title = {Irány az átlátható, reprodukálható, multimodális és bizonyítékokon alapuló klinikai mesterséges intelligencia!},
  journal = {Lege Artis Medicinae},
  year = {2026},
  volume = {36},
  number = {4-5},
  pages = {211--217},
  doi = {10.33616/lam.36.0211}
}
Kostenlos starten →