Συγκριτική αξιολόγηση τεχνικών μετεκπαίδευσης πρωτεϊνικών γλωσσικών μοντέλων σε βιολογικές εφαρμογές
Aristotle University of Thessaloniki · 01.01.2024
DOI: 10.26262/heal.auth.ir.360905 ↗Kurz gefasst
Fachartikel in der Zeitschrift Aristotle University of Thessaloniki, erschienen am 01.01.2024. Verfasst von Evangelos Stamkopoulos.
Abstract (Originalsprache)
Η παρούσα διατριβή διερευνά την εφαρμογή Μοντέλων Γλώσσας Πρωτεϊνών (Protein Language Models - PLMs) σε ένα ευρύ φάσμα βιολογικών προβλημάτων, αξιοποιώντας τεχνικές μεταφοράς μάθησης (transfer learning - TL). Πραγματοποιήθηκε μια συστηματική ανάλυση προηγμένων μεθόδων TL σε σύγχρονα PLMs για να αξιολογηθεί πώς αυτές οι μέθοδοι μπορούν να αξιοποιήσουν την αποθηκευμένη γνώση των μοντέλων για την επίλυση προβλημάτων μηχανικής πρωτεϊνών. Πραγματοποιώντας περισσότερα από 1500 πειράματα, διεξήχθη συγκριτική ανάλυση σε τρεις τεχνικές μεταφοράς μάθησης: εξαγωγή χαρακτηριστικών (feature extraction), προσαρμογή χαμηλής τάξης (low-rank adaptation) και προσαρμογείς στένωσης (bottleneck adapters), καθεμία ενσωματωμένη σε προεκπαιδευμένα μοντέλα για την προσαρμογή τους σε συγκεκριμένα προβλήματα που σχετίζονται με πρωτεΐνες. Αναπτύχθηκε ένα πλαίσιο, η πλατφόρμα PLMFit, για να διευκολύνει την μεταφορά γνώσης των PLMs, εξασφαλίζοντας ότι όλες οι διαδικασίες είναι αναπαραγώγιμες και προσβάσιμες για ερευνητές με διάφορα επίπεδα τεχνογνωσίας. Ο πηγαίος κώδικας της πλατφόρμας είναι διαθέσιμος στο https://github.com/LSSI-ETH/plmfit
Schlagwörter
Zitieren
APA
Stamkopoulos, E. (2024). Συγκριτική αξιολόγηση τεχνικών μετεκπαίδευσης πρωτεϊνικών γλωσσικών μοντέλων σε βιολογικές εφαρμογές. Aristotle University of Thessaloniki. https://doi.org/10.26262/heal.auth.ir.360905
Vancouver
Stamkopoulos E. Συγκριτική αξιολόγηση τεχνικών μετεκπαίδευσης πρωτεϊνικών γλωσσικών μοντέλων σε βιολογικές εφαρμογές. Aristotle University of Thessaloniki. 2024. doi:10.26262/heal.auth.ir.360905
BibTeX
@article{Stamkopoulos2024,
author = {Stamkopoulos, Evangelos},
title = {Συγκριτική αξιολόγηση τεχνικών μετεκπαίδευσης πρωτεϊνικών γλωσσικών μοντέλων σε βιολογικές εφαρμογές},
journal = {Aristotle University of Thessaloniki},
year = {2024},
doi = {10.26262/heal.auth.ir.360905}
}
EUVIMED