A method for constructing fully interpretable linear regressions with statistically significant estimates according to the Student’s criterion and insignificant intercorrelation coefficients
Numerical Methods and Programming (Vychislitel'nye Metody i Programmirovanie) · 06.10.2025 · 26 (4) · 534-547
DOI: 10.26089/nummet.v26r435 ↗Kurz gefasst
Fachartikel in der Zeitschrift Numerical Methods and Programming (Vychislitel'nye Metody i Programmirovanie), online erschienen am 06.10.2025. Verfasst von M.P. Bazilevskiy. Die Arbeit wurde bisher 2-mal zitiert (Crossref) und nennt 23 Literaturangaben.
Abstract (Originalsprache)
The article is devoted to the urgent problem of constructing interpretable machine learning models, namely, multiple linear regression models. To estimate their unknown parameters, ordinary least squares is used. A probabilistically-statistical definition of fully interpretable linear regression is formulated. Its construction involves selecting the optimal number of most informative regressors based on determination coefficients in order to ensure consistency between the signs of regression coefficients and the substantive meanings of variables. Additionally, estimates are ensured to be significant and intercorrelation coefficients insignificant by using Student’s t-test. To construct fully interpretable regressions, we propose a method that uses mixed 0-1 integer linear programming. Both strict and non-strict versions of this method are considered. Computational experiments were carried out, which in most cases showed the effectiveness of the proposed method compared to the generating all subsets method. Статья посвящена актуальной проблеме построения интерпретируемых моделей машинного обучения, а именно, моделей множественной линейной регрессии. Для оценки их неизвестных параметров использован метод наименьших квадратов. Сформулировано вероятностно-статистическое определение вполне интерпретируемой линейной регрессии. Её построение связанно с отбором оптимального по коэффициенту детерминации количества наиболее информативных регрессоров так, чтобы гарантировать согласованность знаков коэффициентов регрессии содержательному смыслу переменных. К тому же обеспечивать значимость оценок и незначимость коэффициентов интеркорреляций по t-критерию Стьюдента. Для построения вполне интерпретируемых линейных регрессий предложен метод, основанный на применении аппарата частично булевого линейного программирования. Рассмотрены его строгая и нестрогая разновидности. Проведены вычислительные эксперименты, показавшие в большинстве случаев эффективность предложенного метода по сравнению с методом всех возможных регрессий.
Zitieren
APA
Bazilevskiy, M. (2025). A method for constructing fully interpretable linear regressions with statistically significant estimates according to the Student’s criterion and insignificant intercorrelation coefficients. Numerical Methods and Programming (Vychislitel'nye Metody i Programmirovanie), 26(4), 534-547. https://doi.org/10.26089/nummet.v26r435
Vancouver
Bazilevskiy M. A method for constructing fully interpretable linear regressions with statistically significant estimates according to the Student’s criterion and insignificant intercorrelation coefficients. Numerical Methods and Programming (Vychislitel'nye Metody i Programmirovanie). 2025;26(4):534-547. doi:10.26089/nummet.v26r435
BibTeX
@article{Bazilevskiy2025,
author = {Bazilevskiy, M.P.},
title = {A method for constructing fully interpretable linear regressions with statistically significant estimates according to the Student’s criterion and insignificant intercorrelation coefficients},
journal = {Numerical Methods and Programming (Vychislitel'nye Metody i Programmirovanie)},
year = {2025},
volume = {26},
number = {4},
pages = {534--547},
doi = {10.26089/nummet.v26r435}
}
EUVIMED