Comparison of Some Variable Selection Techniques in Regression Analysis

Abstract

This work is licensed under Creative Commons Attribution 4.0 License AJBSR.MS.ID.001044.

Çoklu Bağlanti Durumunda Kentleşme Göstergeleri̇nden Agrega Üreti̇m Mi̇ktarinin Tahmi̇ni̇

“…Hesaplanarak bulunan F istatistiği, önceden seçilmiş α önem düzeyinde anlamlı ise, bu değişken modele alınır ve ileriye doğru seçim yöntemi devam eder. Bu işlem, herhangi bir bağımsız değişken için hesaplanan F istatistiği değerinin, seçilen α önem düzeyi F istatistiği değerini aşamadığı durumda veya modele son aday bağımsız değişken eklendiğinde sona erer (Topal v.d., 2010;Maxwell, 2019). Haque v.d.…”

“…Daha sonraki kademelerde her defasında en düşük kısmi F istatistik değerine sahip olan bağımsız değişken, seçilen α önem düzeyi F istatistiği değerine göre önemsiz ise modelden kaldırılmak sureti ile işleme devam edilir. En düşük kısmi F istatistik değerine sahip değişkenin katkısı istatistiki olarak önemli ise kaldırma işlemi gerçekleştirilmez ve işlem orada durdurulur (Kayaalp v.d., 2015;Maxwell, 2019). Yalçın, (2020) çoklu bağlantı olduğu durumlarda geriye doğru regresyonla eleme yönteminin genelde kabul gördüğünü belirtmektedir.…”

Diagnosis of Hepatitis Disease with Logistic Regression and Artificial Neural Networks

“…Forward and backward stepwise selection methods are two different algorithms used to provide reliable LR models as well as to reduce the model complexity (Maxwell and Obinna, 2018). In the forward stepwise algorithm, the model is built by moving forward iteratively where the initial model has only the constant term, β 0 .…”

“…The magnitude of a coefficient β, assigned to a certain attribute on the Logit function, represents the importance degree of this attribute. On the other hand, the stepwise LR modeling is an iterative process that involves the inclusion or removal of attributes to or from the model during the learning process (Maxwell and Obinna, 2018). At every iteration, a specified fraction of attributes is included or eliminated based on the ranking of their weights, until the required number of attributes are left or the prediction errors do not decrease.…”

“…In each iteration, an attribute is considered for addition to or removal from the prediction process based on some prespecified criterion. Stepwise regression provides the ability to handle large amounts of possible attributes and to configure the model precisely (Hosmer and Lemeshow, 2000;Maxwell and Obinna, 2018). The order in which the attributes are added or removed can provide valuable information about their significances.…”