1.模型構建的理論基礎不同
支持向(xiang)(xiang)量(liang)機(ji)回歸(SVR)基于統計(ji)學(xue)習理(li)(li)論(lun)，其主要思想(xiang)是(shi)(shi)找到一個超平(ping)(ping)面，使得大部分數據(ju)點都在這(zhe)個超平(ping)(ping)面的(de)一定(ding)范圍內，并且離這(zhe)個超平(ping)(ping)面盡可(ke)能近。而偏最(zui)小二乘(cheng)支持向(xiang)(xiang)量(liang)機(ji)(PLS-SVM)是(shi)(shi)在支持向(xiang)(xiang)量(liang)機(ji)的(de)基礎上，引入了偏最(zui)小二乘(cheng)法(fa)的(de)思想(xiang)，通過最(zui)大化協方差，將高(gao)維(wei)(wei)數據(ju)進行降(jiang)維(wei)(wei)處理(li)(li)，以解決高(gao)維(wei)(wei)數據(ju)的(de)處理(li)(li)問(wen)題(ti)。
2.特征選擇與處理的方式不同
SVR通常對(dui)所有的(de)(de)特(te)(te)征(zheng)(zheng)都進(jin)行處(chu)理，不會(hui)進(jin)行特(te)(te)征(zheng)(zheng)選(xuan)擇或者降維。而PLS-SVM在(zai)模型構建過程中，會(hui)通過最大化自變(bian)量和因變(bian)量之間的(de)(de)協方(fang)差，將原始的(de)(de)高維特(te)(te)征(zheng)(zheng)轉化為低(di)維的(de)(de)新特(te)(te)征(zheng)(zheng)，這對(dui)于處(chu)理高維數(shu)據和解(jie)決多重共(gong)線性(xing)問題具有優勢。
3.計算復雜度和效率不同
SVR在(zai)處理高(gao)(gao)維數據(ju)時(shi)，需要求(qiu)解(jie)一個復雜(za)的優化問題，計算復雜(za)度(du)較高(gao)(gao)，尤其是在(zai)數據(ju)量較大時(shi)。而PLS-SVM在(zai)模型構(gou)建(jian)過程中(zhong)，由于進行了降(jiang)維處理，因此其計算復雜(za)度(du)和效率較SVR有所提高(gao)(gao)。
4.模型魯棒性不同
SVR具有較好的(de)(de)魯(lu)棒性(xing)，對于數(shu)據中的(de)(de)噪聲(sheng)和異(yi)(yi)常值有較強的(de)(de)容忍能力。而PLS-SVM由于進行(xing)了降維處(chu)理，模型對數(shu)據的(de)(de)敏(min)感性(xing)較高，對于數(shu)據中的(de)(de)噪聲(sheng)和異(yi)(yi)常值的(de)(de)處(chu)理能力略(lve)遜于SVR。
5.模型的解釋性不同
PLS-SVM由于(yu)在(zai)模型構建(jian)過程中進行了降維處理，因此在(zai)模型解釋(shi)(shi)性上(shang)可(ke)能優(you)于(yu)SVR，可(ke)以更好地理解特征與響應之間的關系(xi)。而(er)SVR雖然(ran)預測精度高，但(dan)是模型的解釋(shi)(shi)性相對較弱。
延伸閱讀
回歸模型的選擇考量
在(zai)實際的(de)數(shu)(shu)據(ju)分析(xi)過程(cheng)中，選(xuan)擇(ze)哪種(zhong)(zhong)回歸模(mo)(mo)型主(zhu)要取(qu)決(jue)于(yu)數(shu)(shu)據(ju)的(de)特性(xing)和分析(xi)目標(biao)。如果(guo)數(shu)(shu)據(ju)存(cun)在(zai)多重共線性(xing)，或者特征維(wei)度較(jiao)高(gao)，可以(yi)選(xuan)擇(ze)PLS-SVM進行降維(wei)處理。如果(guo)數(shu)(shu)據(ju)具有較(jiao)強的(de)非線性(xing)關系，可以(yi)選(xuan)擇(ze)SVR來捕捉(zhuo)這種(zhong)(zhong)非線性(xing)關系。同(tong)時，也(ye)要考(kao)慮(lv)模(mo)(mo)型的(de)計算復雜度，解(jie)釋性(xing)等因素(su)。而在(zai)實際應用中，往(wang)往(wang)會嘗試多種(zhong)(zhong)模(mo)(mo)型，通過交叉驗證等方法比較(jiao)模(mo)(mo)型的(de)預測(ce)性(xing)能(neng)，以(yi)選(xuan)擇(ze)最合適的(de)模(mo)(mo)型。
