用簡(jiǎn)化的孿生支持向量回歸機(jī)同步學(xué)習(xí)函數(shù)及其導(dǎo)數(shù).pdf

1、孿生支持向量回歸(Twin Support Vector Regression，TSVR)算法是在Jayadeva等提出的孿生支持向量機(jī)(TSVM)基礎(chǔ)上的一種新回歸算法。其基本思想是構(gòu)造一對(duì)非平行的超平面，它們分別確定目標(biāo)回歸函數(shù)的ε-不敏感上、下界函數(shù)，最終目標(biāo)函數(shù)取為上、下界函數(shù)的平均值。而簡(jiǎn)化的孿生支持向量回歸(Reduced TwinSupport Vector Regression，RTSVR)算法是通過引入矩形核的概念，將

2、孿生支持向量回歸機(jī)中的QPP簡(jiǎn)化。同步研究函數(shù)及其導(dǎo)數(shù)問題，在很多領(lǐng)域都有廣泛應(yīng)用。本文圍繞著如何運(yùn)用簡(jiǎn)化的孿生支持向量回歸機(jī)同步學(xué)習(xí)函數(shù)及其導(dǎo)數(shù)這個(gè)課題，展開了以下的工作：
　　 本文分析了傳統(tǒng)的支持向量回歸(SVR)和正則化的最小二乘支持向量回歸(RLSVR)兩種基本的同步學(xué)習(xí)函數(shù)及其導(dǎo)數(shù)的方法；研究了將TSVR算法運(yùn)用到同步學(xué)習(xí)函數(shù)及其導(dǎo)數(shù)的問題上，并分別討論了同時(shí)學(xué)習(xí)單個(gè)實(shí)變量及多個(gè)實(shí)變量的實(shí)值函數(shù)及其導(dǎo)數(shù)的問題。分析該

3、算法的學(xué)習(xí)精度及其收斂性。通過實(shí)驗(yàn)比較SVR、RLSVR、TSVR這三種算法的優(yōu)缺點(diǎn)。
　　 大量的實(shí)驗(yàn)表明TSVR算法在多于一個(gè)變量的回歸中較其它兩種算法有更好的學(xué)習(xí)精度，并且在大型數(shù)據(jù)集中保持了較好的稀疏性。但在大型數(shù)據(jù)集下，解決QPP產(chǎn)生的巨大計(jì)算量使得學(xué)習(xí)效率低下。本文進(jìn)一步通過引入矩形核的概念改進(jìn)了TSVR算法，提出了簡(jiǎn)化的孿生支持向量回歸算法。實(shí)驗(yàn)結(jié)果表明簡(jiǎn)化后的新算法有效的減少了訓(xùn)練所耗時(shí)間，促進(jìn)了它在大型數(shù)據(jù)集情