基于不平衡數(shù)據(jù)集的客戶流失預(yù)測研究.pdf

1、客戶流失預(yù)測是數(shù)據(jù)挖掘算法在客戶關(guān)系管理(CRM)的一個具體應(yīng)用。數(shù)據(jù)挖掘領(lǐng)域目前面臨的主要問題之一就是數(shù)據(jù)不平衡性。傳統(tǒng)的數(shù)據(jù)挖掘算法以整體預(yù)測精度為訓(xùn)練目標(biāo),這樣就導(dǎo)致多數(shù)類預(yù)測精度高,而少數(shù)類預(yù)測精度差?？蛻袅魇ьA(yù)測同樣也面臨了數(shù)據(jù)不平衡的問題,即流失客戶預(yù)測精度差。例如,據(jù)調(diào)查,電信業(yè)的月平均流失客戶為2％左右,如果全部將客戶預(yù)測為正?？蛻?那么預(yù)測的整體精度就高達(dá)98％。雖然整體預(yù)測精度很高,但是對流失客戶的預(yù)測精度卻為0％。

2、顯然,這樣的預(yù)測結(jié)果不能體現(xiàn)客戶流失預(yù)測的價值,因此數(shù)據(jù)不平衡性成為影響客戶流失預(yù)測精度的主要障礙。隨著電信、金融等服務(wù)業(yè)對客戶流失的關(guān)切度逐漸提高,研究如何解決客戶流失預(yù)測中面臨的數(shù)據(jù)不平衡問題就變得越來越重要。
　　 本文從研究數(shù)據(jù)挖掘領(lǐng)域中解決數(shù)據(jù)不平衡問題的方法入手,對克服客戶流失預(yù)測中的數(shù)據(jù)不平衡問題進(jìn)行了兩個主要方面的研究,一是對數(shù)據(jù)的平衡處理,二是對傳統(tǒng)機(jī)器學(xué)習(xí)算法的改進(jìn),具體有以下三方面內(nèi)容:
　　 (一

3、)本文研究了數(shù)據(jù)挖掘領(lǐng)域中常用于克服數(shù)據(jù)不平衡性的隨機(jī)欠抽樣法、SMOTE抽樣法在客戶流失預(yù)測領(lǐng)域的應(yīng)用。實驗結(jié)果表明,這些抽樣法不一定能有效提高客戶流失預(yù)測的精度,甚至可能降低。針對這兩種抽樣法的缺陷,本文對客戶流失預(yù)測應(yīng)用了重復(fù)隨機(jī)欠抽樣法,實驗結(jié)果表明,該方法能有效提高客戶流失預(yù)測精度。結(jié)論是該方法適合用于數(shù)據(jù)不平衡的客戶流失預(yù)測。
　　 (二)本文研究了目前解決不平衡數(shù)據(jù)分類問題的算法之一的優(yōu)化AUC算法在客戶流失預(yù)測領(lǐng)

4、域的應(yīng)用。AUC是目前評價分類器對不平衡數(shù)據(jù)分類性能的主要評價標(biāo)準(zhǔn)。優(yōu)化AUC算法即是以優(yōu)化AUC值來獲得最優(yōu)的分類器算法,目前研究比較成熟的是基于梯度法優(yōu)化AUC的線性分類器算法。本文基于梯度法容易陷于局部極值的缺陷,提出了用具有全局優(yōu)化能力的遺傳算法來優(yōu)化AUC。實驗結(jié)果表明,本文提出的改進(jìn)算法優(yōu)于原方法,但兩種方法均不適合于數(shù)據(jù)不平衡的客戶流失預(yù)測。
　　 (三)本文研究了加權(quán)支持向量機(jī)及其改進(jìn)在客戶流失預(yù)測的應(yīng)用。加權(quán)支

5、持向量機(jī)認(rèn)為邊界支持向量一定會被錯誤分類,從而提出通過根據(jù)正類和負(fù)類數(shù)量之比來確定正類和負(fù)類的懲罰參數(shù),以調(diào)節(jié)數(shù)據(jù)不平衡的影響。本文提出的定理5.3.1證明了邊界支持向量不一定會被錯誤分類,在一定程度上否定了加權(quán)支持向量機(jī)。在此基礎(chǔ)上,本文提出了IWSVM,該算法以優(yōu)化AUC為訓(xùn)練目標(biāo),采用遺傳算法優(yōu)化懲罰參數(shù)和核函數(shù)參數(shù)來獲得最優(yōu)的加權(quán)支持向量機(jī)。實驗結(jié)果證明,IWSVM優(yōu)于的加權(quán)支持向量機(jī),也優(yōu)于傳統(tǒng)算法之一的C4.5。該方法適合于