1、通信運營商客戶流失分析與預測1數據準備目錄通信運營商客戶流失分析需求2特征工程3使用多層感知器算法實現通信運營商客戶流失預測4小結5隨著業務的快速發展、移動業務市場的競爭愈演愈烈。如何最大程度地挽留在網用戶、吸取新客戶，是電信企業最關注的問題之一。競爭對手的促銷、公司資費軟著陸措施的出臺和政策法規的不斷變化，影響了客戶消費心理和消費行為，導致客戶的流失特征不斷變化。對于電信運營商而言，流失會給電信企業帶來市場占有率下降、營銷成本增加、利潤下降等一系列問題。在發展用戶每月增加的同時，如何挽留和爭取更多的用戶，是一項非常重要的工作。隨著機器學習技術的不斷發展和應用，移動運營商希望能借助機器學習算法

2、識別哪些用戶可能流失，什么時候會發生流失。而通過建立流失預測模型，分析用戶的歷史數據和當前數據，提取輔助決策的關鍵性數據，并從中發現隱藏關系和模式，進而預測未來可能發生的行為，就可以幫助移動運營商實現這些要求。通信運營商現狀與需求某運營商提供了不同用戶的三個月使用記錄共900000條數據，共34個特征，其中存在著重復值，缺失值與異常值，其字段說明如下表所示。通信運營商數據基本狀況名稱字段描述MONTH_ID月份USER_ID用戶IDINNET_MONTH在網時長IS_AGREE是否合約有效用戶AGREE_EXP_DATE合約計劃到期時間CREDIT_LEVEL信用等級VIP_LVLVIP等級A

3、CCT_FEE本月費用（元）通信運營商數據基本狀況名稱字段描述CALL_DURA通話時長（秒）NO_ROAM_LOCAL_CALL_DURA本地通話時長（秒）NO_ROAM_GN_LONG_CALL_DURA國內長途通話時長（秒）GN_ROAM_CALL_DURA國內漫游通話時長（秒）CDR_NUM通話次數（次）NO_ROAM_CDR_NUM非漫游通話次數（次）NO_ROAM_LOCAL_CDR_NUM本地通話次數（次）NO_ROAM_GN_LONG_CDR_NUM國內長途通話次數（次）GN_ROAM_CDR_NUM國內漫游通話次數（次）P2P_SMS_CNT_UP短信發送數（條）TOTAL_

4、FLUX上網流量（MB）LOCAL_FLUX本地非漫游上網流量（MB）GN_ROAM_FLUX國內漫游上網流量（MB）CALL_DAYS有通話天數通信運營商數據基本狀況名稱字段描述CALLING_DAYS有主叫天數CALLED_DAYS有被叫天數CALL_RING語音呼叫圈CALLING_RING主叫呼叫圈CALLED_RING被叫呼叫圈CUST_SEX性別CERT_AGE年齡CONSTELLATION_DESC星座MANU_NAME手機品牌名稱MODEL_NAME手機型號名稱OS_DESC操作系統描述TERM_TYPE終端硬件類型（0=無法區分，4=4g、3=3g、2=2g）IS_LOST用

5、戶在3月是否流失標記（1=是，0=否），1月和2月值為空通信運營商客戶流失分析與預測的總體流程如下圖所示，具體步驟如下。通信運營商客戶流失分析與預測的步驟與流程導入原始數據，查找并刪除完全重復的數據。剔除與預測相關性不強的特征，降低維數。對整理后的數據集進行清洗，查找缺失值和異常值，對存在缺失的數據按照一定的規則賦值，刪除異常數據。合并用戶的基本信息特征，將3個月的記錄合并為一條。簡化手機品牌和操作系統特征，并進行獨熱編碼便于構建模型。將合并后的數據集劃分為訓練集和測試集，并對數據進行標準化處理。基于訓練集構建客戶流失預測模型。在測試集上應用客戶流失預測模型，并對預測結果進行評價餐飲企業數據分

6、析的步驟與流程1數據準備目錄通信運營商客戶流失分析需求2特征工程3使用多層感知器算法實現通信運營商客戶流失預測4小結5原始數據中存在一部分重復記錄，刪除這部分重復記錄，并查找原始數據中是否存在重復的特征，如下代碼所示。數據去重與降維In1:import osimport pandas as pd# 讀取數據文件data = pd.read_csv(./data/USER_INFO_M.csv, index_col=0,encoding = gbk)print(原始數據形狀為：,data.shape)Out1:原始數據形狀為： (900000, 34)In2:# 去除重復記錄data_drop

7、= pd.DataFrame.drop_duplicates(data,subset=None,keep=first,inplace=False)print(刪除重復記錄后的數據形狀為：,data_drop.shape)Out2:刪除重復記錄后的數據形狀為： (899904, 34)數據去重與降維In3:# 查找是否有重復特征# 定義求取特征是否完全相同的矩陣的函數def FeatureEquals(df): dfEquals=pd.DataFrame(,columns=df.columns,index=df.columns) for i in df.columns: for j in df.

8、columns: dfEquals.loci,j=df.loc:,i.equals(df.loc:,j) return dfEqualsdetEquals=FeatureEquals(data_drop) # 應用FeatureEquals函數# 遍歷所有數據lenDet = detEquals.shape0dupCol = for k in range(lenDet): for l in range(k+1,lenDet): if detEquals.ilock,l & (detEquals.columnsl not in dupCol): dupCol.append(detEquals.c

9、olumnsl)# 刪除重復列data_drop.drop(dupCol,axis=1,inplace=True)print(刪除重復列后的數據形狀：,data_drop.shape) Out3:刪除重復列后的數據形狀： (899904, 34)原始數據中的用戶性別、年齡和星座等信息與用戶流失預測相關性很小。因此，可以對原數據集進行降維處理，如下代碼所示。數據去重與降維In4:# 數據降維del data_dropMODEL_NAME # 手機型號del data_dropAGREE_EXP_DATE # 刪除合約是否到期del data_dropCUST_SEX # 性別del data_d

10、ropCONSTELLATION_DESC # 星座del data_dropCERT_AGE # 年齡print(降維后的數據形狀為:, data_drop.shape)Out4:降維后的數據形狀為: (899904, 29)檢測數據中是否存在的缺失值，如下代碼所示。數據清洗1. 缺失值處理In5:# 統計各個特征的缺失率naRate = (data_drop.isnull().sum()/data_drop.shape0*100).astype(str)+%print(data每個特征缺失的率為：n,naRate)Out5:data每個特征缺失的率為： USER_ID 0.0%INNET_

11、MONTH 0.0%IS_AGREE 0.0%CREDIT_LEVEL 0.0%OS_DESC 4.243230389019273%TERM_TYPE 0.0%IS_LOST 66.63633009743262%dtype: object)由上代碼可知，其中IS_LOST為客戶是否流失的標簽字段不需要進行插補，而VIP等級（VIP_LVL）和操作系統（OS_DESC）的缺失值較多，需要進行插補，如下代碼所示。數據清洗1. 缺失值處理In6:# VIP等級為nan的補0data_dropVIP_LVL = data_dropVIP_LVL.fillna(0)# 操作系統缺失的 填補ANDROID

12、data_dropOS_DESC = data_dropOS_DESC.fillna(ANDROID)print(處理缺失值后數據集的形狀為：,data_drop.shape) Out6:處理缺失值后數據集的形狀為： (899904, 29)對數據集中的每一列進行統計分析，查看是否存在異常值，如下代碼所示。數據清洗2. 異常值處理In6:# 對列統計分析data_drop.describe()Out6: INNET_MONTH IS_AGREE CREDIT_LEVEL VIP_LVL ACCT_FEE count899904.000000899904.000000899904.0000008

13、99904.000000899904.000000mean34.5079150.51039366.01682652.388983118.595064 std34.2320390.4998920.95860748.936066167.792836 min-251.0000000.0000000.0000000.0000000.010000 25%10.0000000.00000065.0000000.00000054.850000 50%24.0000001.00000066.00000099.00000086.000000 75%49.0000001.00000067.00000099.000

14、000143.580000 max249.0000001.00000067.00000099.00000065007.210000 由上代碼可知，在網時長（INNET_MONTH）出現小于0的異常值，本月費用（ACCT_FEE）出現大于40000的異常值，需要對這部分異常數據進行刪除處理，如下代碼所示。數據清洗2. 異常值處理In8:# 刪除異常數據data_drop = data_dropdata_dropINNET_MONTH = 0data_drop = data_dropdata_dropACCT_FEE 400000print(處理異常值后數據集的形狀為：,data_drop.sha

15、pe)data_drop.to_csv(./tmp/data_drop.csv, encoding=utf8)Out8:處理異常值后數據集的形狀為： (899901, 29)將數據按照用戶ID分組，求出每個用戶的費用、通話時長等基本特征三個月內的中位數和方差，如下代碼所示。數據合并1. 分組計算用戶基本特征的中位數和方差In1:import osimport pandas as pdimport numpy as npdata_drop = pd.read_csv(./tmp/data_drop.csv, encoding=utf8)data_group = data_drop.groupby

16、(USER_ID).agg(ACCT_FEE:np.median,np.var, CALL_DURA:np.median,np.var, CDR_NUM:np.median,np.var, NO_ROAM_LOCAL_CALL_DURA:np.median,np.var, NO_ROAM_LOCAL_CDR_NUM:np.median,np.var, NO_ROAM_GN_LONG_CALL_DURA:np.median,np.var, NO_ROAM_GN_LONG_CDR_NUM:np.median,np.var, GN_ROAM_CALL_DURA:np.median,np.var, G

17、N_ROAM_CDR_NUM:np.median,np.var, NO_ROAM_CDR_NUM:np.median,np.var,數據合并1. 分組計算用戶基本特征的中位數和方差In1: P2P_SMS_CNT_UP:np.median,np.var, TOTAL_FLUX:np.median,np.var, LOCAL_FLUX:np.median,np.var, GN_ROAM_FLUX:np.median,np.var, CALL_DAYS:np.median,np.var, CALLING_DAYS:np.median,np.var, CALLED_DAYS:np.median,np

18、.var, CALL_RING:np.median,np.var, CALLING_RING:np.median,np.var, CALLED_RING:np.median,np.var, INNET_MONTH:np.median,np.var,)print(data_group的形狀為:,data_group.shape)data_group.to_csv(./tmp/data_group.csv, encoding=utf8)Out1:data_group的形狀為: (299967, 42)數據合并2. 合并合約有效情況In2:# 將每個用戶三個月的合約是否有效，合并為一條記錄# 定義合

19、并合約有效記錄函數def fun1(data): if data.shape0 != 3: return 0 elif sum(data.iloc:,1 = 1) = 3: return 1.5 else: return data.iloc-1,1 - data.iloc:2,1.mean()data_agree = data_dropUSER_ID, IS_AGREE.groupby(USER_ID).apply(lambda x:fun1(x)print(data_agree的形狀為:,data_agree.shape)print(data_agree.head()data_agree.t

20、o_csv(./tmp/data_agree.csv, encoding=utf8)將三個月的合約有效情況合并為一條記錄。當三個月的合約有效情況取值不全為1時，用第三個月的值減去前兩個月的均值；當三個月的取值都是1時，取1.5。最后得到的所有合約有效情況的取值將為-1、-0.5、0、0.5、1、1.5，如下代碼所示。數據合并2. 合并合約有效情況Out2:data_agree的形狀為: (299967,)USER_IDU3114031824148707 0.0U3114031824148874 1.5U3114031824148975 1.5U3114031824149138 0.0U3114

21、031824149150 0.0dtype: float64數據合并3. 合并VIP等級In3:# 將每個用戶三個月的VIP等級合并為一條記錄def fun2(data): if data.shape0 != 3: return 0 elif(data.iloc0,1=data.iloc1,1)&(data.iloc0,1=data.iloc2,1): return data.iloc2,1 else: return data.iloc2,1 - data.iloc:2,1.mean()data_vip = data_dropUSER_ID, VIP_LVL.groupby(USER_ID).

22、apply(lambda x:fun2(x)print(data_vip的形狀為:,data_vip.shape)print(data_vip.head()data_vip.to_csv(./tmp/data_vip.csv, encoding=utf8)按用戶ID分組，對于同一個用戶ID，三個月VIP等級的值相等，則取第三個月的值；三個月VIP等級的值都不相等，則使用第三個月的值減去前兩個月的均值。這樣處理就可以突出用戶在三個月內的VIP等級的變化情況，如下代碼所示。數據合并3. 合并VIP等級Out3:data_vip的形狀為: (299967,)USER_IDU3114031824148

23、707 99.0U3114031824148874 99.0U3114031824148975 99.0U3114031824149138 99.0U3114031824149150 99.0dtype: float64數據合并4. 合并信用等級In4:# 取每個用戶三個月信用等級的平均數作為一行記錄data_credit = data_drop.groupby(USER_ID).agg(CREDIT_LEVEL:np.mean,)data_credit.iloc:10print(data_credit的形狀為:,data_credit.shape)print(data_credit.head

24、()data_credit.to_csv(./tmp/data_credit.csv,encoding=utf8)Out4:data_credit的形狀為: (299967, 1)USER_IDCREDIT_LEVELU311403182414870767.0U311403182414887465.0U311403182414897565.0U311403182414913865.0U311403182414915065.0按用戶ID分組，將每個用戶3個月的信用等級求平均值，合并為一條記錄，如下代碼所示。數據合并4. 合并信用等級In5:# 簡化手機品牌string = 蘋果,小米,華為,三星

25、,諾基亞,聯想,LGdef Replace(x=None,string=string): if x not in string: x=其他 return x# 每個ID的手機品牌只取第一個月的data_str = data_drop.groupby(USER_ID).apply(lambda x:x.iloc0)data_manu = data_strMANU_NAME.apply(Replace)print(data_manu的形狀為:, data_manu.shape)print(data_manu.head()將手機品牌簡化為“蘋果”“小米”“華為”“三星”“諾基亞”“聯想”“LG”和“

26、其他”8種，將操作系統簡化為“ANDROID”“IOS”“WINDOWS”“LINUX”“BLACKBERRY”“BADA”和“BB”7種，如下代碼所示。數據合并4. 合并信用等級Out5:data_manu的形狀為: (299967,)USER_IDU3114031824148707 蘋果U3114031824148874 蘋果U3114031824148975 蘋果U3114031824149138 蘋果U3114031824149150 三星Name: MANU_NAME, dtype: objectIn5:# 簡化操作系統# 每個ID的手機操作系統也只取第一個月的data_id = d

27、ata_drop.groupby(USER_ID).apply(lambda x:x.iloc0)data_os = data_idOS_DESC.str.extract(A-Z+) # 保留所有的字母print(data_os的形狀為:, data_os.shape)print(data_os.head()數據合并4. 合并信用等級Out5:data_os的形狀為: (299967, 1)0USER_IDU3114031824148707IOSU3114031824148874IOSU3114031824148975IOSU3114031824149138IOSU31140318241491

28、50ANDROID1數據準備目錄通信運營商客戶流失分析需求2特征工程3使用多層感知器算法實現通信運營商客戶流失預測4小結5因為手機品牌和手機操作系統都是非數值型的數據，而算法模型都要求輸入的特征為數值型。因此，需要對非數值型的數據進行獨熱編碼，如下代碼所示。獨熱編碼In6:# 手機品牌獨熱編碼data_manu = pd.get_dummies(data_manu)print(獨熱編碼后的手機品牌的形狀：, data_manu.shape)print(data_manu.head()data_manu.to_csv(./tmp/data_manu.csv, encoding=utf8)獨熱編碼

29、Out6:獨熱編碼后的手機品牌的形狀： (299967, 8)USER_IDLG三星其他華為小米聯想蘋果諾基亞U311403182414870700000010U311403182414887400000010U311403182414897500000010U311403182414913800000010U311403182414915001000000In7:# 操作系統獨熱編碼data_os = pd.get_dummies(data_os)print(獨熱編碼后的操作系統的形狀：, data_os.shape)print(data_os.head()data_os.to_csv(./

30、tmp/data_os.csv, encoding=utf8)獨熱編碼Out7:獨熱編碼后的操作系統的形狀： (299967, 7)USER_ID0_ANDROID0_BADA0_BB0_BLACKBERRY0_IOS0_LINUX0_WINDOWSU31140318241487070000100U31140318241488740000100U31140318241489750000100U31140318241491380000100U31140318241491501000000將預處理完畢的數據集進行合并，保證待合并的數據框行數一致的情況下，從左往右逐一合并，并為合并后的新數據框重新賦

31、列名，如下代碼所示。合并預處理后的數據集In8:print(data_drop的形狀：, data_drop.shape)print( data_group的形狀：, data_group.shape)print( data_agree的形狀：, data_agree.shape)print( data_vip的形狀：, data_vip.shape)print( data_credit的形狀：, data_credit.shape)print( data_manu的形狀：, data_manu.shape)print( data_os的形狀：, data_os.shape)Out8:data

32、_drop的形狀： (899901, 30)data_group的形狀： (299967, 42)data_agree的形狀： (299967,)data_vip的形狀： (299967,)data_credit的形狀： (299967, 1)data_manu的形狀： (299967, 8)data_os的形狀： (299967, 7)合并預處理后的數據集In8:data_preprocessed = pd.concat(pd.DataFrame(data_group),pd.DataFrame(data_agree), pd.DataFrame(data_vip),pd.DataFrame

33、(data_credit), pd.DataFrame(data_manu),pd.DataFrame(data_os), axis=1)print(合并后數據集的形狀為:, data_preprocessed.shape)data_preprocessed.columns = ACCT_FEE_median,ACCT_FEE_var, CALL_DURA_median,CALL_DURA_var, CDR_NUM_median,CDR_NUM_var, NO_ROAM_LOCAL_CALL_DURA_median, NO_ROAM_LOCAL_CALL_DURA_var, NO_ROAM_L

34、OCAL_CDR_NUM_median, NO_ROAM_LOCAL_CDR_NUM_var, NO_ROAM_GN_LONG_CALL_DURA_median, NO_ROAM_GN_LONG_CALL_DURA_var, NO_ROAM_GN_LONG_CDR_NUM_median, NO_ROAM_GN_LONG_CDR_NUM_var,合并預處理后的數據集In8: GN_ROAM_CALL_DURA_median, GN_ROAM_CALL_DURA_var, GN_ROAM_CDR_NUM_median, GN_ROAM_CDR_NUM_var, NO_ROAM_CDR_NUM_me

35、dian, NO_ROAM_CDR_NUM_var, P2P_SMS_CNT_UP_median, P2P_SMS_CNT_UP_var, TOTAL_FLUX_median,TOTAL_FLUX_var, LOCAL_FLUX_median,LOCAL_FLUX_var, GN_ROAM_FLUX_median,GN_ROAM_FLUX_var, CALL_DAYS_median,CALL_DAYS_var,合并預處理后的數據集In8: CALLING_DAYS_median,CALLING_DAYS_var, CALLED_DAYS_median,CALLED_DAYS_var, CALL

36、_RING_median,CALL_RING_var, CALLING_RING_median,CALLING_RING_var, CALLED_RING_median,CALLED_RING_var, INNET_MONTH_median,INNET_MONTH_var, IS_AGREE,VIP_LVL,CREDIT_LEVEL, LG,三星,其他,華為,小米, 聯想,蘋果,諾基亞, 0_ANDROID,0_BADA,0_BB,0_BLACKBERRY, 0_IOS,0_LINUX,0_WINDOWSprint(data_preprocessed.head()data_preprocess

37、ed.to_csv(./tmp/data_preprocessed.csv, encoding=utf8)合并預處理后的數據集Out9:合并后數據集的形狀為: (299967, 60)USER_IDACCT_FEE_medianACCT_FEE_varCALL_DURA_median U311403182414870776.027.90750011901 U3114031824148874260.32889.99863322991 U3114031824148975166.00.00333318972 U3114031824149138146.22150.29750042921 U311403

38、182414915077.348.8233331206 5 rows 60 columns1數據準備目錄通信運營商客戶流失分析需求2特征工程3使用多層感知器算法實現通信運營商客戶流失預測4小結5在預處理完后的數據集中，隨機抽取80%的數據作為訓練集，20%的建模數據集作為測試集。為了消除各特征之間量綱和取值范圍的差異，還需要對數據進行標準化處理，如下代碼所示。數據集劃分與數據標準化In1:#導入庫import osimport pandas as pdfrom sklearn.model_selection import train_test_splitfrom sklearn.preproc

39、essing import StandardScalerfrom sklearn.neural_network import MLPClassifierfrom sklearn.metrics import classification_report# 導入數據data_drop = pd.read_csv(./tmp/data_drop.csv,encoding = utf-8,index_col = 0 )data_preprocessed = pd.read_csv(./tmp/data_preprocessed.csv,encoding = utf-8, index_col = 0 )

40、數據集劃分與數據標準化In1:# 取data_preprocessed作為輸入，取data_drop中三月份的數據的目標變量作為輸出data_target = data_drop.loc:,USER_ID,IS_LOSTdata_target = data_target.locdata_targetUSER_ID.isin(data_preprocessed.index)data_target = data_target.loc201603.drop_duplicates()print(目標變量數據集的形狀為:,data_target.shape)Out1:目標變量數據集的形狀為: (2999

41、67, 2)In2:# 劃分數據集x = data_preprocessedy = data_targetx_train, x_test,y_train, y_test = train_test_split(x, yIS_LOST, test_size=0.2, random_state=42)print(訓練集數據的形狀為：,x_train.shape)print(訓練集標簽的形狀為：,y_train.shape)print(測試集數據的形狀為：,x_test.shape)print(測試集標簽的形狀為：,y_test.shape)數據集劃分與數據標準化Out2:訓練集數據的形狀為： (23

42、9973, 60)訓練集標簽的形狀為： (239973,)測試集數據的形狀為： (59994, 60)測試集標簽的形狀為： (59994,)In3:# 數據標準化stdScaler = StandardScaler().fit(x_train)x_stdtrain = stdScaler.transform(x_train)x_stdtest = stdScaler.transform(x_test)print(標準化后的x_stdtrain:n,x_stdtrain)print(標準化后的x_stdtest:n,x_stdtest)數據集劃分與數據標準化Out3:標準化后的x_stdtrai

43、n: 3.60085096e+00 1.62976772e-01 1.80357715e+00 . 1.03237316e+00 -2.04136054e-03 -6.40026339e-02 . -3.13896190e-01 -4.02014279e-03 4.95623880e-01 . 1.03237316e+00 -2.04136054e-03 -6.40026339e-02標準化后的x_stdtest: -1.89615756e-01 -3.98502466e-03 4.28483334e+00 . 1.03237316e+00 -2.04136054e-03 -6.4002633

44、9e-02. 1.23824687e-01 -3.49158199e-03 6.59684018e-01 . -9.68641996e-01 -2.04136054e-03 -6.40026339e-02使用多層感知器算法構建用戶流失模型。輸入層為用戶基本信息和呼叫信息的指標變量，輸出層為用戶在3個月內是否流失的指標，如下代碼所示。構建客戶流失預測模型In4:# 建立模型bpnn = MLPClassifier(hidden_layer_sizes=(17,10), max_iter = 200,solver= lbfgs,random_state=50)bpnn.fit(x_stdtrain,y_train)print(構建的模型為:n,bpnn)Out4:構建的模型為: MLPCla