j-kelly-brito-247570-unsplash
 程式與統計統計模型

Decision Tree 決策樹 | CART, Conditional Inference Tree, RandomForest

Decision Tree 決策樹模型是一個不受資料分配限制的模型,模型結果以樹狀呈現,簡單易懂,解釋性極高,且模型同時兼具變數挑選與遺失值填補的機制,並能處理分類與回歸問題,是一個廣泛被使用的模型。另外,以決策樹為基礎集成學習而成的隨機森林,更能有效降低模型的錯誤率與並解決過度配適等問題的著名機器學習法之一。

Decision Tree 決策樹簡介

  • 決策樹是一個多功能的機器學習演算法,不僅可以進行分類亦可進行回歸任務。
  • 可以配適複雜的資料集,是個強大的演算法。
  • 屬於無母數回歸方法(non-parametric):對資料長相的要求不像回歸模型(有母數法,parametric)嚴格,不需要假設資料的線性關係與常態分佈。
    (無母數介紹請參考)
  • 決策樹演算法也是隨機森林演算法的基礎(隨機森林也是至今具潛力的演算法之一)。
  • 有諸多演算法,常見的包括CART, CHAID。
  • 決策樹可以用來建立非線性模型,通常被用在迴歸,也可以用在對於遞迴預測變數最二元分類。

補充-無母數統計:

  1. 適用於母體分佈情況未知、小樣本、母體分佈不為常態或不易轉換為常態,對資料長相的要求小。
  2. 無母數統計推論時所使用的樣本統計量分配通常與母體分配無關,不需要使用樣本統計量去推論母體中位數、適合度、獨立性、隨機性。
  3. 無母數統計又稱作「不受分配限制統計法」(distribution-free)。

常見的決策樹演算法比較

演算法 資料屬性 分割規則 修剪樹規則
ID3 離散型
Entropy,
Gain Ratio
Predicted Error Rate
C4.5 離散型 Gain Ratio Predicted Error Rate
CHAID 離散型
Chi-Square Test
No Pruning
CART 離散與連續型 Gini Index
Entire Error Rate
(Training and Predicted)

決策樹挑選變數常用的測量值

常見的資訊量(衡量資料純度):

  • Entropy (熵):
    $$I_{H}(t)=-\sum_{i=1}^c p(i|t) \log_{2} p(i|t)$$
    其中,H代表Homogeneity(同質性)。
    當Entropy=0表示completely homogeneous(pure),而當Entropy=1則表示資料為50%-50%之組成,是不純的(impurity)
  • Gini Impurity (Gini不純度):
    $$I_{G}(t) =\sum_{i=1}^c p(i|t)(1-p(i|t)) = 1-\sum_{i=1}^c p(i|t)^2$$
    其中,G則代表Gini Impurity。

決定切割點的測量值:

  • Information Gain (資訊增益): 則衡量節點切割前後資料純度的變化。節點的選擇,當選IG值越大的變數為佳
    $$IG = Info(D) – Info_{A}(D)$$
    其中,\(Info(D)\)為原始資料純度,而\(Info_{\space A}(D)\)則表示使用A規則切割後的資料純度。
    $$Info_{\space A}(D)=\sum_{j=1}^m \frac{N_{j}}{N_{p}} Info(D_{j})$$
    當m=2,即為二元分類時,
    $$IG = Info(D) – \frac{N_{left}}{N_{p}} Info(D_{left}) – \frac{N_{right}}{N_{p}} Info(D_{right})$$

資料與分析問題

  • Data: 鐵達尼資料集包含13個變數與1309筆觀測值。
  • Problem: 我們想分析與預測具有什麼樣特徵的乘客,比較有機會在冰山撞船後可以存活下來。
  • Method: 使用CART(Classification and Regression Tree)決策樹模型來找出重要解釋變數。

訓練與視覺化決策樹,我們將進行以下步驟:

  1. 載入資料
  2. 資料探勘
  3. 資料前處理
  4. 產生訓練與測試資料集
  5. 建置模型
  6. 進行預測
  7. 衡量模型表現
  8. 修剪樹(Post-pruning)
  9. K-Fold Cross Validation
  10. 模型比較(1):條件推論樹(Conditional Inference Tree)
  11. 模型比較(2):隨機森林(Random Forest)

Step1: 載入資料

我們可以發現數據是經過排列過的,因為這樣會嚴重影響到我們後續隨機產生訓練與測試資料集,所以我們必須將資料重新隨機排列。

使用sample()隨機產生一組數列index。

並將隨機數列index指派給titanic資料集。即可觀察到資料已無排序。

Step2: 資料探勘

使用summary()摘要基礎統計。

使用str()查看資料結構。

我們可初步發現:

  1. pclass(座艙等級)和survuved(生存與否)應由int轉換成factor變數
  2. 類別水準數過多的變數:name(1307 levels),ticket(929 levels), cabin(187 levels), home.dest(370 levels)應予以排除
  3. 排除以上變數後,存在許多遺失值(NA value)的變數有:age(263), fare(1)。但由於CART決策樹rpart()演算法中,預設會刪除y遺失的資料列,並保留至少有一個預測變數未遺失的觀察資料列,並使用Surrogate Variables來預測遺失特徵值。因此我們不會特別處理遺失值的部分。(*更多決策樹遺失值預測請參考tree surrogate in CART)

Step3: 資料前處理

根據資料探勘結果,要處理的項目如下:

  1. 移除變數name(1307 levels),ticket(929 levels), cabin(187 levels), home.dest
  2. 將變數pclass(座艙等級)和survuved(生存與否)轉換為factor變數。

Step4: 產生訓練與測試資料集

為了確保兩組資料集中生還比例不要差異太大,我們會先將資料依據目標變數(survived)分成兩組(No, Yes),再進行隨機切割成80%訓練組跟20%測試組。

檢查切割完的資料集大小與目標變數的分佈比例:

  • 原始資料列1309被隨機切割為80%訓練資料集(1047筆)與20%測試資料集(262筆)。
  • 發現訓練及測試資料集的目標變數survived比例都是38%。差異在1%以內。




Step5: 建置模型

我們使用CART(Classification and Regression Tree)決策樹演算法-rpart()。

  • rpart為遞迴分割法(Recursive Partitioning Tree)的縮寫。
  • 對所有參數和分割點進行評估。
  • 最佳選擇是使分割後的組內資料更為「一致(pure)」。
    • 「一致(pure)」是指組內資料的應變數取直變異較小。
  • 使用Gini值測量資料的「一致(pure)」性(Homogeneity)
  • 建模過程分為兩階段(2 stages):
    • 先長出最複雜的樹(grow the complex/full tree)。(直到Leaf size樹葉內的觀測個數少於5個或是模型沒有優化的空間為止)
    • 再使用交叉驗證(Cross Validation)來修剪樹(Prune)。並尋找使估計風險值(estimate of risk)參數(complexity parameter)最小值的決策樹。

rpart()參數設定:

  • method分成 “anova”、”poisson”、”class”和”exp”。當目標變數為factor時,我們將其設定為”class”。
  • control: 通常會使用rpart.control()另外作設定(事前修樹,pre-prune)。
  • na.action: 預設為na.rpart,即使用CART演算法中的surrogate variables做預測。

使用rpart.plot()檢視決策樹規則。

節點顏色越綠越深,代表該節點(條件下)的survived機率越高(目標事件發生機率越高)

每個Node節點上的數值分別代表:

  • 預測類別(0,1)
  • 預測目標類別的機率(1的機率)
  • 節點中觀測資料個數佔比

Decision Tree

將決策樹規則使用rpart.rules()印出。

可發現規則依照survived比例(目標事件發生機率)由低到高排序。cover則代表該節點觀測資料個數占比。

檢視交叉驗證(cross-validation)的不同cp值(complexity parameter)下的錯誤率。

cp值代表的是每一個規則(切割)所能改善模型適合度的程度(cross validation relative error, or X-val relative error)。可以發現每一個新的規則的cp呈遞減趨勢。且rpart()預設cp=0.01,即代表如果該規則(切割)沒有達到至少0.01的模型適合度改善,則停止。(*rpart函數對complexity parameter的說明)

將模型的cp table畫出。可以觀察到,隨著模型的複雜度(成本)增加,所能改善的模型適合度的空間降低(X-val relative error)

Decision Tree

Step6: 進行預測

使用predict()將訓練好的模型套用在測試資料集上。

Step7: 衡量模型表現

由於預測結果為類別型(0,1),故我們以Confusion Matrix為基礎,來計算以下幾個常用指標:

  • Accuracy/Misclassification Rate
  • Precision
  • Sensitivity(or Recall)
  • Specificity

計算Confusion Matrix(數據左欄位預測值,上方列為真實值)

計算模型的正確率Accuracy

可以發現未修剪的模型對測試資料的預測正確率高達近81%




Step8: 修剪樹(Post-Pruning)

一般來說,修剪樹可以分為事前與事後。

  • 事前:透過rpart.control()來調整重要參數,包括:
    • minsplit:每一個node最少要幾個觀測值,預設為20。
    • minbucket:在末端的node上(Leaf,樹葉)最少要幾個觀測值,預設為round(minsplit/3)。
    • cp:complexity parameter。決定當新規則加入,改善模型相對誤差(x-val relative value)的程度如沒有大於cp值,則不加入該規則。預設為0.01
    • maxdepth:決策樹的深度,建議不超過6層。
  • 事後:則是透過prune(x = , cp = )來設定。

我們這邊採用post-pruning法。並選擇讓交叉驗證中相對誤差改變量最小的cp值。

將依據cp門檻值修剪後的樹規則繪出。

Decision Tree

查看prune tree預測正確率。

可以發現pruned tree 和full tree兩者長得一樣,Accuracy也相同。原因在於,因為在建立full tree時,預設cp=0.01,跟prune()使用的cp值是相同的

Step 9: K-Fold Cross Validation

為了確保模型無過度配適(overfitting)和預測準度的穩定性,我們使用k-fold cross validation(k=10)重新抽樣樣本進行模型驗證。理想中,交叉驗證後的平均正確率應與prune tree相近。

其中必須注意的是,因為資料中有遺失值觀測值,且train()函數中參數na.action預設值為na.fail(即遇到有遺失值程序會失敗),故必須將設定調整為na.pass(不採取任何動作)或na.omit(忽略有遺失值的觀測值),方能正常執行函數指令。

進行10次交叉驗證的平均正確率為80.4%,與修剪後的樹模型正確率80.91%沒有太大差異(差異百分比在1%以內)。表示模型沒有overfitting的問題。

如果將參數na.action調整為na.rpart(使用CART中的代理變數surrogate variables來預測)。

進行10次交叉驗證的平均正確率亦約為80.4%。

Step 10: 模型比較(1)-條件推論樹(Conditional Inference Tree)

  • R的party套件提供無母數回歸(non-parametric regression)樹模型,可處理名目(nominal)、尺度(ordinal)、數值(numeric)、設限(censored)、多變量(multivariate)資料型態。
  • 你可以使用ctree(formula, data = )函數來產生分類或回歸樹模型,樹模型類型會根據目標變數型態而有所不同。
  • ctree()透過統計檢驗來決定預測變數與分割點之選擇。
    • 先假設所有預測變數與目標變數獨立(Null Hypothesis)。
    • 進行卡方獨立檢定(Chi-Square Test)
    • 檢驗p-value小於threshold(ex: 0.05)則拒絕虛無假設,表示預測變數與目標變數具有顯著相關性,加入模型。
    • 將相關性最強的變數選做第一次分割的變數。
    • 繼續在各自子資料集進行分割變數計算與選擇。
  • 因為樹是根據統計量顯著與否來判斷規則之必要性,因此與rpart()不同,ctree()是不需要剪枝的(prune)
  • 另參數na.action預設為na.pass (即不採取任何動作)。

可以發現模型準確率為80.5%,跟rpart演算法的k-fold交叉驗證的平均正確率80.4%沒有差太多。




Step 11: 模型比較(2)-隨機森林(Random Forest)

  • 隨機森林是一個集成學習法(ensemble learning),意思是將幾個建立好的模型結果整合在一起,以提升預測準確率。
  • 由集成學習法建立的模型較能不容易發生過度配適的問題,雖然提供較好的預測,但在推論和解釋度方面就會有所限制。
  • 隨機森林由好幾個決策樹所組成,而不同決策樹是由不同隨機抽取的預測變數形成的。
  • 而且特別的是,隨機森林不止對列(Row)進行抽樣,亦對行(Column)進行抽樣,因此所產生的子集資料,其實是行與列同時抽樣後的結果。
  • 列抽樣,可以部分解決因類別不平衡(Class Imbalance)對預測帶來的問題;而對行抽樣,則可解決部分因共線性(collinearity)對預測造成的問題。
    (若是探討對「變數解釋性」的影響,則需要用 Lasso和Stepwise來解決)。
  • 我們可用R裡面randomForest套件中的randomForest()函數來建立隨機森林。
  • 參數na.action預設為na.fail (即遇到遺失值則停止執行)。因為資料集中有遺失觀測值,故必須將之調整為na.omit。

檢視模型訓練結果。

  • Number of trees: 隨機森林由500棵隨機生成的決策樹所組成。
  • 利用OOB(Out Of Bag)運算出來的錯誤率18.82%

自己驗證與計算較精確的OOB estimate正確率Accuracy為81.17%。

另外,我們將「增加每一顆決策樹,整體誤差的改變量」繪出,以輔助決策「需要多少顆決策樹,整體誤差才會趨於穩定」。

  • 當為分類樹時(classification tree)
    • 誤差為OOB(out-of-bag) Erro Rates。
    • 黑色實線表示整體的OOB error rate,而其他顏色虛線表示各類別的OOB Error Rate
  • 當為回歸樹時(regression tree)
    • 誤差為OOB(out-of-bag) MSE。
    • 只會有一條黑色實線代表整體的OOB MSE

從圖中幾條線可以觀察到:

  • 整體錯誤率(黑色實線)隨著決策樹數量上升,下降到約18%並趨於穩定。
  • 實際類別為Yes的錯誤率(綠色虛線)隨著決策樹數量的上升,下降到約33.8%並趨於穩定。
  • 實際類別為No的錯誤率(紅色虛線)隨著決策樹數量的上升,下降到約8.6%並趨於穩定。
  • 而「最佳決策樹數目(ntree),約100多棵樹即足夠使誤差趨於穩定(不需要到500棵樹)。

Decision Tree

另外一個隨機森林中一個重要參數:mtry,表示每一個樹節點(node)在進行切割時(split)隨機抽樣的變數數量。可使用tuneRF()來調整mtry的值。

可以發現在mtry=2時,誤差最小。

Decision Tree

randomForest中類別樹預設的mtry=sqrt(p),其中p代表x變數的數目。因為原始隨機森林模型預設值跟tuneRF建議的值相同,故我們另外不調整。

看每個x變數的重要性(the mean decrease in Gini index),即看哪個變數對損失函數Loss Function最有貢獻。(*randomForest參數importance預設值為False,僅會產生the mean decrease in Gini index,如果要產生其他指標如mean decrease in accuracy,要將其改為TRUE。)

將變數重要性(貢獻度)繪出。

Decision Tree

最後將調整好的模型應用在testData並評估正確性。

隨機森林的預測準確率為83%,較原先的決策樹(accuracy = 80%)改善約4%。

總結

  • Decision Tree 決策樹模型具有簡單易懂的樹狀邏輯圖,可解釋度高。
  • Decision Tree 決策樹對於資料的要求低,沒有常態分配與線性關係的假設,不受資料分配限制。
  • Decision Tree 決策樹的有變數篩選機制
    • rpart演算法進行Gini Index檢定,並計算complexity parameter來進行變數篩選。
    • ctree演算法進行chi-square檢定,檢驗各投入變數是否與目標變數相關並計算p-value來看相關性的顯著效果。
  • Decision Tree 決策樹亦有空值填補機制tree surrogate
  • Decision Tree 演算法rpart和ctree皆能處理連續型(continuous)與類別型(categorical)變數之切割
  • 由Decision Tree 決策樹衍伸出的集成學習法「隨機森林 random forest」可以有效降低模型的錯誤率、解決過度配適、透過反覆抽樣解決類別不平衡與共線性問題。

更多統計模型筆記連結:

  1. Linear Regression | 線性迴歸模型 | using AirQuality Dataset
  2. Regularized Regression | 正規化迴歸 – Ridge, Lasso, Elastic Net | R語言
  3. Logistic Regression 羅吉斯迴歸 | part1 – 資料探勘與處理 | 統計 R語言
  4. Logistic Regression 羅吉斯迴歸 | part2 – 模型建置、診斷與比較 | R語言
  5. Regression Tree | 迴歸樹, Bagging, Bootstrap Aggregation | R語言
  6. Random Forests 隨機森林 | randomForest, ranger, h2o | R語言
  7. Gradient Boosting Machines GBM | gbm, xgboost, h2o | R語言
  8. Hierarchical Clustering 階層式分群 | Clustering 資料分群 | R統計
  9. Partitional Clustering | 切割式分群 | Kmeans, Kmedoid | Clustering 資料分群
  10. Principal Components Analysis (PCA) | 主成份分析 | R 統計

學習筆記參考連結:

  1. Decision Tree in R with Example 
  2. Tree-Based Models
  3. R_programming – (8)決策樹(Decision Tree)
  4. Decision Trees and Pruning in R
  5. Pruning a Decision Tree in R
  6. How To Create A Perfect Decision Tree
  7. [資料分析&機器學習] 第3.5講 : 決策樹(Decision Tree)以及隨機森林(Random Forest)介紹

在《Decision Tree 決策樹 | CART, Conditional Inference Tree, RandomForest》中有 1 則留言

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *