對於從事模型開發與應用工作的小夥伴來講，當www.17C.com完成模型（xíng）的（de）擬合訓練（liàn）後，往往會思考如何對（duì）模型的結果進（jìn）行解釋，這裏的模型解釋性主要包含兩種含義：前一種解釋性場景是針對模型的（de）輸出響應（yīng）給出合理性的業務解讀，例如貸前風控環節的違約預測模型（目標變量是二分類且違約（yuē）狀態定義為正例），對於模型輸出的（de）概率值

    p，取值越大場景展示模型說明用戶的違約（yuē）風險越高；再例如存量（liàng）用戶群體的聚類模（mó）型，對於模型輸出（chū）的標簽值cluster（取值0/1/2等），代表樣（yàng）本（běn）用戶所屬的（de）分類群體標識，並無具體數（shù）值大小的比較含義模型的後一種解釋性場景（jǐng）是分析模型選（xuǎn）入變量的重要程度，這也是www.17C.com經常理（lǐ）解的模型解釋性，日常最（zuì）典型的應用（yòng）實例便是決策樹模型的（de）特征重要度係場（chǎng）景展示模型數。

    importance，可以很（hěn）好量化出特征對當前模型的貢獻程度，指標係數的取值（zhí）越大（dà）說（shuō）明變量對模型的重要度越強針對以上（shàng）模型解釋性（xìng）的（de）前種情況，也就是對模型預測結果的解（jiě）讀，務必要結合模型應用的背景需求，業務場景的理解始終是重（chóng）要且必要的前提條件，此外還包括模型類型、目標定義、正例設（shè）置等多個（gè）維度條件，都會直場景展示模型接（jiē）影響模型（xíng）的最終結論或數值含義。

    對於模型解釋性的後種情（qíng）況，也就是對變量重要（yào）程度的理解，重點則在於特征係數之間的比較分析（xī），由指標數值的具（jù）體大小轉換為（wéi）變量重要程度的高低（dī），從邏（luó）輯理解層麵上簡單且有效（xiào）圍繞（rào）模（mó）型解釋性的（de）分析背景，本文將從多個模型角度來重（chóng）點分（fèn）析下特征參數（shù）分布的（de）解釋性，也就是上文提到模型解釋性的後場景展示模型者。

    在詳細內容的介紹過（guò）程中，我（wǒ）們不（bú）再局限於常見決策樹（decision tree）模型的重要度係數importance，還會擴展實踐中應用度較高的（de）集成學習樹模型，例如隨（suí）機森林、GBDT、AdaBoost、XGBoost

    、LightGBM等此外，對於特征參（cān）數的評估解讀（dú），還會包括邏（luó）輯回（huí）歸（guī）LR、線性回歸（guī）L場景展示模型inR、嶺回歸（guī）Ridge、套索回歸Lasso等多元化回歸模型的變量係數w所以本文有兩部分內容：第一部分會介（jiè）紹每個模型（xíng）下的特征係數的可解釋應用；。

    第二部分會介紹一個具（jù）體的實例建模場景，包括詳細代碼+數據集（jí）；第一部（bù）分：經典模型下的特征（zhēng）係數的可解釋應用為了便於理（lǐ）解（jiě）特征係數在不同模型反映出的信息權重（chóng），本（běn）文將（jiāng）場（chǎng）景展示模型結合具體的實例樣本數據，通過python代碼依次實現各個（gè）模型（xíng）的特征重要度評（píng）估。

    由於待介紹的模型種類共包含10多個，且處理問題有回歸與分類的差異，因此相應的樣本數據會存在2個目標變量，取值類型分別為二（èr）分類型與（yǔ）連續型實例數（shù）據的樣本數量為10000條，字段數（shù）量為9個，部分數據樣（yàng）例如圖1

    所示，其中id為樣本場景展示模型主鍵，代表（biǎo）客（kè）戶訂單（dān）號；label1、label2為目標變量，標簽含義依次為用戶好壞狀態、營銷價值係（xì）數，對應解決二分類與回歸問（wèn）題；其餘6個字段均為特征自變量，具體釋義為income_type

    （收入類型）、city_level（城市等級（jí））、consume_index（消費係數）、bankcard_cou場景展示模型nt（銀行卡數量（liàng））、travel_count（航旅次數（shù））、loan_count（借貸次（cì）數）。

    圖1 樣本數據樣例由於字段income_type（收入類型）、city_level（城市等級）的取值類型為（wéi）字符型，為（wéi）了滿足模型訓練輸入數（shù）據類型的要求，現采用label編碼將其轉換為數值型，同時保（bǎo）持數據的有序性場（chǎng）景展示模型，具體實現過（guò）程如圖2所示。

    圖2 特征label編碼當樣本數據經過簡單分析處理後，接下來將（jiāng）依次介紹各個模型的特征重要度分析（xī），模型類型包含決策樹Tree、隨機（jī）森林RF、GBDT、AdaBoost、XGBoost、LightGBM、邏輯回歸

    LR、支持向量（liàng）機SVM、線性回歸LinR、嶺回歸Ridge等（děng）其中，場景展示模型邏輯回歸（guī）、支持向量機、所有（yǒu）樹模型將以分（fèn）類場景實現，線性回歸LinR、嶺（lǐng）回歸（guī）Ridge模型以回歸場景實現，樣（yàng）本相應的目標變（biàn）量分別為label1、label2。

    1、決（jué）策樹（DT）決策樹模型的（de）特征重要度係數，具體實現過程如（rú）圖3所示（shì），輸出結果通（tōng）過條形圖展示如圖4所示，可以看出特征重要程度從（cóng）高到（dào）低（dī）的排序結果為場景展示模型consume_index、bankcard_count、travel_count、city_level、loan_count、income_type。

    圖（tú）3 決策樹模（mó）型（xíng）的特（tè）征重要度實現

    圖4 決策樹模型的特（tè）征重要度分布（bù）2、隨機森林（RF）隨機森林模型的特征重要度係數（shù），具體實現過程如圖5所示，輸出結果通（tōng）場景（jǐng）展示模型過條形圖展示如圖6所示，特征重要性強弱的（de）排列順序為bankcard_count、consume_index、travel_count、city_level、loan_count、income_type，與上文決策樹模型的結果稍有差（chà）異，具體表現在（zài）前2個特征bankcard_count與consume_場景展示模型index的排序位（wèi）置發生（shēng）變化（huà），說（shuō）明同一特征在不同模型的重要性（xìng）程度並（bìng）非絕對的，而是由模型類型（xíng）、數據質量等情況綜合決定。

    圖5 隨機森林模（mó）型的特（tè）征重要度實現

    圖6 隨機森林模型的特征重要度分布3、GBDTGBDT模型的特征重（chóng）要度係數，具體實現過程如圖7所示，輸出結果通過條形圖展示（shì）如圖8所示這裏將快速生成特征場景展示模型重要性的分布情況，暫（zàn）不與以上模型對比說明（以下模型同理），最後以匯總形式（shì）統一進行分析。

    圖7 GBDT模型的特征重（chóng）要度實現

    圖8 GBDT模型的特征重要度分布4、AdaBoostAdaBoost模型（xíng）的（de）特征重要度係數，具體實現過程如圖9所示，輸出結果通過條形圖展示如圖10所示。

    圖9 AdaBoost模型的（de）場（chǎng）景展示模型特征重要度實（shí）現

    圖10 AdaBoost模（mó）型的（de）特（tè）征重要度分布5、XGBoostXGBoost模型的特（tè）征重要度係數，具體實現過程如圖11所示，輸出結果通過條形圖（tú）展示如圖（tú）12所示（shì）。

    圖11 XGBoost模型的特征重要度實現

    圖12 XGBoost模型的特征重要度分布6、LightGBMLightGBM模型的（de）場景展示模型特征重要（yào）度係數，具（jù）體實（shí）現過程如圖13所示，輸出結果通過條形圖展示如圖14所示。

    圖13 LightGBM模型的特征重要度（dù）實現（xiàn）

    圖14 LightGBM模型的特征重要度分（fèn）布7、邏輯回歸（LR）邏輯回歸模型的特征重要度係數，具體實現過程如圖15所示，輸出結果通過條形（xíng）圖展示如圖16所示。

    圖15 邏輯回歸模型的場景展示模型特征重要度（dù）實現

    圖16 邏輯回歸模型（xíng）的特征（zhēng）重要度（dù）分布8、支持向量（liàng）機（SVM）支持向（xiàng）量機模型（xíng）的特征重要（yào）度係數，是通過特征係數w的（de）絕對值來量化（huà）的，具體實現過程如圖17所示，輸出結果（guǒ）通過條（tiáo）形圖展（zhǎn）示如圖18所示。

    圖17 支持向量機模型的特征重要（yào）度實現

    圖18 支（zhī）持向量機模型（xíng）的特征重要度分布9、線性回歸（Linr場景展（zhǎn）示模型（xíng））線性回（huí）歸模型的特征重要度係數，具體（tǐ）實現過程如圖19所示，輸出結果通過條形圖展示（shì）如圖20所示，此處建模任務的目（mù）標變量為（wéi）label2，下文介紹的Ridge回歸、Lasso回歸與之同理。

    圖19 線性回歸模型的特征重要度實現

    圖20 線性回歸模型的特征重要度分布10、嶺回歸（Ridge）嶺回歸模型的特征重要場景展示模型度係數，具體實現過程如圖21所示，輸出結（jié）果通過條形圖展示如（rú）圖（tú）22所示。

    圖21 嶺（lǐng）回歸模型的特征（zhēng）重（chóng）要（yào）度實現

    圖22 線性回歸模（mó）型的（de）特征重（chóng）要度分布綜合以上10個模型示例可（kě）以看到，特（tè）征重要性的分布情況並不是固定的，不同類型模型的輸出結果都會（huì）有一定差異由（yóu）於各模型訓練的（de）原理（lǐ）邏輯不同，我（wǒ）們不必分析特征係數（shù）的具體取場景展示（shì）模型值含義，而重點是通（tōng）過特征（zhēng）重要性係數的大小，來判斷特征變量的貢獻程度或應用價值。

    這裏www.17C.com將以上（shàng）各模型生成的特征重要性順序進行匯總，具體情況如圖23所示

    圖23 不同模型的（de）特征重要性順序分布（bù）通過上表信息可知，在分類模型（xíng）場景（jǐng）中，除了LR與SVM模型，其餘模型得到的特征重要性順序都是不同的，因此在實踐過程中，場景（jǐng）展（zhǎn）示模型若通（tōng）過特征重要性係數來評定特征的信息價值時，前提條件是針對當前某個模型，而不能將某個模型展現的分布（bù）結果擴大至其（qí）餘模型。

    假設（shè）采用特征重要性係數來評估特征性能，可以通過多個模型得到的結（jié）果進行匯總分析，例如本文介紹的10種方法，www.17C.com可以認定排名靠前次數較多的（de）字段（duàn）為重要（yào）特征雖然以上各實例模型的特征重要性排名場景（jǐng）展示模型存在較大差異，但可以看到排名前3出現次數較多的特征為bankcard_count、consume_index、travel_count，www.17C.com（men）有理由（yóu）認為這3個（gè）特征相比剩餘3個特征更（gèng）有信息價值，在特征篩選、數據測試等場景中可以借鑒（jiàn）並應用，會有較好的分析效果。

    為（wéi）了便於大家對特征重（chóng）要性的進一步理解與分析，本場景展示模型（xíng）文額外（wài）附（fù）帶了與以上內容同步的詳細python代碼與樣本數據，供大家學習參考，詳情（qíng）請移（yí）至知識星球獲（huò）取相關資料第二部分：建模場景（jǐng）應用下麵www.17C.com仍以本文樣本數據作為參考，部分樣例如圖。

    24所示（shì），通（tōng）過一個具體的實例建模場景來簡單介紹下特征係數的利用價值。假設圍繞樣本用戶的多個維（wéi）度信息，來構建一（yī）個營銷價值評估模場景展示模型（xíng）型，在實際業務中可以根據模型（xíng）預測結果，對各類用（yòng）戶群體製定不同的營銷（xiāo）策略。

    圖24 建模數據樣例建模數據的（de）目標變量（liàng）為label2（營銷價值係數），由於字段類（lèi）型為（wéi）連續型，因此模（mó）型的具體算法為回歸問題（tí）；特征（zhēng）變量池共包（bāo）含6個字段，分別為income_type（收入（rù）類型（xíng））、city_level

    （城市等級）、co場景展示模（mó）型nsume_index（消費係數）、bankcard_count（銀（yín）行卡數量）、travel_count（航旅次數）、loan_count（借貸次數）我（wǒ）們選擇最常見的線性回歸LinearRegression。

    算法來訓練模型，並將6個（gè）特征字段轉換為標準化數據，作為模型變量擬合的選擇對象，具體實現過程詳場景展示模（mó）型見知識星球中代碼（mǎ）詳情通過以上步驟可以輸出模型各個變量的（de）重要性係數coef，具體分布如圖26所示，從（cóng）中可以很直（zhí）觀（guān）了解到各（gè）個特征對當前（qián）模型的貢獻度（dù）大小。

    其中，特征loan_count（借貸次數）與city_level（城市等級）的係數值明顯絕（jué）對偏低（dī），說明這2個（gè）字（zì）段對模型的價值表現很低，可以考慮將其刪除（chú）重場景（jǐng）展示模型新訓練擬合模型，這樣新模型的（de）擬合字段保留4個（gè）（income_type

    、consume_index、bankcard_count、travel_count）。

    圖26 特征係（xì）數分布為（wéi）了驗證刪（shān）除後的特征為非重要字段，www.17C.com采用回歸模型常見的（de）評估（gū）指（zhǐ）標，來觀察（chá）對比（bǐ）新舊（jiù）模型的性能差（chà）異若新老模（mó）型的評估指標結果較為接場景展示模型近，便（biàn）能（néng）夠支持所刪除字段對模型效果提升作用較小（xiǎo）的結論其中，舊（jiù）模型性能評估的實（shí）現過程（chéng）如圖。

    27所示，而對於新模型的擬（nǐ）合訓練與效果評估，與圖25、圖27同理，區別僅在於特征數據df_X的特征數量不同（具體代碼詳情參見詳（xiáng）見知識星球（qiú）中代碼詳情）按照以上分析思路，www.17C.com根據模型訓練與評估的完整過程，分別輸出（chū）非（fēi）重場景展示模型要字段刪除前後的模型（xíng）性能（néng）對比，具體指標分布結果如圖。

    28所示通過模型結果（guǒ）可知（zhī），結合特征重要性係數的大小關係對變量進行（háng）篩選，最終模型的對比效果差異（yì）很小，說明刪除的2個變量對模型（xíng）的價值度很低在模型綜合性能（néng）穩（wěn）定的情況下，特征數量越（yuè）少有利於模型的精簡與（yǔ）維護，若數據是從外部機構引入，很（hěn）多情況下還可以節省數據的場景展示模型支出費用。

    因此，特征重（chóng）要性係數的分析處理，在實際建模場景中具有很高的利用價值

    圖28 新（xīn）舊模型效果對比關於以上所提到特征係數在多元化模型場景的可解釋（shì）應用，教研組的童鞋已經同步相關的內容至（zhì）知識星球後台，查看（kàn）完整版本，歡迎星球同學移步到知識星球查收完整內容：

    為了便於大家對特征（zhēng）重要（yào）性的進一步理解與分析，本文場（chǎng）景展示模型額外附帶了與以上內容同步且更詳細的（de）python代碼與樣本數據，供大家學習參考，詳情請移至知識星球獲取相關資料：

    還想學習（xí）更多信貸風控（kòng）中更多的幹貨知識，來（lái）報名番茄風控的會員社區吧.全麵的會員社區內容，點擊（jī）以下內容即可（kě）報名（míng）和（hé）學習：

    本月已經上（shàng）線的內容有（yǒu）：

    趕緊來加入www.17C.com的會員社區學習本次內容啦，教研組用心磨課場景展示（shì）模型，現在報（bào）名www.17C.com的暢聽卡，還可以（yǐ）跟大家一起拚團學習，趕緊來學習吧。點（diǎn）擊左下角（jiǎo）【閱讀原（yuán）文（wén）】即可來一起拚（pīn）團學習。

    往期（qī）的會員直播課程查看如下：往期回顧（gù） 第1期    信用卡風控的基礎知識介紹    第2期    催收場景與目標變量定義    第3期    第三方外部征信數據和各家（jiā）拳頭產品    第4期   場景（jǐng）展（zhǎn）示模型 汽車風控介紹與GPS經驗分享

    第5期    信用卡分期利率（lǜ）與利息介紹    第6期    稅務類數據在（zài）小微風控的基本應用    第7期    純線上（shàng）審批流程進行（háng）資產組合分配    第8期    場景金融介紹與風險節點部署分析    

    第（dì）9期    風（fēng）控數據分析（xī）指（zhǐ）標全接觸    第（dì）10期    信貸政（zhèng）策大數據安場景（jǐng）展（zhǎn）示模型（xíng）全與供應商選（xuǎn）擇    第11期    信用卡套現的整治    第12期    商業銀行小微企業風控實務    第13期    設備欺（qī）詐風（fēng）險防範-黑產欺詐（zhà）工具

    第14期    設（shè）備（bèi）反欺詐供應商選擇及應用（yòng）策略    第15期    微眾聯邦學習    第（dì）16期    Applist特征工程介紹    第1場景展示模型7期    Applist特征工程模型挖掘    第18期    貸（dài）前策略-風控策略部署與調優

    第19期    貸前策（cè）略風控策略數據埋點與采集    第20期    貸中（zhōng）管理-電銷外撥優先級策略    第21期    貸中風險管理-額度調整（zhěng）策略模型    第22期（qī）    貸中提降額（é）方法（fǎ）與策略    

    第23期 場景展示模型   東南（nán）亞（yà）現金貸產品及相關風險策略    第24期    信貸業務中的風險定價—基礎端    第25期    信貸機構的智能語音應用實踐    第26期    信貸機構智能語（yǔ）音供應商選擇指標

    第（dì）27期    貸後催收策略-M1名單催收管理    第28期    信貸風控（kòng）模型——中小（xiǎo）企業的額度模型探索場景展示模型（xíng）    第29期    人行征信報名數字分解讀    第30期    銀行卡失聯（lián）修複與清收手段介（jiè）紹

    第31期    信貸風險經營    第（dì）32期    信貸風控係（xì）統    第（dì）33期    反欺詐講解（jiě）之設備指紋實操與演練    第（dì）34期    決策引擎的決策流層次（cì）及（jí）策略架構    第35期    ECL場景展示模型（xíng）模型與評級簡介

    第（dì）36期    設備關聯數據在金融風控的應用    第37期    ECL係列之評級模型（xíng）及財報解析    第38期    數據清洗與特征選擇    第39期    小微風控之 策略方向（xiàng）與（yǔ）風險管理體（tǐ）係搭建  

    第40期    小白入職大數據工程師之銀行金融大數據係統（tǒng）實戰 第（dì）41期    小微（wēi）風場景展示模型控策略體（tǐ）係的優化與調整    第42期    巴塞爾協議銀行（háng）零售及資產分池上    第43期    巴塞爾協議（yì）下篇資本管（guǎn）理風險價值

    第44期（qī）    二代（dài）征（zhēng）信報告與規則（zé）構建    第45期    征信規則的衍生技巧與（yǔ）避坑指南（nán）    第46期    實戰篇|風控策略效率的測試、調優（yōu）與評估（gū）第（dì）47期    數場景展示模型據（jù）生命周期管理— 數據的引入、監控與管理

    第48期    貸中反欺詐之 商戶欺（qī）詐防範    第49期（qī）    策略分（fèn）析之 數（shù）據監控與用戶畫像    第50期    銀行中（zhōng）後台數據（jù）的建設——基於信用（yòng）卡（kǎ）進件係統需求與擴展    第51期    模型訓練/機器學習平台    

    第52期    精細化運營探索——運營著（zhe）手場景展示模型點及響應模型場景化應用（yòng）    第53期    基於SAS的三方（fāng）數據（jù）風控產品測試評估    第（dì）54期    SAS的策略&模型之決策矩陣（zhèn）分析    第55期    基（jī）於二代征（zhēng）信的信用評分模型開發

    第56期    基於二代征信（xìn）的信用模型與策略的使用與監控（kòng）    第（dì）57期    金融機構風險與預算評估   場景展示模型 第58期    催收板塊：逾期賬款催收管（guǎn）理    第59期（qī）    二代人行征信的（de）深度（dù）解讀（上）：二代（dài）征信（xìn）異議和（hé）接入及發展曆程

    第60期（qī）    二（èr）代人行征信的深度（dù）解（jiě）讀（下）——循環貸與（yǔ）非循環貸（dài）與衍生變量加工    第61期    風控人必學資產分析課—壞賬預估    第62期    商戶端風險（xiǎn）定價——場景展示模型 基於成本收益模型的風險定價

    第63期    差異化的貸前進階策（cè）略講解━━拒絕撈回策略製定（dìng）   第64期    拒絕撈回的效（xiào）果評估與策略二次調（diào）用    第65期    風控人應該懂的金融知識    第66期    風控人必（bì）備的風險知識（shí）——貸款利率、還款方式與（yǔ）常用風險指標    

    第67期    金融人必知--市場景展示模型場（chǎng）風險入門：金融衍生（shēng）品   第68期    拒絕演繹實戰（zhàn）--拒絕推（tuī）論描述、方法介紹與案例分享    第69期    銀行信用卡拒絕推論的場景實（shí）操    第70期    逾期催收管（guǎn）理流（liú）程優化與催收係統配置——汽車金融逾期案件催收實操

    第71期    海外現金貸產品形態及風控（kòng）措施    第72期    海場景展示模型外現金貸提降額原理及思路    第73期    巴塞爾協議—發展曆程（chéng）、資本充（chōng）足率、拔備率、杠杆率、流動性    第74期    巴賽爾協（xié）議—市場風險及信用風險度量（liàng）

    第75期    金融小夥伴必備知識—信用卡損益    第76期（qī）    風控授信額度策略調優第77期    額度策略調優實（shí）戰第78期    場（chǎng）景展示模型 信貸場（chǎng）景多維特征交叉（chā）策略實戰分析第79期    信貸風控策略體係效果評估與全麵調優

    第80期    海外與國內評分卡對比與應用場景（jǐng）介紹第（dì）81期   智能推（tuī）薦係統應用第82期   風控策略中的模型須知-邏輯回歸評分卡分箱與模型評估第83期   多規則決策策略的搭建與（yǔ）實操第84期   多規則決策策略實操場景展示模型與練習（xí）講解

    第85期（qī）   模型開發之特征選擇 第86期   風控模型與策略探索發現 第87期   場景風控的貸中客戶生命周期（qī）監控—基於商戶的Tableau實  操第88期    風控場景數據監控第89期    財（cái）稅票等（děng）企業（yè）數據在小微企業貸款中的應用

    第90期   中小微企業風控中（zhōng）財稅票（piào）的數（shù）據使用與模型開（kāi）場景展示模型發上（shàng）下滑動可查（chá）看更多在www.17C.com會員社區上，目前www.17C.com的知識星球上也有上百篇幹貨文檔與公眾號付（fù）費文檔，現（xiàn）在（zài）加入知識星球（qiú）可以一次性學習提升：往期的文章有(包括但不限於)：

    ①風控模型中的交叉（chā）驗證全方位解析（除了調參外（wài）的，其它妙用）②深度剖析電商貸款風控相關細節（電（diàn）商貸模型（xíng））③純享版|信貸（dài）場景中的營（yíng）銷管理和模型設場景展示模型計（營銷響（xiǎng）應）④純享版|信貸（dài）風（fēng）控（kòng）中的額度管理和額度模型設計⑤FPD模型、首逾模（mó）型、欺詐（zhà）模型，這些風控（kòng）幹貨值得（dé）實操了解(上)

    ⑥Python框架下的B卡(實時)特（tè）征開發及上線（xiàn）⑦OV｜用戶分群在貸前風控中的應用......以上課程（chéng）將免（miǎn）費開放，給所有（yǒu）番茄（qié）風（fēng）控大數據的會員（yuán）同學學習，加入社區點擊左下角【閱讀原文場景（jǐng）展示模型】進行了解課（kè）程將免費開放給所有番（fān）茄風控大數據的會員同學學習，加入（rù）。