Python數(shù)據(jù)建模(回歸篇)

Python數(shù)據(jù)建模及模型優(yōu)化（回歸篇）【課程目標(biāo)】
本課程主要講解如何利用Python進(jìn)行數(shù)據(jù)建模，建立數(shù)學(xué)模型，來擬合業(yè)務(wù)的各個(gè)要素之間的關(guān)系，來模擬業(yè)務(wù)的未來發(fā)展和變化。
基于真實(shí)的業(yè)務(wù)問題，在數(shù)據(jù)建模的標(biāo)準(zhǔn)過程指導(dǎo)下，從模型選擇到特征工程，從訓(xùn)練模型到算法實(shí)現(xiàn)，從模型評估到模型優(yōu)化，再到模型解讀及模型應(yīng)用，帶領(lǐng)大家一步步實(shí)現(xiàn)一個(gè)回歸預(yù)測模型。
通過本課程的學(xué)習(xí)，達(dá)到如下目的：
掌握數(shù)據(jù)建模的標(biāo)準(zhǔn)流程。
掌握數(shù)據(jù)預(yù)處理常用的方法，包括特征篩選、變量合并等。
掌握回歸模型的原理，以及算法實(shí)現(xiàn)。
熟練使用模型的評估指標(biāo)，評估方法，以及過擬合的評估。
掌握模型優(yōu)化的基本措施，學(xué)會欠擬合的解決方法。
學(xué)會過擬合評估，學(xué)會使用有正則項(xiàng)來解決過擬合問題。
熟練使用sklearn庫的常用回歸類。
學(xué)會超參優(yōu)化的常用方法，能夠設(shè)置最優(yōu)超參。
【授課時(shí)間】
2-3天時(shí)間
（要根據(jù)學(xué)員的實(shí)際情況調(diào)整重點(diǎn)內(nèi)容及時(shí)間）
【授課對象】
業(yè)務(wù)支持部、數(shù)據(jù)分析部、系統(tǒng)設(shè)計(jì)部、系統(tǒng)開發(fā)部、網(wǎng)絡(luò)運(yùn)維部等相關(guān)技術(shù)人員。
【學(xué)員要求】
每個(gè)學(xué)員自備一臺便攜機(jī)(必須)。
便攜機(jī)中事先安裝好Python 3.9版本及以上。
安裝好Numpy,Pandas,statsmodels,sklearn,scipy等常用庫。
注：講師現(xiàn)場提供分析的數(shù)據(jù)源。
【授課方式】
建模流程+ 案例演練 + 開發(fā)實(shí)踐 + 可視化呈現(xiàn)
采用互動式教學(xué)，圍繞業(yè)務(wù)問題，展開數(shù)據(jù)分析過程，全過程演練操作，讓學(xué)員在分析、分享、講授、總結(jié)、自我實(shí)踐過程中獲得能力提升。
【課程大綱】
預(yù)測建模基礎(chǔ)
數(shù)據(jù)建模六步法
選擇模型：基于業(yè)務(wù)選擇恰當(dāng)?shù)臄?shù)據(jù)模型
屬性篩選：選擇對目標(biāo)變量有顯著影響的屬性來建模
訓(xùn)練模型：采用合適的算法，尋找到最合適的模型參數(shù)
評估模型：進(jìn)行評估模型的質(zhì)量，判斷模型是否可用
優(yōu)化模型：如果評估結(jié)果不理想，則需要對模型進(jìn)行優(yōu)化
應(yīng)用模型：如果評估結(jié)果滿足要求，則可應(yīng)用模型于業(yè)務(wù)場景
數(shù)據(jù)挖掘常用的模型
數(shù)值預(yù)測模型：回歸預(yù)測、時(shí)序預(yù)測等
分類預(yù)測模型：邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等
市場細(xì)分：聚類、RFM、PCA等
產(chǎn)品推薦：關(guān)聯(lián)分析、協(xié)同過濾等
產(chǎn)品優(yōu)化：回歸、隨機(jī)效用等
產(chǎn)品定價(jià)：定價(jià)策略/最優(yōu)定價(jià)等
屬性篩選/特征選擇/變量降維
基于變量本身特征
基于相關(guān)性判斷
因子合并（PCA等）
IV值篩選（評分卡使用）
基于信息增益判斷（決策樹使用）
訓(xùn)練模型及實(shí)現(xiàn)算法
模型原理
算法實(shí)現(xiàn)
模型評估
評估指標(biāo)
評估方法
過擬合評估
模型優(yōu)化
優(yōu)化模型：選擇新模型/修改模型
優(yōu)化數(shù)據(jù)：新增顯著自變量
優(yōu)化公式：采用新的計(jì)算公式
模型應(yīng)用
模型解讀
模型部署
模型應(yīng)用
好模型是優(yōu)化出來的
回歸模型評估
三個(gè)基本概念：SST、SSR、SSE
三個(gè)方面評估：指標(biāo)、方法、過擬合擬合程度指標(biāo)
簡單判定系數(shù)：R2調(diào)整判定系數(shù)： R?2預(yù)測值誤差指標(biāo)
平均絕對誤差：MAE
根均方差：RMSE
平均絕對誤差率：MAPE
信息損失準(zhǔn)則指標(biāo)
赤池信息準(zhǔn)則：AIC
貝葉斯信息準(zhǔn)則：BIC
HQ信息準(zhǔn)則：HQIC
評估方法
原始評估法
留出法（Hold-Out）
交叉驗(yàn)證法（k-fold cross validation）
自助采樣法（Bootstrapping）
其它評估
過擬合評估：學(xué)習(xí)曲線
殘差評估：白噪聲評估
影響因素分析
問題：如何選擇合適的屬性來進(jìn)行建模預(yù)測？如何做特征選擇/特征降維？
屬性篩選/變量降維的常用方法
影響因素分析常用方法
相關(guān)分析
方差分析
卡方檢驗(yàn)
相關(guān)分析（衡量變量間的線性相關(guān)性）
問題：這兩個(gè)屬性是否會相互影響？影響程度大嗎？
相關(guān)分析簡介相關(guān)分析的三個(gè)種類
簡單相關(guān)分析
偏相關(guān)分析
相關(guān)系數(shù)的三種計(jì)算公式
Pearson相關(guān)系數(shù)
Spearman相關(guān)系數(shù)
Kendall相關(guān)系數(shù)
相關(guān)分析的假設(shè)檢驗(yàn)
相關(guān)分析的四個(gè)基本步驟
演練：體重與腰圍的關(guān)系
演練：營銷費(fèi)用會影響銷售額嗎
演練：網(wǎng)齡與消費(fèi)水平的關(guān)系
偏相關(guān)分析
偏相關(guān)原理：排除不可控因素后的兩變量的相關(guān)性
偏相關(guān)系數(shù)的計(jì)算公式
偏相關(guān)分析的適用場景
方差分析(衡量類別變量與數(shù)據(jù)變量的相關(guān)性)
問題：哪些才是影響銷量的關(guān)鍵因素？主要因素是哪些？次要因素是哪些？
方差分析的應(yīng)用場景
方差分析原理
方差分析前提：齊性檢驗(yàn)
方差分析的三個(gè)種類
單因素方差分析
多因素方差分析
協(xié)方差分析
方差分析的四個(gè)步驟
分析結(jié)果解讀要點(diǎn)
演練：終端擺放位置與終端銷量有關(guān)嗎
演練：客戶學(xué)歷對消費(fèi)水平的影響分析
演練：廣告形式和價(jià)格是影響終端銷量的關(guān)鍵因素嗎
演練：營業(yè)員的性別、技能級別對產(chǎn)品銷量有影響嗎
演練：尋找影響產(chǎn)品銷量的關(guān)鍵因素
多因素方差分析原理
多因素方差分析的作用
多因素方差結(jié)果的解讀
演練：廣告形式、地區(qū)對銷量的影響因素分析
協(xié)方差分析原理
協(xié)方差分析的適用場景演練：排除收入后，網(wǎng)齡對消費(fèi)水平的影響大小分析
列聯(lián)分析/卡方檢驗(yàn)（兩類別變量的相關(guān)性分析）
卡方檢驗(yàn)應(yīng)用場景
交叉表與列聯(lián)表
計(jì)數(shù)值與期望值
卡方檢驗(yàn)的原理
卡方檢驗(yàn)的幾個(gè)計(jì)算公式
列聯(lián)表分析的適用場景
案例：套餐類型對客戶流失的影響分析
案例：學(xué)歷對業(yè)務(wù)套餐偏好的影響分析
案例：銀行用戶違約的影響因素分析
屬性重要程度排序/篩選
線性回歸模型
問題：如何預(yù)測產(chǎn)品的銷量/銷售金額？
常用數(shù)值預(yù)測的模型
通用預(yù)測模型：回歸模型
線性回歸應(yīng)用場景
線性回歸模型種類
一元線性回歸
多元線性回歸
線性回歸建模過程
帶分類變量的回歸建模
回歸模型的質(zhì)量評估
回歸方程的解讀
回歸算法實(shí)現(xiàn)
基本概念
損失函數(shù)
普通最小二乘法OLS
數(shù)學(xué)推導(dǎo)
OLS存在的問題
梯度下降算法
梯度概念
梯度下降/上升算法
批量梯度/隨機(jī)梯度/小批量梯度
學(xué)習(xí)率的影響
早期停止法
牛頓法/擬牛頓法
泰勒公式(Taylor)
牛頓法(Newton)
擬牛頓法(Quasi-Newton)的優(yōu)化
DFP/BFGS/L-BFGS
算法比較-優(yōu)缺點(diǎn)
回歸模型優(yōu)化
回歸分析的基本原理
三個(gè)基本概念：總變差、回歸變差、剩余變差
方程的顯著性檢驗(yàn)：是否可以做回歸分析？
因素的顯著性檢驗(yàn)：自變量是否可用？
擬合優(yōu)度檢驗(yàn)：回歸模型的質(zhì)量評估？
理解標(biāo)準(zhǔn)誤差的含義：預(yù)測的準(zhǔn)確性？
欠擬合解決：多項(xiàng)式回歸
剔除離群值
剔除非顯著因素
非線性關(guān)系檢驗(yàn)
相互作用檢驗(yàn)
共線性檢驗(yàn)
檢驗(yàn)誤差項(xiàng)
案例：銷量預(yù)測模型優(yōu)化示例
過擬合解決：正則項(xiàng)
嶺回歸（Ridge）
套索回歸（Lasso）
彈性網(wǎng)絡(luò)回歸（ElasticNet）
超參優(yōu)化
手工遍歷cross_val_score交叉驗(yàn)證RidgeCV/LassCV/ElasticNetCV網(wǎng)格搜索GridSearchCV隨機(jī)搜索RandomizedSearchCV自定義回歸模型
自定義回歸模型
模型參數(shù)最優(yōu)法方法
全局優(yōu)化/暴力破解brute
局部優(yōu)化fmin有約束優(yōu)化minimize
好模型都是優(yōu)化出來的
案例：餐廳客流量進(jìn)行建模及模型優(yōu)化
基于回歸季節(jié)模型
季節(jié)性回歸模型的參數(shù)
相加模型
相乘模型
模型解讀/模型含義
案例：美國航空旅客里程的季節(jié)性趨勢分析
新產(chǎn)品預(yù)測與S曲線
產(chǎn)品累計(jì)銷量的S曲線模型
如何評估銷量增長的上限以及拐點(diǎn)
珀?duì)柷€
龔鉑茲曲線
案例：預(yù)測IPAD的銷售增長拐點(diǎn)，以及銷量上限
案例實(shí)戰(zhàn)
客戶消費(fèi)金額預(yù)測模型
房價(jià)預(yù)測模型及優(yōu)化
結(jié)束：課程總結(jié)與問題答疑。

傅一航老師的其它課程