Python、知識圖譜與深度學習培訓_8天

Python、知識圖譜與深度學習培訓
【課程時長】
8天（6小時/天）
【課程簡介】
人工智能的浪潮正在席卷全球，各種培訓課程應運而生，但真正能讓學員系統(tǒng)、全面掌握知識點，并且能學以致用的實戰(zhàn)課程并不多見。本課程包含基于python的數(shù)據(jù)分析、深度學習、知識圖譜和的重要概念及常用算法（決策樹、關(guān)聯(lián)規(guī)則、聚類、貝葉斯網(wǎng)絡、神經(jīng)網(wǎng)絡、支持向量機、隱馬爾科夫模型、遺傳算法、CNN、RNN、GAN等），以及人工智能領(lǐng)域當前的熱點。通過8天的系統(tǒng)學習、案例講解和動手實踐，讓學員能初步邁入機器學習、深度學習和知識圖譜的知識殿堂。
【課程收益】
掌握Python開發(fā)技能；
掌握深度學習工具：TensorFlow、Keras、pytorch等；
掌握基于python的數(shù)據(jù)分析知識；
掌握數(shù)據(jù)挖掘與機器學習進階知識；
掌握深度學習的理論與實踐；
掌握知識圖譜基本知識；
為學員的后續(xù)項目應用提供針對性的建議。
【課程特點】
本課程力圖理論結(jié)合實踐，強調(diào)從零開始，重視動手實踐；課程內(nèi)容以原理講解為根本，以應用落地為目標。課程通過大量形象的比喻和手算示例來解釋復雜的機器學習理論，既能將原理充分講懂講透，也避免了繁復而枯燥的公式推導。
【課程對象】
計算機相關(guān)專業(yè)本科；或理工科本科，且至少熟悉一門編程語言。
【主講專家】
葉梓，博士、高級工程師。2005年上海交通大學計算機專業(yè)博士畢業(yè)，主研方向為數(shù)據(jù)挖掘、機器學習、人工智能等?，F(xiàn)為某大型上市軟件企業(yè)的人工智能團隊技術(shù)負責人。曾主持設計并搭建上海市衛(wèi)計委衛(wèi)生大數(shù)據(jù)平臺、無錫市衛(wèi)生大數(shù)據(jù)平臺，在大數(shù)據(jù)、人工智能應用等方面有著豐富的工程實踐經(jīng)驗。先后在SCI或EI期刊上發(fā)表論文4篇，在中文核心期刊上發(fā)表論文近20篇，并被百度學術(shù)收錄。2011年獲中國醫(yī)院協(xié)會科技創(chuàng)新一等獎。
【學員基礎(chǔ)】
具備初步的IT基礎(chǔ)知識
【課程大綱】（培訓內(nèi)容可根據(jù)客戶需求調(diào)整）
時間
內(nèi)容
案例實踐與練習
Day1上午
基于python的實驗環(huán)境
實驗環(huán)境搭建
anaconda包的安裝
pip install的技巧
通過anaconda配置多個環(huán)境
Jupyter Notebook的使用
繪圖工具包matplotlib
opencv的安裝
Tensorflow的安裝
Pytorch的安裝
paddlepaddle的安裝
案例實踐：
python安裝
opencv安裝與驗證
Tensorflow安裝與驗證
Pytorch安裝與驗證
paddlepaddle安裝與驗證
Day1下午
Python基礎(chǔ)
Python開發(fā)概述
Python的基本語法
引入外部包
常用的數(shù)據(jù)結(jié)構(gòu)
定義函數(shù)
Python中的面向?qū)ο缶幊?br /> 文件讀寫
訪問數(shù)據(jù)庫
數(shù)據(jù)預處理
數(shù)據(jù)清理
規(guī)范化
模糊集
粗糙集
無標簽時：PCA
有標簽時：Fisher線性判別
數(shù)據(jù)壓縮（DFT、小波變換）
回歸與時序分析
線性回歸
非線性回歸
logistics回歸
案例實踐：
PCA的實驗
DFT的實驗
回歸的實驗
Day2上午
基于python的數(shù)據(jù)分析
決策樹模型
分類和預測
熵減過程與貪心法
ID3
C4.5
其他改進方法
決策樹剪枝
聚類
監(jiān)督學習與無監(jiān)督學習
K-means與k-medoids
層次的方法
基于密度的方法
基于網(wǎng)格的方法
孤立點分析
案例實踐：
決策樹的實驗
鳶尾花數(shù)據(jù)的聚類
手肘法分析NBA球隊的最佳聚類個數(shù)
各種聚類方式的圖形化展示
Day2下午
基于python實現(xiàn)的經(jīng)典算法
關(guān)聯(lián)規(guī)則
頻繁項集
支持度與置信度
提升度
Apriori性質(zhì)
連接與剪枝
性能評價指標（5）
精確率；
P、R與F1
ROC與AUC
對數(shù)損失
泛化性能評價：k折驗證驗證
案例實踐：
超市購物籃——關(guān)聯(lián)規(guī)則分析
樸素貝葉斯案例：皮馬印第安人患糖尿病的風險
Day3上午
知識圖譜概念
知識圖譜綜述
自然語言處理概念回顧
知識表示與知識抽取
面向非結(jié)構(gòu)化的數(shù)據(jù)知識抽取
實體消歧與鏈接
圖數(shù)據(jù)庫介紹
實體對齊方法
知識融合
知識推理、搜索與知識問答
早期知識圖譜概念
知識推理
本體推理方法
本體推理工具
語義搜索
RDF與RDFS
OWL與OWL2
SPARQL
實踐：
Neo4j的安裝
知識推理模型
Day3下午
知識圖譜存儲
知識圖譜存儲
知識存儲模型
圖數(shù)據(jù)庫選型
Neo4j開發(fā)環(huán)境部署
Neo4j-可視化操作
Neo4j-CQL語法基礎(chǔ)
Neo4j-完整案例操作實戰(zhàn)
Neo4j系統(tǒng)管理
Python與Neo4j的集成
實踐：
Neo4j的安裝
Neo4j的基本操作
基于Neo4j的查詢
Python與Neo4j的集成
Day4上午
知識圖譜自動抽取
知識圖譜自動抽取
面向文本的知識抽取
DeepDive關(guān)系抽取實踐
開放域關(guān)系抽取
實體消歧與鏈接
知識規(guī)則挖掘
知識圖譜表示學習
基于DL的知識圖譜自動抽取
基于深度學習的實體識別
基于深度學習的屬性鏈接
實踐：
基于百科數(shù)據(jù)的知識抽取
知識抽取的DL模型
Day4下午
KBQA完整體系
KBQA完整體系
知識問答系統(tǒng)
知識問答系統(tǒng)基本流程
知識問答系統(tǒng)主流方法
開源的問答系統(tǒng)
基于知識圖譜問答系統(tǒng)
綜合案例
完整的基于KG的問答系統(tǒng)（KBQA）
Day5上午
深度學習基礎(chǔ)
BP神經(jīng)網(wǎng)絡
人工神經(jīng)元及感知機模型
Sigmoid激活函數(shù)
前向神經(jīng)網(wǎng)絡的架構(gòu)
梯度下降
誤差反向傳播詳解
支持向量機
“雙螺旋”問題
基本模型與懲罰項
求解對偶問題
核函數(shù)：映射到高維
從二分類到多分類
用于連續(xù)值預測的支持向量機
案例實踐：
皮馬印第安人糖尿病風險：驗證多種模型
繪制ROC并計算AUC
手算神經(jīng)網(wǎng)絡BP算法
只用numpy，手推BPNN
Day5下午
深度學習基礎(chǔ)與CNN
深度學習基礎(chǔ)
連接主義的興衰
深度學習與神經(jīng)網(wǎng)絡的區(qū)別與聯(lián)系
目標函數(shù)與激勵函數(shù)
學習步長
權(quán)重初始化
權(quán)重衰減（Weight Decay）
梯度下降的方法：Adagrad \ RMSprop \ Adam
避免過適應
圖像分類CNN
圖像分類概述
AlexNet與ZF-Net
卷積層的誤差反向傳播
池化層的誤差反向傳播
VGG（5層變?yōu)?組）
遷移學習
GoogLenet和Inception模塊
模型退化與ResNet
DenseNet（充分利用特征）
最新的efficientnet
案例實踐：
SVM實現(xiàn)人臉識別應用
通過深度BP網(wǎng)絡實現(xiàn)手寫數(shù)字的識別
各種梯度下降方法的實戰(zhàn)效果
Batch normalization的實戰(zhàn)效果
案例實踐：
VGG各層的可視化展現(xiàn)
遷移學習：識別貓和狗
Resnet用于圖像分類
Day6上午
目標檢測
二階段目標檢測
目標檢測項目介紹
R-CNN
SPPNET（全圖卷積、SPP層）
Fast-RCNN（多任務）
Faster-RCNN（RPN）
R-FCN
一階段目標檢測（2）
SSD
YOLO-v1（一切都是回歸）
YOLO -v2（9000）
YOLO -v3（多尺度）
YOLO -v4
YOLO -v5
案例實踐：
基于Faster-RCNN的通用目標檢測示例
改造成“血細胞識別”系統(tǒng)
Day6下午
圖像分割與NLP初步
圖像分割（3）
全卷積網(wǎng)絡（FCN）
上采樣的三種實現(xiàn)方式
膨脹卷積
CRF
DeepLab V1~V3
自然語言處理初步（2）
語言模型
Bi-Gram與N-Gram
機械分詞與統(tǒng)計分詞
詞性標注
命名實體識別
情感分析；
案例實踐：
基于YOLO v3的通用目標快速檢測示例
基于YOLO v3的視頻檢測
基于YOLO v5的目標檢測
DeepLab的示例
Day7上午
RNN與W2V
循環(huán)神經(jīng)網(wǎng)絡（1）
RNN基本原理
LSTM、GRU
雙向循環(huán)神經(jīng)網(wǎng)絡
編碼器與解碼器結(jié)構(gòu)
seq2seq模型
Attention
NIC模型
詞向量（3）
W2V:CBOW
W2V:skip-gram
W2V:Hierachical Softmax
W2V:Negative Sampling
案例實踐：
股票交易數(shù)據(jù)的預測；
藏頭詩生成；
《絕代雙驕》中，誰和小魚兒最相似？
SnowNLP：褒義的中性詞
Word2vec代碼解讀
Day7下午
預訓練模型基礎(chǔ)
Transformer
所有你需要的僅僅是“注意力”
Transformer中的block
自注意力機制
多頭注意力
位置編碼（拋棄RNN）
Batch Norm與Layer Norm
解碼器的構(gòu)造
BERT
BERT整體架構(gòu)
Masked-LM
Next Sentence Prediction
改造下游任務
WordPiece作為輸入
哪些改進起作用？
案例實踐：
手推Transformer
BERT代碼解讀
BERT下游任務的改造
Day8上午
GPT、GAN
GPT
“獨角獸”的威力
GPT的內(nèi)部架構(gòu)
基于Transformer的改造
自注意力機制的改進
GPT的應用場景
最新的GPT-3
GAN
生成對抗網(wǎng)絡（GAN）
KL散度與JS散度
改進的GAN：DCGAN
加上約束：infoGAN
根本上解決：Wasserstein GAN
案例實踐：
實現(xiàn)一個對話機器人
讓GPT寫一篇散文
案例實踐：
計算機想象的數(shù)字
特朗普的孩子
Day8下午
強化學習
強化學習初步
agent的屬性
馬爾科夫獎勵/決策過程
exploration and exploitation
狀態(tài)行為值函數(shù)
Bellman期望方程
最優(yōu)策略
策略迭代與價值迭代
蒙特卡洛
時序差分法
深度強化學習
值函數(shù)的參數(shù)化表示
值函數(shù)的估計過程
深度學習與強化學習的結(jié)合
基礎(chǔ)的DQN 方法
Double DQN
Prioritized Replay
Dueling Network
案例實踐：
格子世界
機器人走迷宮
谷底的小車
倒立擺
笨鳥先飛：DQN
【授課環(huán)境】
講課環(huán)境要能上網(wǎng)

葉梓老師的其它課程