 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 1 | 1/1 | 返回列表 |
| 查看: 1043 | 回復: 0 | |||
[交流]
深度學習與大模型Transformer
|
|
國家“十四五”規(guī)劃中，“智能”“智慧”相關表述高達57處，這表明在當前我國經(jīng)濟從高速增長向高質(zhì)量發(fā)展的重要階段，以人工智能為代表的新一代信息技術，將成為我國“十四五”期間推動經(jīng)濟高質(zhì)量發(fā)展、建設創(chuàng)新型國家的重要技術保障和核心驅(qū)動力之一。當前，ChatGPT的火熱發(fā)展，其基礎技術就是來源于深度學習。ChatGPT是一種基于深度學習的人工智能模型，其核心技術是神經(jīng)網(wǎng)絡。ChatGPT使用多層神經(jīng)網(wǎng)絡來學習和預測自然語言序列的概率分布，以實現(xiàn)對話生成和自然語言處理等任務。深度學習是一種多層神經(jīng)網(wǎng)絡的機器學習方法，可以通過大量數(shù)據(jù)的訓練來學習復雜的特征和模式，并實現(xiàn)高效的分類和預測。 為積極響應科研及工程人員的需求，根據(jù)《國務院關于推行終身職業(yè)技能培訓制度的意見》提出的“緊跟新技術、新職業(yè)發(fā)展變化，建立職業(yè)分類動態(tài)調(diào)整機制，加快職業(yè)標準開發(fā)工作”要求，中國管理科學研究院現(xiàn)代教育研究所（https://www.zgyxdjy.com）聯(lián)合北京龍騰亞太教育咨詢有限公司特舉辦“深度學習核心技術實踐與圖神經(jīng)網(wǎng)絡新技術應用研修班”。本次培訓采用全實戰(zhàn)培訓模式。 本次培訓由北京龍騰亞太教育咨詢有限公司承辦并進行相關費用收取及發(fā)票開具。具體通知如下： 一、培訓專家: 來自中國科學院自動化技術研究所、北京理工大學等科研機構(gòu)和大學的高級專家，擁有豐富的科研及工程技術經(jīng)驗，長期從事人工智能、機器學習、深度學習、大數(shù)據(jù)分析等領域的教學與研究工作。 二、時間地點: 2023年7月27日 — 2023年7月31日 上海（同時轉(zhuǎn)線上直播） （27日報到發(fā)放上課材料，28日-31日上課） 三、培訓特色： 1、采用深入淺出的方法，結(jié)合實例并配以大量代碼練習，重點講解深度學習框架模型、科學算法、訓練過程技巧。 2、能夠把握深度學習的技術發(fā)展趨勢，可以熟練掌握深度學習核心技術、實踐技巧，同時針對工作中存在的疑難問題進行分析講解和專題討論，有效的提升學員解決復雜問題的能力； 3、掌握深度學習大模型Transformer訓練網(wǎng)絡搭建與配置、掌握數(shù)據(jù)價值的深度挖掘。 4、掌握圖神經(jīng)網(wǎng)絡模型及框架PyTorch 5、實踐手寫字體識別、葉片分類等案例，動手練習讓AI自己玩游戲。 6、根據(jù)自己的科研項目及課題研究，靈活掌握應用深度學習五大框架模型。 注：其它開源的公開數(shù)據(jù)集：ImageNet、MS-COCO、UCF101、HMDB51、PASCAL VOC、Open Images等。 四、參會對象： 各省市、自治區(qū)從事人工智能、深度學習、計算機視覺、人臉識別、圖像處理、行人檢測、自然語言處理等領域相關的企事業(yè)單位技術骨干、科研院所研究人員和大專院校相關專業(yè)教學人員及在校研究生等相關人員，以及深度學習、計算機視覺廣大愛好者。 五、費用標準： A類：5680元/人（含報名費、培訓費、資料費、A類證書費），住宿可統(tǒng)一安排，費用自理。 1、培訓費由組織培訓班的施教機構(gòu)負責收取并提供培訓發(fā)票。 2、上課前一周匯款可享受9折優(yōu)惠，或報名5人以上可享受9折優(yōu)惠，兩個優(yōu)惠不同時享用。報名8人以上享受8.8折優(yōu)惠。 3、參加線上、線下培訓學員均可享受視頻錄播回放權益，及本人再次免費參加線下同主題課程學習權益。 六、頒發(fā)證書： A、參加相關培訓并通過考核的學員，由中國管理科學研究院現(xiàn)代教育研究所頒發(fā)《深度學習開發(fā)與應用工程師》（高級）專業(yè)能力認證證書，可通過官方網(wǎng)站查詢，該證書可作為有關單位任職、職稱評定、專業(yè)技術人員能力評價、考核的重要依據(jù)。 注：請學員提交電子版彩照（大于20KB，紅藍底皆可）、身份證復印件和學歷證明復印件至報名郵箱。 七、注意事項 1、指定報名郵箱：2044115758@qq.com。 2、報名成功后，會務組在報到前一周發(fā)具體報到通知及行車路線。 3、學員需自備電腦一臺，配置win10、64位系統(tǒng)、8G及以上內(nèi)存，硬盤空間預留100G。 附件：具體課程安排 關鍵點 1.人工智能、深度學習的發(fā)展歷程 2.深度學習大模型Transformer 3.神經(jīng)網(wǎng)絡訓練方法 4.卷積神經(jīng)網(wǎng)絡，卷積核、池化、通道、激活函數(shù) 5.循環(huán)神經(jīng)網(wǎng)絡，長短時記憶LSTM、門控循環(huán)單元GRU 6.參數(shù)初始化方法、損失函數(shù)Loss、過擬合 7.對抗生成網(wǎng)絡GAN 8.遷移學習TL 9.強化學習RF 10.圖神經(jīng)網(wǎng)絡GNN 一、算法和場景融合理解 1.空間相關性的非結(jié)構(gòu)化數(shù)據(jù)，CNN算法。典型的圖像數(shù)據(jù)，像素點之間具有空間相關性，例如圖像的分類、分割、檢測都是CNN算法。 2.時間相關性的非結(jié)構(gòu)化數(shù)據(jù)，RNN算法。這類場景普遍的一個現(xiàn)象就是數(shù)據(jù)之間具有時序相關性，也就是數(shù)據(jù)之間存在先后依賴關系。例如自然語言處理、語音相關算法都是基于RNN算法。 3.非歐氏數(shù)據(jù)結(jié)構(gòu)， GNN。這類場景典型的可以用圖來表示。例如社交網(wǎng)絡等。 案例摘要講解 醫(yī)療領域：如流行疾病、腫瘤等相關疾病檢測 遙感領域：如遙感影像中的場景識別 石油勘探：如石油油粒大小檢測 軌道交通：如地鐵密集人流檢測 檢測領域：如故障檢測 公安領域：如犯罪行為分析 國防領域：目標檢測、信號分析、態(tài)勢感知… 經(jīng)濟領域：如股票預測 二、數(shù)據(jù)理解及處理 分析典型場景中的典型數(shù)據(jù)，結(jié)合具體的算法，對數(shù)據(jù)進行處理 1.結(jié)構(gòu)化數(shù)據(jù)，如何對數(shù)據(jù)進行讀取，進行組織。 2.圖像數(shù)據(jù)，在實際應用過程中的處理方法，怎樣做數(shù)據(jù)的預處理、進行數(shù)據(jù)增強等。 3.時序信號，將單點的數(shù)據(jù)如何組合成一個序列，以及對序列數(shù)據(jù)處理的基本方法。 三、技術路徑設計 針對具體的場景設計特定的神經(jīng)網(wǎng)絡模型，對典型數(shù)據(jù)適配的網(wǎng)絡結(jié)構(gòu)進介紹。 1.DNN模型搭建的基本原則 2.CNN模型中常見的網(wǎng)絡結(jié)構(gòu)，以及參數(shù)分析。 3.RNN中支持的一些基本算子，如何對序列數(shù)據(jù)進行組織。 四、模型驗證及問題排查 簡單的算法或者模型對典型的場景進行快速驗證，并且針對一些頻發(fā)的問題進行講解。 1.模型收斂狀態(tài)不佳 2.分類任務重最后一層激活函數(shù)對模型的影響 五、高級-模型優(yōu)化的原理 不同的模型需要采用的優(yōu)化函數(shù)以及反向傳播中參數(shù)的優(yōu)化方法 1.模型優(yōu)化的算法介紹，基于隨機梯度下降的算法介紹。 2.不同場景適應的損失函數(shù)介紹。 3.針對典型場景的反向傳播梯度的推到過程。 六、高級-定制化思路 結(jié)合往期學員的一些項目，簡單介紹一下解決一個具體問題的思路。 遙感成像中，地塊農(nóng)作物種類的識別。 實操解析與訓練 第一階段： 神經(jīng)網(wǎng)絡實踐 實驗：神經(jīng)網(wǎng)絡 1.神經(jīng)網(wǎng)絡中基本概念理解：epoch、batch size、學習率、正則、噪聲、激活函數(shù)等。 2.不同的數(shù)據(jù)生成模型、調(diào)整網(wǎng)絡參數(shù)、調(diào)整網(wǎng)絡規(guī)模 3.神經(jīng)網(wǎng)絡分類問題 4.不同數(shù)據(jù)特征的作用分析、隱含層神經(jīng)元數(shù)目 5.過擬合 高頻問題： 1.輸入數(shù)據(jù)與數(shù)據(jù)特征 2.模型設計的過程中的參數(shù)與功能的關系。 關鍵點： 1.掌握神經(jīng)網(wǎng)絡的基本概念 2.學會搭建簡單的神經(jīng)網(wǎng)絡結(jié)構(gòu) 3.理解神經(jīng)網(wǎng)絡參數(shù) 實操解析與訓練 第二階段： 深度學習三種編程思想 實驗：Keras實踐 1.理解Keras基本原理 2.學會Keras編程思想 3.三種不同的深度神經(jīng)網(wǎng)絡構(gòu)建編程方式 4.給定數(shù)據(jù)集，采用Keras獨立完成實際的工程項目 高頻問題： 1.如何編程實現(xiàn)深度神經(jīng)網(wǎng)絡 2.三種開發(fā)方式的具體使用 關鍵點： 1.掌握Keras編程思想 2.采用三種不同方式編寫深度神經(jīng)網(wǎng)絡 實操解析與訓練 第三階段：CNN實踐 實驗：圖像分類 1.使用CNN解決圖像分類問題 2.搭建AlexNet 3.VGG16/19 4.GoogleNet 5.ResNet 高頻問題： 1.CNN更復雜的模型在哪里可以找到代碼 關鍵點： 1.使用卷積神經(jīng)網(wǎng)絡做圖像分類 2.常見開源代碼以及適用的問題 實驗：視頻人物行為識別 1.基于C3D的視頻行為識別方法 2.基于LSTM的視頻行為識別方法 3.基于Attention的視頻行為識別方法 高頻問題： 1.2D卷積與3D卷積 2.視頻的時空特征 關鍵點： 1.C3D網(wǎng)絡的構(gòu)建 2.Attention機制 實操解析與訓練 第四階段： R-CNN及YOLO實踐 實驗：目標檢測 1.目標檢測發(fā)展現(xiàn)狀及代表性方法 2.兩階段目標檢測方法：R-CNN系列模型 3.一階段目標檢測方法：YOLO系列模型 高頻問題： 1.提名與分類 2.BBOX實現(xiàn)策略 3.YOLO Loss函數(shù) 關鍵點： 1.提名方法 2.ROI Pooling 3.SPP Net 4.RPN 5.YOLO 實操解析與訓練 第五階段： RNN實踐 實驗：股票預測 1.股票數(shù)據(jù)分析 2.同步預測 3.異步預測 高頻問題： 1.歷史數(shù)據(jù)的使用 關鍵點： 1.構(gòu)建RNN 2.采用Keras編程實現(xiàn) 實操解析與訓練 第六階段： Encoder-Decoder實踐 實驗：去噪分析 1.自編碼器 2.去噪自編碼器 高頻問題： 1.噪聲的引入與去除 關鍵點： 1.設計去噪自編碼器 實驗：圖像標題生成 結(jié)合計算機視覺和機器翻譯的最新進展，利用深度神經(jīng)網(wǎng)絡生成真實的圖像標題。 1.掌握Encoder-Decoder結(jié)構(gòu) 2.學會Seq2seq結(jié)構(gòu) 3.圖像CNN +文本RNN 4.圖像標題生成模型 高頻問題： 1.如何能夠根據(jù)圖像生成文本？ 關鍵點： 1.提取圖像特征CNN，生成文本RNN 2.構(gòu)建Encoder-Decoder結(jié)構(gòu) 實操解析與訓練 第七階段： GAN實踐 實驗：藝術家作品生成 1. 生成對抗網(wǎng)絡原理 2.GAN的生成模型、判別模型的設計 高頻問題： 1.生成模型與判別模型的博弈過程 關鍵點： 1.掌握GAN的思想與原理 2.根據(jù)需求學會設計生成模型與判別模型 實操解析與訓練 第八階段： 強化學習實踐 實驗：游戲分析 1.游戲場景分析 2.強化學習的要素分析 3.深度強化學習 高頻問題： 1.DNN 與DQN 2.探索與利用 關鍵點： 1.深度強化學習的原理 2.根據(jù)實際需求，設計深度強化學習模型 實操解析與訓練 第九階段： 圖卷積神經(jīng)網(wǎng)絡實踐 實驗：社交網(wǎng)絡分析 1.圖神經(jīng)網(wǎng)絡的原理 2.圖卷積神經(jīng)網(wǎng)絡的思想 3.設計圖卷積神經(jīng)網(wǎng)絡進行社交網(wǎng)絡分析 高頻問題： 1.如何從圖神經(jīng)網(wǎng)絡的原理轉(zhuǎn)化到實際編程 關鍵點： 1. 掌握圖神經(jīng)網(wǎng)絡原理 2. 圖卷積神經(jīng)網(wǎng)絡編程實現(xiàn) 實操解析與訓練 第十階段： Transformer實踐 實驗：基于Transformer的對話生成 1. Transformer原理 2. 基于Transformer的對話生成 3.基于 Transformer 的應用 高頻問題： 1.如何應用自注意力機制 2.如何應用于自然語言處理與計算機視覺 關鍵點： 1.self-Attention機制 2.position 更多內(nèi)容請關注微信公眾號：人工智能技術與咨詢或登錄中國人工智能培訓網(wǎng) 微信圖片_20230714144656.png |
回復此樓» 猜你喜歡
接收調(diào)劑
已經(jīng)有21人回復
-
289求調(diào)劑
已經(jīng)有9人回復
-
材料328求調(diào)劑
已經(jīng)有3人回復
-
材料工程269求調(diào)劑
已經(jīng)有5人回復
-
306求調(diào)劑
已經(jīng)有3人回復
-
成績276，專業(yè)代碼0856求調(diào)劑
已經(jīng)有7人回復
-
283求調(diào)劑
已經(jīng)有9人回復
-
0805總分292，求調(diào)劑
已經(jīng)有12人回復
-
環(huán)境調(diào)劑
已經(jīng)有5人回復
-
一志愿華中科技大學，化學專業(yè)344分，求調(diào)劑
已經(jīng)有6人回復
» 本主題相關商家推薦: (我也要在這里推廣)
相關版塊跳轉(zhuǎn)
我要訂閱樓主 龍騰張杰 的主題更新
| 1 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 環(huán)境調(diào)劑 +6 | chenhanheng 2026-03-02 | 6/300 |
|
|---|---|---|---|---|
|
[考研] 267求調(diào)劑 +6 | 釣魚佬as 2026-03-02 | 6/300 |
|
|
|
[考研] 291求調(diào)劑 +3 | MuoLuo1312 2026-03-02 | 6/300 |
|
|
|
[考研] 080500材料科學與工程 +4 | 202114020319 2026-03-03 | 4/200 |
|
|
|
[考研] 調(diào)劑 +5 | 13853210211 2026-03-02 | 7/350 |
|
|
|
[考研] 化工335求調(diào)劑 +5 | 摸摸貓貓頭 2026-03-02 | 5/250 |
|
|
|
[考研] 求調(diào)劑院校 +6 | 云朵452 2026-03-02 | 8/400 |
|
|
|
[考研] 338求調(diào)劑 +5 | 18162027187 2026-03-02 | 6/300 |
|
|
|
[考研] 321求調(diào)劑一志愿東北林業(yè)大學材料與化工英二數(shù)二 +5 | 蟲蟲蟲蟲蟲7 2026-03-01 | 9/450 |
|
|
|
[考研] 化學，材料，環(huán)境類求調(diào)劑 +7 | 考研版棒棒 2026-03-02 | 7/350 |
|
|
|
[考研] 0854總分272 +3 | 打小就是老實人 2026-03-02 | 4/200 |
|
|
|
[考研] 材料工程274求調(diào)劑 +5 | Lilithan 2026-03-01 | 5/250 |
|
|
|
[考研] 275求調(diào)劑 +7 | 明遠求學 2026-03-01 | 7/350 |
|
|
|
[考研] 一志愿山東大學材料與化工325求調(diào)劑 +5 | 半截的詩0927 2026-03-02 | 5/250 |
|
|
|
[考研] 一志愿東北大學材料專碩328，求調(diào)劑 +3 | shs1083 2026-03-02 | 3/150 |
|
|
|
[基金申請] 面上模板改不了頁邊距吧？ +6 | ieewxg 2026-02-25 | 7/350 |
|
|
|
[考研] 265分求調(diào)劑不調(diào)專業(yè)和學校有行學上就 +6 | 禮堂丁真258 2026-02-28 | 9/450 |
|
|
|
[考研] 291分工科求調(diào)劑 +9 | science餓餓 2026-03-01 | 10/500 |
|
|
|
[考博] 26申博 +4 | 想申博！ 2026-02-26 | 6/300 |
|
|
|
[考研] 0856材料求調(diào)劑 +4 | 麻辣魷魚 2026-02-28 | 4/200 |
|