百度飛槳七日打卡學習心得神經網絡與深度學習

ID:237527 · 發表于 2020-4-7 14:21

百度飛槳學習心得
時間過得飛快，轉眼7天的課程已經接近尾聲，從第一天的新冠疫情可視化，到最后的人流密度檢測，從易到難，我從中學到了很多，以前只是聽說過神經網絡、深度學習，但是并不了解它們是一個怎樣的結構，它是如何像人一樣具有的學習能力，現在已經知道了深度學習是什么，怎么構建配置網絡，怎么訓練出模型，怎么來測試模型的好與壞，通過觀察輸出信息來調整自己網絡的參數。
這個課程給我最大的感受就是這里的老師很熱情，每天晚上老師都給我們講解今天要學習的內容，而且詳細的講解作業的代碼，同時還在群里解答我們學習過程中遇到的問題所在，我覺得這里的老師非常的負責任，就是這樣的學習環境我們才開始慢慢了解了百度飛槳這一深度學習平臺，是一個集深度學習訓練和預測框架、模型庫、工具組件和服務平臺為一體，擁有兼顧靈活性和高性能的開發機制、工業級的模型庫、超大規模分布式訓練技術、高速推理引擎以及系統化的社區服務等五大優勢，致力于讓深度學習技術的創新與應用更簡單。下面就說下我在課程中所學到的知識。
第一天新冠疫情可視化，老師先給我們介紹了圖像識別算法的定義和發展過程中遇到的問題，從早期的全局特征提取到中期的詞袋模型、局部特征，識別效率和準確率在逐漸上升。接下來就是實戰環節，我們用餅狀圖顯示全國疫情首先需要得到今日的數據，利用python自帶的request模塊爬取丁香園的公開的統計數據，并保存在文件中。代碼如下：

接下來就是安裝第三方庫pyecharts ，如果下載時出現斷線和速度過慢的問題導致下載失敗，可以嘗試使用清華鏡像。

Echarts 是一個由百度開源的數據可視化工具，憑借著良好的交互性，精巧的圖表設計，得到了眾多開發者的認可。而 Python 是一門富有表達力的語言，很適合用于數據處理。當數據分析遇上數據可視化時，pyecharts 誕生了。pyecharts api可以參考：pyecharts點org/#/zh-cn/chart_api 。
畫餅狀圖用到的是pyecharts 模塊中的Pie,就需要初始化餅狀圖的一些參數，包括顏色、內外半徑、中心坐標、標簽的排序方向和方式等等。

下圖為最終顯示效果圖。

第二天基于深度學習的手勢識別，首先我們先看下什么是深度神經網絡。神經網絡是基于感知機的擴展，而DNN可以理解為有很多隱藏層的神經網絡。多層神經網絡和深度神經網絡DNN其實也是指的一個東西，DNN有時也叫做多層感知機（Multi-Layer perceptron,MLP）。從DNN按不同層的位置劃分，DNN內部的神經網絡層可以分為三類，輸入層，隱藏層和輸出層,如下圖示例，一般來說第一層是輸入層，最后一層是輸出層，而中間的層數都是隱藏層。

下面開始介紹DNN神經網絡的配置，我們輸入的圖片大小為3*100*100，全連接層第一層的輸入為3*100*100，輸出我們設為100，中間兩個隱藏層都是100，100，激活函數都為relu，最后的輸出層為100、10，激活函數為softmax，因為我們最終的分類為10所以輸出通道為10，下面是前向傳播函數，就是按照全連接層的順序來寫，需要注意的是輸入的大小必須匹配上。

特別的地方是PaddlePaddled的用動態圖進行訓練，優化器選用SGD隨機梯度下降，學習率為0.001.關于優化器的種類有很多，梯度下降法GD、批量梯度下降法BGD、隨機梯度下降法SGD、Momentum、動量優化法、NAG（Nesterov accelerated gradient）、自適應學習率優化算法、AdaGrad、Adadelta、Adam: Adaptive Moment Estimation
他們各有優缺點，我們這里選擇SGD由于每次參數更新僅僅需要計算一個樣本的梯度，訓練速度很快，即使在樣本量很大的情況下，可能只需要其中一部分樣本就能迭代到最優解，由于每次迭代并不是都向著整體最優化方向，導致梯度下降的波動非常大，更容易從一個局部最優跳到另一個局部最優，準確度下降。但是這就需要我們根據收斂速度慢慢調整學習率learning_rate。訓練次數可根據損失loos和成功率acc來更改其大小。

我們將訓練好的模型保存下來，接著就是測試我們模型的準確率，一個模型的好壞就是看其測試的準確率大小，準確率越高說明我們的模型的訓練的很成功，錯誤的可能性更低。對于如何提高模型的準確率，我覺得有三個方面是非常重要的。第一個是增加訓練的數據，神經網絡的起源就是模仿人的神經元，我們常說見多識廣，增加訓練數據可以讓我們的模型提取的特征更明顯。第二個就是處理缺失值和異常值，對于連續變量，可以把缺失值替換成平均值、中位數、眾數。對于分類變量，可以把變量作為一個特殊類別看待。你也可以建立模型預測缺失值。KNN 為處理缺失值提供了很好的方法。異常值：你可以刪除這些條目，進行轉換，分箱。如同缺失值，你也可以對異常值進行區別對待。第三個就是交叉驗證，如果想提高準確率，我們必須使用交叉驗證技術(cross validation)。交叉驗證是數據建模領域最重要的概念之一。它是指，保留一部分數據樣本不用來訓練模型，而是在完成模型前用來驗證。我們測試準確率就是使用交叉驗證的方法
。

最后就是根據我們輸入的數字圖像，預測輸出。

從第三天開始我們就開始學習不同的網絡模型，講解了卷積神經網絡，并學習了經典的卷積神經網絡模型LeNet、AlexNet、VGGNet、GoogleNet、ResNet。跟神經網絡一樣，卷積神經網絡由神經元構成，這些神經元帶有可學習的權重和偏差（bias）。每個神經元接收若干輸入，并對輸入進行加權求和，然后通過一個激活功能將它們傳遞出去，再用一個輸出作為反應。整個神經網絡有一個損失函數，我們為神經網絡開發的所有貼士和技巧，仍然適用于卷積神經網絡。一個卷積神經網絡的典型架構。

學到現在感覺自己還是有很多的不足，想要深入了解神經網絡、深度學習，還需要接著跟隨著老師的步伐，百度飛槳平臺是一個非常好的深度學習平臺，回到學校我會向老師和同學們推薦這么好的學習環境，這么好的東西我不能自己獨享，最后還是要感謝我們的老師，在這期間為我們解決問題，指引我們向前走。

帳號		自動登錄	找回密碼
密碼			立即注冊

久久久久久久999_99精品久久精品一区二区爱城_成人欧美一区二区三区在线播放_国产精品日本一区二区不卡视频_国产午夜视频_欧美精品在线观看免费

百度飛槳七日打卡學習心得 神經網絡與深度學習

百度飛槳七日打卡學習心得神經網絡與深度學習