【TensorFlow】01 TensorFlow簡介與Python基礎
828
2022-05-30
近年來掀起的深度學習革命已經深刻地改變了諸多應用領域,并將在越來越多的領域取得成功。其中最廣為人知的領域包括自動語音識別、圖像識別、自然語言理解及很多其他交叉領域(如醫療、生物、金融等)。下面將依次簡單介紹這些深度學習的典型現實應用。
1.3.1 自動語音識別自動語音識別(Automatic Speech Recognition,ASR)是一項將語音轉換成文本的技術。從早期的基于模板的方法到嚴格的統計模型,再到如今的深度模型,語音識別技術已經經歷了幾代的更迭。在深度學習模型之前,自動語音識別的主流模型是隱馬爾可夫模型(Hidden Markov Models,HMM)。在使用這些模型之前,所有的自動語音識別系統都需要經歷四個步驟:特征提取、聲學模型、語言模型和解碼搜索。在進入聲學模型之前,需要消除噪聲和增強信號,并將信號從時域轉換到頻域。聲學模型主要用來進行特征的轉換與表示,再通過一個語言模型,在解碼搜索中對模型的結果進行排序并選取得分最高的文本序列。早期應用于聲學建模的深度模型是普通的深度神經網絡(Deep Neural Networks,DNN),但DNN需要固定大小的輸入,因而需要一種能夠處理不同長度語音信號的方法。另外,考慮到語音信號是一種非平穩時序信號,如何有效地對長時時序動態相關性進行建模也頗為重要。而這些恰好是循環神經網絡的強項。因此,目前主流的自動語音識別深度學習模型是循環神經網絡的變種——長短期記憶網絡(Long ShortTerm Memory,LSTM)。以循環神經網絡為基礎的語音識別系統極大地減少了識別錯誤率,被廣泛應用于目前商業上主流的語音識別設備(如亞馬遜的Alexa)上。
1.3.2 圖像識別圖像識別是深度學習最成功的應用之一。深度學習在計算機視覺領域的突破發生在2012年,Hinton教授的研究小組利用卷積神經網絡架構(AlexNet)大幅降低了ImageNet ILSVRC挑戰中圖像分類任務的錯誤率并取得了冠軍。之后不斷有新的基于卷積神經網絡的架構被提出,包括GoogleNet、VGGNet、ResNet、DenseNets和Inception。這些模型在不斷加深網絡深度的同時,也能不斷提升圖像分類的準確率。同時,深度學習也被應用于其他計算機視覺任務中,包括目標檢測、圖像分割、圖像標注、行為分析、人臉識別,以及基于生成對抗網絡(Generative Adversarial Networks,GAN)的圖形風格遷移、視頻生成等。在這些應用的背后,起到關鍵作用的深度學習模型當屬深度卷積神經網絡。卷積神經網絡中最重要的操作是卷積和池化。受益于參數共享和稀疏連接,卷積神經網絡非常適合處理圖像數據。通過堆疊很多層,卷積神經網絡可以不斷地從低層特征中提取更高層的特征,最終更好地進行下游任務的處理。目前各種新的網絡架構仍在不斷被提出,我們期望深度學習在圖像識別領域不斷取得新的成果。
1.3.3 自然語言處理神經網絡從2000年開始就逐漸被應用到語言模型中,在成分解析、情感分析、信息抽取、機器翻譯、文本分類等自然語言理解的任務上均取得了好的結果。其中,一項重要成果就是詞向量的學習。詞向量可以看作是一種運用深度神經網絡將詞轉換成隱含空間中的一個向量化的位置表示的方法。將詞向量作為循環神經網絡的輸入,能有效利用合成式的向量語法對句子和短語進行解析。合成式的向量語法可以被認為是由循環神經網絡實施的上下文無關的概率語法。另一方面,以長短期記憶網絡為代表的循環神經網絡在機器翻譯和語言模型等方面的表現也較為突出。近年來,除了循環神經網絡之外,新的一些深度神經網絡結構(如Transformer)也不斷被提出,它們通過學習文本序列中的長期依賴和分層結構,在自然語言處理的任務上取得了顯著的效果。此外,基于預訓練的無監督模型,如建立在Transformer基礎上的BERT(Bidirectional Encoder Representations from Transformers)模型,采用遷移學習和微調的方法,進一步刷新了深度學習方法在自然語言處理任務上的技術前沿。到目前為止,面向自然語言處理任務的深度學習架構仍在不斷進化,與強化學習、無監督學習等的結合應該會帶來效果更優的模型。
1.3.4 其他領域深度學習在其他領域(如生物學、醫療和金融等)也有很多應用。在生物學研究中,深度學習算法可以發現人類無法捕捉到的特征。研究人員利用這些算法對細胞圖像進行分類,建立基因組連接,加速藥物發明周期。在醫療領域,深度卷積神經網絡被應用于癌細胞分類、病變檢測、器官分割和圖像增強等醫療圖像分析任務中,并取得了不錯的成果。在金融領域,深度學習被應用于金融欺詐檢測和反洗錢等任務,也可以通過模擬交易員的行為,完成選股、擇時、風控等較為復雜的任務。此外,深度學習在異常檢測和信用評分等領域也有應用。
EI企業智能 AI
版權聲明:本文內容由網絡用戶投稿,版權歸原作者所有,本站不擁有其著作權,亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容,請聯系我們jiasou666@gmail.com 處理,核實后本網站將在24小時內刪除侵權內容。