基于注意力機制的序列數據分類模型研究
發(fā)布時間:2025-02-13 19:52
序列數據分類是數據挖掘領域的熱點問題,該任務的本質是為給定的序列分配一個預定義的標簽。針對序列數據的分類問題,已有許多研究工作,它們大致可以分為以下三類:基于特征、基于距離和基于模型的方法。前兩類方法由于人工特征的設計和距離計算,將消耗大量時間且需要專業(yè)的背景知識,同時這些方法很難建模序列的依賴關系和提取多尺度特征,而隨著深度學習的發(fā)展,神經網絡模型依靠其模型結構和反向傳播算法可以端到端的提取樣本特征。另外,序列數據中含有大量信息,但目前大多數序列分類方法無法針對具體樣本自適應地挖掘序列數據,而注意力機制作為一種模仿生物觀察行為的方法,近年來在計算機視覺領域飛速發(fā)展,其可以針對具體樣本自適應地選擇合適的特征。因此本文將在深度學習結合注意力機制的方向上作出探索,主要研究工作包括以下兩個方面:(1)本文提出一種基于注意力機制的變量相關性挖掘網絡(Attention-based Variable Correlation Mining Network,VCM-Net)應用于多變量時間序列分類領域。該模型先通過稀疏的多尺度卷積濾波器提取變量相關性特征,然后采用注意力機制為每個樣本自適應地選擇這些特...
【文章頁數】:71 頁
【學位級別】:碩士
【部分圖文】:
本文編號:4034030
【文章頁數】:71 頁
【學位級別】:碩士
【部分圖文】:
圖2-2LeNet-5卷積神經網絡結構圖
圖2-1“右手扔”動作的執(zhí)行過程圖,從左至右為時間演化方向2.3多尺度卷積神經網絡卷積神經網絡(ConvolutionalNeuralNetwork,CNN)最開始由Lecun等人[74]提出,在2012年Krizhevsky等人[14]憑借Alex-Ne....
圖2-1“右手扔”動作的執(zhí)行過程圖,從左至右為時間演化方向
圖2-1“右手扔”動作的執(zhí)行過程圖,從左至右為時間演化方向多尺度卷積神經網絡卷積神經網絡(ConvolutionalNeuralNetwork,CNN)最開始由Lecun等人[74]提012年Krizhevsky等人[14]憑借Alex-Net獲得Ima....
圖2-3多尺度卷積神經網絡結構圖
所謂多尺度是指在同一層卷積操作中采用大小不同的卷積核獲取多種尺度特征。如圖2-3所示,具體以多變量時間序列為例講述multi-scaleCNN,如果輸入是文本序列則變量維度變成詞向量的維度,時間維度表示文本中詞的順序方向。
圖2-4LSTM單元結構圖
圖2-4LSTM單元結構圖[75]本節(jié)將以時間序列數據ǖǖǖ為例,描述LSTM單元的更新過程,以下幾步:(1)首先初始化連接權重和偏置,根據上一時刻隱藏層狀態(tài)和當前算候選記憶單元激活值:x(ǖ....
本文編號:4034030
本文鏈接:http://www.wukwdryxk.cn/kejilunwen/shengwushengchang/4034030.html
上一篇:圖像中的復雜線結構自動化檢測算法研究
下一篇:沒有了
下一篇:沒有了
最近更新
教材專著