建站
咨詢
售后
建站咨詢
新聞中心
1、RNN
創(chuàng)新互聯(lián)-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設(shè)、高性價(jià)比峨山縣網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫(kù),直接使用。一站式峨山縣網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設(shè)找我們，業(yè)務(wù)覆蓋峨山縣地區(qū)。費(fèi)用合理售后完善，十載實(shí)體公司更值得信賴。
簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)都有一個(gè)主要的特點(diǎn)，那就是都不具備記憶能力，也就是說，它們都是分別處理每一個(gè)輸入，而不存在前、后兩個(gè)輸入之間的關(guān)系。例如，您需要處理數(shù)據(jù)點(diǎn)或時(shí)序，您需要同時(shí)向網(wǎng)絡(luò)顯示整個(gè)時(shí)序，也就是將時(shí)序轉(zhuǎn)換為單一數(shù)據(jù)點(diǎn)輸入。采用這種輸入方式的網(wǎng)絡(luò)叫做前向神經(jīng)網(wǎng)絡(luò)(feddforwardnetwork)。
為了使這個(gè)過程更加容易理解，我們用簡(jiǎn)單的循環(huán)邏輯來實(shí)現(xiàn)一個(gè)RNN的前向傳播。
#簡(jiǎn)單的RNN實(shí)現(xiàn)Numpy實(shí)現(xiàn) import numpy as np timesteps=100 input_feature=32 output_fearture=64 inputs=np.random.random((timesteps,input_feature))#生成100,32形狀的矩陣 print(inputs) state_t=np.zeros((output_fearture,))#生成64個(gè)全為0的數(shù) print(state_t) w=np.random.random((output_fearture,input_feature)) u=np.random.random((output_fearture,output_fearture)) b=np.random.random((output_fearture,)) successive_outputs=[] for input_t in inputs: output_t=np.tanh(np.dot(w,input_t)+np.dot(u,state_t)+b)#np.dot表示數(shù)組點(diǎn)積 successive_outputs.append(output_t) state_t=output_t final_output_sequence=np.stack(successive_outputs,axis=0) print(final_output_sequence)
2、LSTM
在理論上，RNN應(yīng)該能夠記住在過去的時(shí)間里看到過的信息，但是實(shí)際上它不可能學(xué)習(xí)長(zhǎng)期存在的信息，主要是由于梯度消失的問題。因此研究人員設(shè)計(jì)了LSTM(longshort-termmemory)，也就是所謂的長(zhǎng)短期記憶。
與RNN相比，LSTM多了一種跨域攜帶信息的多時(shí)間步法(細(xì)胞狀態(tài)C)，這種步法類似于傳送帶，它運(yùn)行方向與你所處理的序列方向平行，而序列中的信息可以隨時(shí)跳到傳送帶上，然后被傳送帶送到更遠(yuǎn)的時(shí)間步，必要時(shí)還能原封不動(dòng)地跳回來。那是LSTM的原理。
以上就是python中RNN和LSTM的基本介紹，希望能對(duì)大家有所幫助！
文章標(biāo)題：創(chuàng)新互聯(lián)Python教程：python中RNN和LSTM的基本介紹
文章地址：http://m.fisionsoft.com.cn/article/cohopjg.html
