PPt6 - Hopfield

Recurrent Network có các hidden neuron: ph n t làm tầ ử rễ z-1được dùng Đầu ra của Neural được feedback về tất cả các Neural. Recurrent Neural Network (RNN)Input: Pattern (thường có nhiều hoặc xuống cấp)Output: Corresponding pattern (hoàn hảo/xét môṭ cách tương đôíla ̀ ko có nhiễu )
Nội dung trích xuất từ tài liệu:
PPt6 - Hopfield Recurrent networkRecurrent Network có các hidden neuron: phần tử làm trễ z-1 được dùng- Đầu ra của Neural được feedback về tất cả các Neural z-1 input z-1 hidden output z-1 FacultyofElectronicsandTelecommunications,HUT 1 Bangkok,Jun.14–23,2006 RecurrentNeuralNetwork(RNN) Input:Pattern(thươngconhiêuhoăcxuôngcâp) ̀ ́ ̃ ̣ ́ ́ Output:Correspondingpattern(hoanhảo/xétmôtcachtươngđôi ̀ ̣ ́ ́ lakoconhiêu) ̀ ́ ̃ Process – Napmôtmâulênnhomloi(core)cacneuronsđươckêt ̣ ̣ ̃ ́ ̃ ́ ̣ ́ nôiphưctap. ́ ́ ̣ – Chaycoreneuronschotơikhichungtiênđênmôttrang ̣ ́ ́ ́ ́ ̣ ̣ thaiônđinh. ́ ̉ ̣ – Đocđâuracuatrangthaicuacacneuronloi. ̣ ̀ ̉ ̣ ́ ̉ ́ ̃ Inputs Outputs Output: (1 -1 1 -1 -1)Input: (1 0 1 -1 -1) 2 FacultyofElectronicsandTelecommunications,HUT 2 Bangkok,Jun.14–23,2006 AssociativeMemoryNetworks Input:Pattern(thươngconhiêuhoăcxuôngcâp) ̀ ́ ̃ ̣ ́ ́ Output:Correspondingpattern(hoanhảo/xétmôtcachtươngđôi ̀ ̣ ́ ́ lakoconhiêu) ̀ ́ ̃ Process – Napmôtmâulênnhomloi(core)cacneuronsđươckêt ̣ ̣ ̃ ́ ̃ ́ ̣ ́ nôiphưctap. ́ ́ ̣ – Chaycoreneuronschotơikhichungtiênđênmôttrang ̣ ́ ́ ́ ́ ̣ ̣ thaiônđinh. ́ ̉ ̣ – Đocđâuracuatrangthaicuacacneuronloi. ̣ ̀ ̉ ̣ ́ ̉ ́ ̃ Inputs Outputs Output: (1 -1 1 -1 -1)Input: (1 0 1 -1 -1) 3 FacultyofElectronicsandTelecommunications,HUT 3 Bangkok,Jun.14–23,2006 CacloaiAssociativeNetwork ́ ̣ 1. Auto-associative: X = Y ̣ ̣ ́ ̃ ̉ ̃ *Nhân dang cac nhiêu cua mâu 2. Hetero-associative Bidirectional: X Y BAM = Bidirectional Associative Memory*Iterative correction of input and output NN 5 FacultyofElectronicsandTelecommunications,HUT 4 4 Bangkok,Jun.14–23,2006 CacloaiAssociativeNetwork(cont.) ́ ̣ 3. Hetero-associative Input Correcting: X Y *Input clique is auto-associative => repairs input patterns 4. Hetero-associative Output Correcting: X Y NN 5 FacultyofElectronicsandTelecommunications,HUT 5*Output Bangkok,Jun.14–23,2006 clique is auto-associative => repairs output patterns 5 Hebb’sRule Connection Weights ~ Correlations ``When one cell repeatedly assists in firing another, the axon of the first cell develops synaptic knobs (or enlarges them if they already exist) in contact with the soma of the ...