Som namnet antyder är backpropagation ett algoritm som tillbaka förökar felen från utgångsnoder till inmatningsnoderna. Därför kallas det helt enkelt ”bakåtförökning av fel”. Detta tillvägagångssätt utvecklades från analysen av en mänsklig hjärna. Taligenkänning, karaktärsigenkänning, signaturverifiering, mänskligt ansiktsigenkänning är några av de intressanta tillämpningarna av neurala nätverk. Neurala nätverk går igenom övervakat lärande, ingångsvektorn som passerar genom nätverket producerar utgångsvektor. Denna utgångsvektor verifieras mot önskad utgång. Om resultatet inte matchar utdatavektorn genereras en felrapport. Baserat på felrapporten justeras vikterna för att få önskad effekt.
Vad är ett artificiellt neuralt nätverk?
En Artificiellt neuralt nätverk använder övervakad inlärningsregel för att bli effektiv och kraftfull. Informationen i neurala nätverk flyter på två olika sätt. Främst när modellen utbildas eller lär sig och när modellen fungerar normalt - antingen för testning eller för att utföra någon uppgift. Information i olika former matas in i modellen genom inmatade neuroner, vilket utlöser flera lager av dolda nervceller och når utgångsneuronerna, vilket är känt som ett matningsnätverk.
Eftersom alla nervceller inte utlöses samtidigt multipliceras nervcellerna som tar emot ingångarna från vänster med vikterna när de färdas genom dolda lager. Lägg nu till alla ingångar från varje neuron och när summan överstiger en viss tröskelnivå kommer neuronerna som hade varit tysta utlöst och anslutits.
Sättet Artificial Neural Network lär sig är att det lär sig av vad det hade gjort fel och gör rätt, och detta kallas feedback. Artificiella neurala nätverk använder feedback för att lära sig vad som är rätt och fel.
Vad är Backpropagation?
Definition: Backpropagation är en viktig mekanism genom vilken neurala nätverk tränas. Det är en mekanism som används för att finjustera vikterna i ett neuralt nätverk (annars kallat en modell i den här artikeln) med avseende på felprocenten som producerades i den tidigare iterationen. Det liknar en budbärare som berättar för modellen om nätet gjorde ett misstag eller inte så snart det förutspådde.
backpropagation-neural-network
Backpropagation i neurala nätverk handlar om överföring information och relatera denna information till felet som genererades av modellen när en gissning gjordes. Denna metod syftar till att minska felet, som annars kallas förlustfunktionen.
Hur Backpropagation fungerar - enkel algoritm
Backpropagation in deep learning är ett vanligt tillvägagångssätt för träning av artificiella neurala nätverk. Sättet det fungerar är att - Till att börja med när ett neuralt nätverk är utformat tilldelas slumpmässiga värden som vikter. Användaren är inte säker på om de tilldelade viktvärdena är korrekta eller passar modellen. Som ett resultat matar modellen ut det värde som skiljer sig från den faktiska eller förväntade utgången, vilket är ett felvärde.
För att få lämplig utdata med minimalt fel bör modellen tränas i en relevant dataset eller parametrar och övervaka dess framsteg varje gång den förutsäger. Neurala nätverket har en relation med felet, så när parametrarna ändras ändras också felet. Backpropagation använder en teknik som kallas deltaregeln eller gradientnedstigning för att ändra parametrarna i modellen.
Ovanstående diagram visar hur backpropagation fungerar och dess funktion ges nedan.
- 'X' vid ingångarna når från den föranslutna sökvägen
- 'W', de verkliga vikterna används för att modellera ingången. Värdena för W tilldelas slumpmässigt
- Produktionen för varje neuron beräknas genom vidarebefordring - ingångsskiktet, dolt lager och utgående lager.
- Felet beräknas vid utgångarna med hjälp av ekvationen Propagerar bakåt igen genom utdata och dolda lager, vikter justeras för att minska felet.
Återigen sprida sig framåt för att beräkna utdata och fel. Om felet minimeras avslutas denna process eller annars sprids bakåt och justerar viktvärdena.
Denna process upprepas tills felet reduceras till ett minimum och önskad output erhålls.
Varför behöver vi backpropagation?
Detta är en mekanism som används för att träna det neurala nätverket som rör den specifika datasetet. Några av fördelar med Backpropagation är
- Det är enkelt, snabbt och enkelt att programmera
- Endast siffrorna på ingången är inställda och inte någon annan parameter
- Du behöver inte ha förkunskaper om nätverket
- Det är flexibelt
- Ett vanligt tillvägagångssätt och fungerar effektivt
- Det kräver inte att användaren lär sig specialfunktioner
Typer av Backpropagation Network
Det finns två typer av backpropagation-nätverk. Den kategoriseras enligt nedan:
Statisk backpropagation
Statisk backpropagation är en typ av nätverk som syftar till att producera en kartläggning av en statisk ingång för statisk utgång. Dessa typer av nätverk kan lösa statiska klassificeringsproblem som optisk teckenigenkänning (OCR).
Återkommande Backpropagation
Den återkommande backpropagation är en annan typ av nätverk som används i fastpunktsinlärning. Aktiveringarna i återkommande backpropagation matas framåt tills det uppnår ett fast värde. Efter detta beräknas ett fel och förökas bakåt. A programvara , NeuroSolutions har förmågan att utföra den återkommande backpropagationen.
De viktigaste skillnaderna: Den statiska backpropagation erbjuder omedelbar kartläggning, medan kartläggning av återkommande backpropagation inte är omedelbar.
Nackdelar med Backpropagation
Nackdelarna med backpropagation är:
- Backpropagation kan vara känslig för bullriga data och oegentligheter
- Prestandan för detta är starkt beroende av indata
- Behöver överdriven tid för träning
- Behovet av en matrisbaserad metod för backpropagation istället för mini-batch
Tillämpningar av Backpropagation
Ansökningarna är
- Neurala nätverket är utbildat för att uttala varje bokstav i ett ord och en mening
- Det används inom området taligenkänning
- Den används inom karaktärs- och ansiktsigenkänning
Vanliga frågor
1). Varför behöver vi backpropagation i neurala nätverk?
Detta är en mekanism som används för att träna det neurala nätverket som rör den specifika datasetet
2). Vad är målet för backpropagation-algoritmen?
Målet med denna algoritm är att skapa en träningsmekanism för neurala nätverk för att säkerställa att nätverket utbildas för att mappa ingångarna till deras lämpliga utgångar.
3). Vad är inlärningshastigheten i neurala nätverk?
Inlärningshastigheten definieras i samband med optimering och minimering av förlustfunktionen i ett neuralt nätverk. Det hänvisar till den hastighet med vilken ett neuralt nätverk kan lära sig nya data genom att åsidosätta de gamla data.
4). Är det neurala nätverket en algoritm?
Ja. Neurala nätverk är en serie inlärningsalgoritmer eller regler utformade för att identifiera mönstren.
5). Vad är aktiveringsfunktionen i ett neuralt nätverk?
Aktiveringsfunktionen i ett neuralt nätverk avgör om neuronen ska aktiveras / utlösas eller inte baserat på den totala summan.
I den här artikeln, begreppet Backpropagation av neurala nätverk förklaras med ett enkelt språk för en läsare att förstå. I denna metod utbildas neurala nätverk från fel som genereras för att bli självförsörjande och hantera komplexa situationer. Neurala nätverk har förmågan att lära sig exakt med ett exempel.
