Witam
Na kartcę chcę sobie zasymulować prostą sieć neuronową rozpoznającą litery. Literkę zapisałem na matrycy 5x5 i teraz moja sieć ma:
25 wejść
2 neurony w warstwie wejściowej ( dla literki I orac E )
2 neurony w warstwie wyjściowej ( odpowiedźi stosowne )
Teraz moje pytanie brzmi jak ustalić ilość warstw ukrytych. Zawsze mam z tym problem... Chciałbym aby sieć nie była superaśna, ale radziła sobie z podstawami.
Ilość warstw ukrytych? Gdzieś ktoś udowodnił że każde odwzorowanie można uzyskać stosując =<3 warstwy ukryte.
Nawet ręcznie pisane ( zbinaryzowane ) ?
Ilość warstw nic do tego nie ma (tzn ilość warstw większa niz 3) czy uda ci sie rozpoznać ręczne pismo - raczej to jak dobrze sieć sie nauczy rozpoznawać.
Bo tak naprawdę mogę zbudować podstawową sieć, która będzie miała tylko 1 warstwę a w sumie 2 ( wejściową i wyjściową ), która będzie sobie w miarę ok radziła?
tak.
Mam jeszcze jedno pytanie odnośnie uczenia pojedyńczego neuronu. Np odpowiadającemu literze I. Jeżeli ten neuron ma 35 wejść to raz nauczony będzie posiadał tam jakieś wagi. Zastanawia mnie jak ten neuron jest w stanie rozpoznać 5 charakterów pisma litery I. Czy np. mam uczyć ten neuron pojedyńczo dla każdej próbki? Czyli dla każdego charkteru pisma?
Powinieneś w trakcie nauki w danych uczących przedstawić wszystkie możliwe klasy równoważności. Tzn w danych uczących musisz mieć wszystkie "typy" wejscia które ta sieć ma rozpoznawać. Raczej nie liczyłbym że nauczysz takiego rozpoznawania sieć która będzie miała jeden neuron ;]
A jak to się dzieje ze neuron rozpoznaje daną literkę mimo że jest różnie napisana? Bo najzwyczajniej ten neuron da nam "większy" wynik na wyjściu niż neurony uczone dla innych literek. Chyba że nasza literka przypomina bardziej którąś z innych literek ;]
A żeby rozpoznawać cyfry od 0-9 wystarczy sieć która zawiera wektory wejściowe i wyjściowe czy potrzebna jest ukryta warstwa?
A zamiast sieci neuronowej nie lepiej użyć SVM? Jest dowód, że SVM jest równoważny sieci neuronowej a wytrenowanie SVMa jest prostsze niż sieci neuronowej. Oczywiście "Sieć Neuronowa" brzmi lepiej niż SVM, szczególnie można zaimponować laikom...
Wolę jednak zacząć od SSN aby wiedzieć z czym to się je. Napiszę sobie program do rozpoznawania cyfr od 0-9, sieć jednowarstwowa winna dać radę? Dlaczego pytam, bo dotychczas rozumiałem sieć wielowarstwową czy budownie dychotomizatorów ( dzielenie punktów na płaszczyźnie ) i nie widzę tego po prostu jakie ma to zastosowanie przy binaryzacji obrazu.