Witam
To znowu ja, aby zwiększyć efektywność mojej sieci ( mała jednowarstwowa ) chciałbym dla próby dać jedną warstwę ukrytą. Założmy, że zapisuje znak na matrycy 7x7 ( litera pomniejsza do teg rozmiari ), a chcę ich rozpoznać 5 to w 1 warstwie mam 5 neuronów, z czego każdy ma 49 wejść, na wyjściu też mam 5 neuronów ( 5 znaków więć dają odpowiedzi ).
Moje pytanie brzmi do warstwy ukrytej. Wiadomo, że jej neurony też mają jakieś funkcje aktywacji ( właśnie jakie? Bo o ile w pierwszej warstwie można dać ilość "1" dla każdej litery ) o tyle tutaj nie wiem. Druga sprawa to kwestia wag bo z pierwszej warstwy neuron może puścić 1 lub 0 ( czyli, że nie został wzbudzony ).
W necie każdy pięknie pisze sieć 16-4-4, na wykładach w necie też ale każdy kopiuje i nie dodaje nic nowego.