Wszystko zależy od tego, jak obciążony będzie ten serwer. Ja miałem swego czasu starego Pentium Pro bodaj 133MHz pod router i działał bezproblemowo i bez opóźnień żadnych. Teraz stoi nieużywany i czeka na wymianę dysku, jak znajdę jakiś w sam raz to wymienię i kompa skonfigurowanego wystawię na sprzedaż (niestety nie jest tak prosto, bo to nie jest IBM PC, dysku IDE też nie podłączę). Jeśli serwer HTTP/FTP/SSH postawisz sobie tam do użytku własnego, to myślę, że wiele silniejsza maszyna nie będzie potrzebna. Ale nie mam w tej materii dużego doświadczenia, więc nic nie gwarantuję.
Co do faktu, że lepiej administrować systemem, który się zna - jest to oczywiste, jeśli spojrzeć na to z perspektywy tego, ile czasu poświęcisz na konfigurację. Ale jeśli robisz to dla siebie, to myślę, że warto popróbować trochę czegoś nowego, wiedza o systemach z rodziny *nix jest bardzo przydatna w dzisiejszych czasach (szczególnie, że sporo firm przerzuca się na te systemy choćby ze względu na koszty). No a do tego jeśli nie masz za darmo Windowsa, a do tego doliczysz różnicę w wymaganiach sprzętowych, to się opłaci.