Komputer do Tensorflow/ML? Coś przyszłościowego.

Witam,

Mam na obecną chwilę taki zestaw: g4650(brak avx),gtx1050ti,8gb ram, 600w zasilacz,2xdysk SSD .
Tak się zastanawiam nad zakupieniem nowego zestawu lub laptopa pod Tensorflow/ML net itp.
Zamówiłem na następny tydzień następujący zestaw (mogę go odmówić) : i3-12100f, Asus prime b660, resztę podzespołów planuje przełożyć z poprzedniej konstrukcji ...

Zastanawiam się nad ilością ram, 8 GB to chyba mało ?

I tak się zastanawiam czy to jest przyszłościowa konstrukcja ... Może lepiej postawić na amd , czy wystarczy do nauki i zabawy z Tensorflow/ML Net itp.

Nie potrzebuję wypasionego zestawu, wystarczy budżetowa stabilna platforma, ostatnim razem się przejechałem... Brak avx stwarza parę problemów.

Za wszelką pomoc z góry dzięki.

Myślę, że minimum to 64 GB ramu i 12GB vramu.

Myślałem o tym i mam zamiar inwestować w ilość wątków CPU zastanawiam się czy 16, 24 czy może 32 wątki. Choć cena za 32 i 24 jest jeszcze nieprzyjemna dla oka więc pewnie będę szukał czegoś bardziej przystępnego.
Rozważam też wersję budżetową na jakimś Xeonie.

https://technical.city/pl/cpu/Ryzen-Threadripper-3960X-vs-Xeon-E5-2673-v4

p.s.
Grafikę mam 1050Ti ale ona nie ma akceleracji AI więc stawiam na CPU.

Ja też bardziej mi trzeba do takich bardziej podstawowych zadań i nauki ale nie chcę za chwilę inwestować znowu w procek. Też myślałem o xeon ale te ceny ...

Chyba pójdę w ram, bo przy trenowaniu modelu po 1 min sek zjadł mi 8 GB a widzę że mona do 64 GB rozwinąć

Xeona z 20 rdzeniami można już mieć za 2000zł a okazyjnie za 899zł ( https://allegro.pl/oferta/procesor-intel-xeon-e5-2673v4-sr2ke-s-2011-3-11743624967 )
Ale to jednak stare i wolne.
Zatem pozostaje wybierać z https://allegro.pl/kategoria/podzespoly-komputerowe-procesory-257222?liczba-rdzeni-procesora=20&liczba-rdzeni-procesora=24&liczba-rdzeni-procesora=32&liczba-rdzeni-procesora=64
AMD zdecydowanie tu dominuje...

Tak się zastanawiam jak bym na początek zaaplikował ram-2400 a nie 3200 .. płyta główna wspiera ram /3200/3000/2933/2800/2666/2400/2133 - będzie to działało płynnie i3-12100f?
bo planuje zakupić więcej ram szybszego ale na razie chce się wstrzymać.

Powiem tak mam:
ryzen 1700 8 rdzeni
Geforce 1060 6gb
16 gb ram
Wykorzystuję modele głównie ssd i googlenet. Fronty w c++ + procesy w python. Mam taki nazwijmy własny produkt wokół tych modeli. I wystarcza, moje zbiory danych nie są wielgachne. A ze ty jeszcze tylko do nauki to nic specjalnego nie potrzebujesz. Ja bym sugerował coś pokorju geforce 2600 super albo 3600 byle miało 8 gb minimum. W przypadku amatorskich i pół amatroskich tematów to wystarcza.

Tylko się zastanawiam czy lepiej amd czy Intel .. jestem ciekawy jak to teraz działa bo coś słyszałem o blokowaniu avx 512 ? Bardziej chodzi o to by procek w razie wypuszczenia nowej biblioteki wymagającej instrukcji miał je

A co ty chcesz jechać na procku ucząc? bez sensu.

Nie widzę sensu kupowania na tą chwile karty graficznej. dlatego pisze ze ma być przyszłościowy kartę zmienię w późniejszym czasie. ale do nauki wystarczy ;]

Mateusz Sur napisał(a):

Nie widzę sensu kupowania na tą chwile karty graficznej. dlatego pisze ze ma być przyszłościowy kartę zmienię w późniejszym czasie. ale do nauki wystarczy ;]

znaczy jak chcesz mieć jakieś zbiory danych ale nie graficzne(ale i z graficznymi sobie ten 1050ti poradzi). To i tak będzie szybciej na gpu. Ba powiem ci jak masz tego geforca 1050ti i to ma być tylko do nauki to nic innego nie potrzebujesz. Ok dobra dorzuć sobie + gb ram i tyle.

ok ... a co z tym ramem jak bym z tydzień na 2400 pojechał?

Trudne pytanie, na pewno odpalisz sobie różne modele AI, a z niektórymi będziesz miał problem.
Co to znaczy płynnie? pewne modele się uczą dość długo minutę, godzinę, dzień, rok.

Pamięciowo możliwe, że górną granicę zamkniesz przy Vision transformerze, batch sizy na pewno 4k elementów nie zmieścisz i będziesz tam po 1-2 elemencie sieć uruchamiał.
Mówię tak na oko, sam mam u siebie czasem z pewnymi modelami problem, żeby to uruchomić, bo cała pamięć Karty graficznej wykorzystana.

Ale takie zwykłe modele, mniejsze to lekko uruchomisz, przesadzisz z parametrami, to cię poinformuje system.

Dzięki za odpowiedzi.

I takie jeszcze jedno pytanko jak to jest z tymi kartami LHR w kontekście uczenia ?