OpenCL, CUDA, etc.

Odpowiedz Nowy wątek
2019-06-19 10:06
0

Witam

Szukam informacji na temat technologii takich jak OpenCL, CUDA, itd.

Muszę przeprowadzić pewne bardzo czasochłonne obliczenia. Obliczenia dobrze
się zrównoleglają, więc wybór padł karty graficzne. Nie wiem jakie karty graficzne
zakupić i jaką technologią programowania się posłużyć. Mam pewne doświadczenie w
programowaniu i w optymalizowaniu programów na CPU, ale nigdy nic nie
napisałem na GPU, nawet hello world.

Z kart graficznych ciekawy stosunek ceny do wydajności mają nowe kartu ma
układzie NVIDI 16XX, np. 1650, 1660, 1660TI. Karta Radeon RX 460 też
wydaje się wydajna i tania, ale ma tylko 2GB pamięci.

Czy w sieci można znaleźć kilka przykładowych (najlepiej minimalnych) problemów
rozwiązanych na wiele sposobów w celu porównania? Ten sam problem
można rozwiązać w Javie na CPU, w C++ na CPU (z wykorzystaniem np.
długich rejestrów), ostatecznie w OpenCL, w CUDA i porównać czasy wykonania
a najlepiej także zużycie energii.

Z góry dziękuję za wszelką pomoc.

Pozostało 580 znaków

2019-06-19 10:41

Z materiałów:

  • materiały np. MIMUW - na pewno coś jest
  • dokumentacja nVidii (CUDA)
  • dokumentacja OpenCL

Nie wiem na jakim poziomie skomplikowania chcesz te przykłady, ale co do OpenCL powinienem mieć coś zakopanego na jakimś dysku Google z zajęć z zeszłego roku. Takie jakieś proste przypadki w stylu przekształcenia na macierzach i wektorach, jakieś mnożenie macierz-macierz czy macierz-wektor jako kernele OpenCL, jakieś proste optymalizacje, choć raczej lepsze lub gorsze - jak chcesz, mogę spróbować je odszukać i podrzucić odnośnik.

Jakieś zalążki kodu do dokończenia/zmodyfikowania na których mógłbyś poćwiczyć znajdziesz gdzieś w odmętach materiałów do laboratorium z rozprochów i HPC

Choć jeśli mam być szczery, to jeśli i tak nigdy niczego nie robiłeś czegoś takiego, to prawdopodobnie lepiej wyjdziesz na zaprzągnięciu do roboty jakiejś biblioteki z języka wyższego poziomu (języka, w którym masz już działający kod na CPU?), która pod spodem sama zaprzęgnie do roboty GPU za pośrednictwem czy to OpenCL, czy czegokolwiek - GPU rządzi się trochę innymi prawami niż CPU, do tego stopnia, że to, co na CPU jest optymalizacją, na GPU potrafi zabić wydajność i odwrotnie ;)

A, no i zanim utopisz kasę w kartach graficznych, to lepiej popróbuj na tym, co masz, bo może się okazać, że np. wydajność wersji na GPU zostanie ubita przez częste wymiany danych między pamięcią RAM a pamięcią RAM karty. Magistrala potrafi być strasznym bottleneckiem - co z tego, że kod się dobrze zrównolegla i wyciśniesz np. 3TFlops z GPU vs np. 250GFlops z CPU, skoro 99% czasu zejdzie na I/O ;)


Prosząc o pomoc w wiadomości prywatnej odbierasz sobie szansę na otrzymanie pomocy od kogoś bardziej kompetentnego :)
edytowany 2x, ostatnio: superdurszlak, 2019-06-19 10:45

Pozostało 580 znaków

2019-06-19 10:47
1

Zamiast babrać się bezpośrednio na niskim poziomie najlepiej oddeleguj to do jakiejś biblioteki. Nie wiem w czym piszesz, jeśli C++ to rozważ https://github.com/boostorg/compute

Pozostało 580 znaków

2019-06-19 11:00
4

Na GPU dobrze robi się obliczenia bazujące na masie danych - symulacje ruchu cząsteczek, gazów, płynów, sieci neuronowe, przetwarzanie obrazów - tam gdzie jeden i ten sam kod może pracować na setkach czy tysiącach danych równolegle.

Jak wspomniano wyżej do niektórych problemów są już znane biblioteki wysokiego poziomu korzystające z GPU i nie trzeba się tego niskopoziomowego kodowania uczyć (TensorFlow, Keras). Pytanie co chcesz za obliczenia robić?

Na GPU masz jeszcze standard OpenACC, ale coś mało o nim słyszę.

Na CPU masz dodatkowo:

Proponowałbym zacząć od Threadrippera i OpenMP bo jest to chyba najpopularniejsze, najtańsze i najprostsze rozwiązanie jeśli chcesz coś programować równolegle od zera.
W drugiej kolejności OpenACC gdyż pozwala na wykorzystanie GPU przy podobnym do OpenMP podejściu.
Oba podejścia to raczej C/C++/Fortran.

W Javie to albo wspomniane wcześniej OpenCL/CUDA albo https://www.coursera.org/learn/parallel-programming-in-java


Szacuje się, że w Polsce brakuje 50 tys. programistów

Pozostało 580 znaków

2019-06-19 11:09
0

superdurszlak napisał
Z materiałów:
materiały np. MIMUW - na pewno coś jest
dokumentacja nVidii (CUDA)
dokumentacja OpenCL

Dziękuję, będę za jakiś czas się przekopywał przez to :)

Nie wiem na jakim poziomie skomplikowania chcesz te przykłady,

Przykłady bym chciał klasyczne, znane, najprostsze, minimalne, różnorodne.
Przykładowo:
1) Mnożenie macierzy, różne rozmiary macierzy, różne typy, różna ilość
transferów. Np. mnożymy miliardy razy jedną i samą małą parę macierzy, czyli
wszystkie dane mieszczą się w pamięci GPU. Robimy to Javie na CPU, w C++ na
CPU (z użyciem SIMD), w OpenCL na CPU i na GPU, w CUDA z biblioteki na CPU i w
CUDA napisanym adhoc na kolanie. Potem celowo raz na ileś mnożeń robimy
transfer do karty, no a do CPU nie trzeba bo dane z RAM są dostępne dla CPU.
2) Potem może jakiś problem kombinatoryczny, np. problem skoczka szachowego, albo
problem komiwojażera metodą burut-force. Chciałbym zobaczyć jakie w praktyce
są różnice w czasach wykonania pomiędzy dobrą a przeciętną implementacją i
pomiędzy CPU, GPU, OpenCL i CUDA.
3) Rozkłąd na czynniki pierwsze.
4) Dowodzenie twierdzeń logicznych.

Wszystko oczywiscie tym samym algorytmem w każdym sprzęcie. Mogą być przykłady
inne, byle były ogólnie znane i proste, aby łatwo wyrabiały pogląd.

Choć jeśli mam być szczery, to jeśli i tak nigdy niczego nie robiłeś czegoś takiego,

Robiłem, ale na CPU, z uwzględnieniem wątków, rozszerzeń procesora, wstawek asemblerowych.

to prawdopodobnie lepiej wyjdziesz na zaprzągnięciu do roboty jakiejś biblioteki

Nie ma do tego bibliotek, muszę zrobić sam... albo odpuścić jak uznam że będzie
zbyt ciężko lub zbyt drogo.

języka wyższego poziomu (języka, w którym masz już działający kod na CPU?),

Jakieś minimalne fragmenty które może nadawawałyby się do testow mam w C++ na CPU, ale
chyba nie można tego łatwo do OpenCL przerzucić? Chyba trzeba na nowo napisać?

GPU rządzi się trochę innymi prawami niż CPU, do tego stopnia, że to, co na CPU jest
optymalizacją, na GPU potrafi zabić wydajność i odwrotnie ;)

Tak, to nie jest zaskoczeniem dla mnie.

A, no i zanim utopisz kasę w kartach graficznych, to lepiej popróbuj na tym, co masz, bo
może się okazać, że np. wydajność wersji na GPU zostanie ubita przez częste wymiany danych
między pamięcią RAM a pamięcią RAM karty.

Powiedzmy na potrzeby rozmowy, że komunikacja pomiędzy GPU a pamiecią RAM będzie rzadko,
np. raz na kilka minut.

Pozdrawiam

edytowany 4x, ostatnio: Lenos, 2019-06-19 11:14
Mnożenie macierzy na CPU też nie jest trywialne. Są do tego odpowiednie biblioteki. Jak sam zrobisz for-a to będzie to cienkie. - vpiotr 2019-06-19 11:59
Niestety, mnożenie dużych macierzy to temat rzeka, nigdy nie wiadomo czy różnice wynikają ze specyficznych cech algorytm-sprzęt, czy z tego że faktycznie dana technika programowania jest lepsza. - Lenos 2019-06-19 12:25

Pozostało 580 znaków

2019-06-19 22:11
1

Jeśli chodzi o rozwiązanie sprzętowe, to może kup najtańszą kartę do przygotowania rozwiązania, a docelowo odpal to na maszynach w AWS np.
https://docs.aws.amazon.com/A[...]es.html#gpu-instance-families
https://aws.amazon.com/market[...]75-on-Amazon-Linux/B01LZMLK1K

Tylko zrób to szybko, bo płacisz za czas. :) Nie wiem jaka jest perspektywa czasowa tego zadania, ale jeśli ma to być jednorazowa akcja, to chyba nie ma sensu wrzucać kasy w sprzęt, który wykorzystasz raz (no chyba, że jesteś graczem ;)).

Pozostało 580 znaków

2019-06-20 20:09
0
robertos7778 napisał(a):

Jeśli chodzi o rozwiązanie sprzętowe, to może kup najtańszą kartę do przygotowania rozwiązania, a docelowo odpal to na maszynach w AWS np.
https://docs.aws.amazon.com/A[...]es.html#gpu-instance-families
https://aws.amazon.com/market[...]75-on-Amazon-Linux/B01LZMLK1K

Tylko zrób to szybko, bo płacisz za czas. :) Nie wiem jaka jest perspektywa czasowa tego zadania, ale jeśli ma to być jednorazowa akcja, to
chyba nie ma sensu wrzucać kasy w sprzęt, który wykorzystasz raz (no chyba, że jesteś graczem ;)).

Dziękuję za odpowiedź. Niestety nie jest to jednorazowe/krótkotrwałe zadanie do policzenia. Raczej jest budżet, jak budżet się
rozejdzie, to sprzęt pójdzie na wyprzedaż, a liczenie się skończy :)

A mam jeszcze takie pytanie, czy w CUDA można osiągnąć lepszą wydajność niż w OpenCL, czy obie technologie mają takie
same możliwości pod tym względem? CUDA mnie zniechęca bo jest tylko na NVIDIE, jakby np. nadarzyła się okazja użycia
FPGA, to z tego co Koledzy pisali, w OpenCL jest to chociaż teoretycznie możliwe. Więc pytanie, czy w zamian za tę wadę,
CUDA chociaż daje możliwość lepszej implementacji tych samych algorytmów?

Pozdrawiam

Pozostało 580 znaków

2019-06-20 20:29
1

czy w CUDA można osiągnąć lepszą wydajność niż w OpenCL, czy obie technologie mają takie same możliwości pod tym względem?

CUDA vs OpenCL w Google + dwie minuty poświęconego czasu wskazują na to, że czasem to OpenCL jest wydajniejsze, a czasem CUDA - ogólnie jednak nie są to większe różnice.


Pozostało 580 znaków

2019-06-20 20:59
0
Patryk27 napisał(a):

czy w CUDA można osiągnąć lepszą wydajność niż w OpenCL, czy obie technologie mają takie same możliwości pod tym względem?

CUDA vs OpenCL w Google + dwie minuty poświęconego czasu wskazują na to, że czasem to OpenCL jest wydajniejsze, a
czasem CUDA - ogólnie jednak nie są to większe różnice.

Rzeczywiście, to można łatwo wygooglać. Resztę najwyraźniej będę musiał sprawdzić własnoręcznie.
Kupię jakąś lepszą kartę na próbę i wrzucę wyniki do tego wątku.

Pozdrawiam

Pozostało 580 znaków

2019-06-22 12:26
1

Moja praca mgr dotyczyla porownania tych dwóch technologii. Implementowalem mnozenie macierzy i jedrn z algorytmow sortowania. Informacji o CUDA C jest sporo w ksiazce z Helionu .Wyszla w 2012 r

Pozostało 580 znaków

2019-06-25 08:00
0
szydlak napisał(a):

Moja praca mgr dotyczyla porownania tych dwóch technologii. Implementowalem mnozenie macierzy i jedrn z algorytmow sortowania. Informacji o CUDA C jest sporo w ksiazce z Helionu .Wyszla w 2012 r

Jakie było podsumowanie tej pracy (odnośnie wydajności) ?

Pozostało 580 znaków

Odpowiedz
Liczba odpowiedzi na stronę

1 użytkowników online, w tym zalogowanych: 0, gości: 1, botów: 0