Jakie polecacie narzędzia do testów wydajnościowych/obciążeniowych aplikacji webowej?

Generalnie nie zależy mi na czymś szczególnie wyszukanym, przede wszystkim na:

• bezpłatnej licencji, także do użytku komercyjnego
• obsłudze sesji i basic auth
• możliwości strzelania zapytaniami do API (póki co wystarczy mi możliwość strzelania GETami)
• w miarę łatwiej konfiguracji
• wyciągnięciu jakichś podstawowych statystyk typu min, max, avg response time

Nice to have:

• jakaś sensowna integracja z Jenkinsem, wystarczy możliwość wyświetlenia jakichś wykresików wygenerowanych z raportu
• miło by było, gdyby ta integracja nie wymagała ładowania dedykowanych pluginów do Jenkinsa ze względu na jakieś specyficzne formaty plików wynikowych, nieużywane nigdzie indziej

Robiłem już jakiś tam mały research nt. dostępnych rozwiązań, ale jak to bywa każdy artykuł X best tools for zachwala co innego, albo zwyczajnie wszystko jest super i cudowne i czego nie weźmiesz, będzie cacy. A potem zaczynasz w tym robić i jest cyrk.

W praktyce próbuję rozpoznać ogniem JMeter, ale póki co osiągnąłem tylko lekkiego raka w starciu z UI i nieobsłużony wyjątek java.io.FileNotFoundException rzucony z bebechów JMetera. Coś czuję, że prędzej sam sobie wyrzeźbię jakiegoś małego toola do testów, niż zmuszę to ustrojstwo do odpalenia czegokolwiek, ale z drugiej strony mam wątpliwości, czy warto wynajdywać koło na nowo i w dodatku zapewne źle ;)

Spróbuj https://gatling.io/

Do wyboru: Jmeter, Gatling, Locust.

Ja uzywam Jmetera, bo odziedziczylem w nim spory zestaw juz napisanych testow. Jak sobie wepniesz do niego taki plugin: https://jmeter-plugins.org/wiki/PerfMon/ to mozesz rysowac czasy odpowiedzi, monitorowac dane na poziomie OS, wyciagac rzeczy do CSV itp.

ale nie twierdze ze to najlepszy wybor. Dochodzi jeszcze pytanie jak duzy ruch chcesz wygenerowac bo Jmetera najlatwiej zeskalujesz (chyba ze cos sie zmienilo).

Btw. jak sie robi w Jmeterze: java.io.FileNotFoundException ?

odpalasz po prostu z konsoli: jmeter -n -t <sciezka_do_testu> i wszystko dziala

Update:

Dodam krotkie podsumowanie moze komus sie przyda:

Locust -> Python, najprostszy, najmniejszy prog wejscia. W wiekszosci wypadkow wystarczy. Testy jako kod wiec latwo wersjonowac. Robi wykresy itp. Ale trzeba miec jakies podstawy programistyczne. Nie wiem jak z dokladnoscia pomiarow i stabilnoscia generowanego ruchu. Czy narzedzie nie wprowadzi dodatkowych fluktuacji..

Jmeter -> Java. Niby latwy bo GUI itp. ale jest to narzedzie z poteznymi mozliwosciami i poteznym zestawem pluginow. Zrobimy w nim wszystko. Jesli potrzebujemy generowac bardzo duzy load prawdopodobnie bedzie to najlepszy wybor. Latwo zeskalowac zeby zrobic sobie farme kilku serwerow Jmeter i wtedy mozna jeszcze wiekszy ruch generowac. Z minusow, fatalana dokumentacja. Testy jako xml, wiec ciezko sie wersjonuja. Ale da sie np. napisac w Javie generator testow Jmeterowych na podstawie jsonow itd.BArdzo stabilnie generuje ruch

Gatling -> Najbardziej programistyczne rozwiazanie. Od strony programistycznej fajne bo mozna sobie w Scali popisac, testy latwo wersjonowac itp. Ladne wykresy. Ale zeby robic bardziej skomplikowane rzeczy prog wejscia jest spory. Gatlinga trudniej skalowac na wiecej serwerow, bo albo dokupujemy rozwiazanie, co w wielu firmach moze byc droga przez meke, albo skryptujemy: https://gatling.io/docs/current/cookbook/scaling_out/

Wziąłem na pierwszy ogień Locust - kupił mnie jak tylko zobaczyłem, że profile testowe można definiować prostymi skrypcikami Pythonowymi. Faktycznie bardzo przyjemne narzędzie:

• nie jest przekombinowane, jak chcę banana to dostaję banana bez "tłumaczenia się" przed aplikacją, że niepotrzebna mi do tego małpa, drzewo i dżungla
• instalacja sprowadza się do pip install ....
• dziecinnie prosty setup - ot, stworzyć jakiś domyślny profil choćby na bazie przykładu z doców i można już bombardować
• całkiem nieźle sobie radzi z generowaniem dużej ilości userów - spokojnie dociąga do 5k userów strzelających żądaniami na laptopie, na którym chodzi jeszcze baza, parę okien przeglądarki, IntelliJ i aplikacja Spring Bootowa - a przy tym zajmuje raptem 10-15% CPU i 300-500MB RAM w trybie z .webowym UI. Przy 15k zaczyna przekraczać 1GB RAM, ale zużycie procka pozostaje na mniej więcej stałym poziomie. Granice jego możliwości, przynajmniej u mnie, to chyba okolice 20k userów. Ciekawe.

Póki co jestem w sumie zadowolony, wynikowe CSVki też wyglądają na w miarę obrabialne żeby zbudować z tego jakieś wykresy i takie tam - zobaczymy jeszcze, jak się sprawdzi w docelowym zastosowaniu :)