Nie do końca rozumiem pytanie. Nie musisz tu przecież obliczać tego tak całkiem, wystarczy czy zrobić oszacownie, na oko wystarczy duże O, więc tylko górne ograniczenie.
Mógłbyś sie pokusić po prostu o analizę przebiegu zmienności tych funkcji jeśli bardzo lubisz analizę matematyczną :)
Pierwsza funkcja to jest zwykła suma której największy wyraz to nsqrt(n) więc siłą rzeczy jest ona rzędu O(nsqrt(n)) czyli O(n3/2)
Druga funkcja będzie oczywiście rzędu O(n3/log2(n)7) a trzecia O(n2/log2(n)). Jeśli te dwie funkcje porównasz (i podzielisz stronami) to wychodzi z tego porównanie O(n/log2(n)6) i O(1) czyli pytanie brzmi: jaka jest granica przy n dążącym do nieskończoności z n/log2(n)6, czy jest w 0 czy w nieskończoności. Jeśli jest w 0 to znaczy że funkcja 2 rośnie wolniej niż funkcja 3, jeśli w nieskończoności to odwrotnie. Analogiczne pytanie nasuwa się przy porównaniu dowolnej innej pary.