Można wykorzystać Małe Twierdzenie Fermata, aby z pewnym (dużym o ile wykonamy dużo prób -- np. kilka tysięcy) prawdopodobieństwem stwierdzać czy liczba jest pierwsza.
Weźmy np. liczbę 11.
Z Małe Twierdzenie Fermata wiemy że jeśli policzymy:
2^10 mod 11, to wyjdzie 1
3^10 mod 11, to wyjdzie 1
4^10 mod 11, to wyjdzie 1,
generalnie jak weźmiemy dowolne X względne pierwsze z P, to X^(P-1) mod P, czyli
X^10 mod 11, będzie równe 1
A co jeśli zamiast P=11 weźmiemy np. P=10 (nie jest pierwsze) i spróbujemy liczyć:
X^(P-1) mod p, czyli:
2^9 mod 10
3^9 mod 10
4^9 mod 10
...
to nie mamy gwarancji że zawsze wyjdzie 1, bo p=10 nie jest liczbą pierwszą,
a Małe twierdzenie Fermata nic nie mówi o przypadku gdy P jest złożone
zauważmy że np. 3^9 mod 10 to 3.
W takim razie można to uznać za pewien test pierwszości (dający jakąś szansę na to, że się nie pomylimy):
Aby sprawdzić czy liczba N jest pierwsza, można wiele razy wylosować liczbę X, i jeśli nie jest ona wielokrotnością N (bo tylko wielokrotności liczb pierwszych mogą nie być z nimi względnie pierwsze), liczymy:
X^(N-1) mod N
i jeśli za każdym razem (dla różnych X) wyjdzie 1, to zakładamy, że N jest pierwsze.
Jeśli choć raz wyjdzie reszta z dzielenia różna od 1, to wiemy na pewno, że N jest złożone.