To nie ma znaczenia. Kolejność w palecie nie wpływa na to - ani nie decyduje o RGB ani o współczynniku S. Najwyższej, zamiast stwierdzić przykładowo, że piksel jest najbardziej podobny do koloru z palety o numerze 20, stwierdzisz, że jest podobny do koloru 240.
[DOPISANE]
A.. nie do końca Cię zrozumiałem. Jak posortujesz według Diff, to kolory o najmniejszym Diff będą najbardziej zbliżone, a pozostałe cię nie interesują. Jasne, że jak masz biały pikselek, to po posotrowaniu gdzieś w dali może się znaleźć czerwony obok niebieskiego, ale i tak wybierzesz ten, który jest najbliżej, bo jest on bardziej podobny.
Zauważ coś takiego: masz biały piksel, a paleta ma 4 kolory: czerowny, zielony, niebieski, żółty. Przyjmijmy (zgaduję), że zostaną posortowane tak: żółty, czerwony, zielony, niebieski. Oznacza to, że biały pikselek zastąpisz żółtym, bo tenże w palecie jest najbardziej podobny.
Diff dla każdego pikselka obrazu RGB i dla każdego koloru w palecie liczy się oddzielnie. Następnie z Diff dla kolejnych kolorów palety wybierasz najmniejszy - to piksel o tym Diff jest twoim kolorem z palety dla danego pikselka RGB.