po 1 to upewnij się, że FindWindow zwraca uchwyt,
po 2 a, GetClassLong z drugim parametrem 0 zwracasz pierwsze 4 bajty z EXTRAMEMORY klasy okna, w klasach systemowych generalnie są tam uchwyty do obiektów GDI używanych przez klasę, a jeśli to ty tworzyłeś okno, to sam powinieneś wiedzieć co tam jest, czy coś tam w ogóle jest, mało prawdopodobne że jest tam uchwyt instancji, a pewnie o to ci chodzi
więc druga linijka jest błędna z poziomu logicznego
skoro GetClassLong zwraca ci 0 (bo pewnie nic tam nie ustawiłeś), podajesz w GetClassInfo w pierwszym parametrze 0, a zero tam oznacza klasy tylko systemowe, a takiej pewnie nie ma i zwraca ci FALSE
ROZWIĄZANIE:
pewnie chciałeś tak:
DWORD hInstance = GetClassLong(hProcess, GCL_HMODULE); // to powinno zwrócić instancję
CZY TO MA SENS?
coś ty za bardzo kombinujesz, powiedz co chcesz uzyskać, bo po co pobierać GetCLassInfo skoro informacje możesz pobrać przez GetCLassLong