Jeśli rozwiązanie może być debilne/wymyślone na szybko:
Szukasz wierzchołka skrajnie na lewo.
Lecisz od jednego wierzchołka do drugiego zgodnie z ruchem wskazówek zegara i wyznaczasz równanie prostej na której leżą.
Wyznaczasz wszystkie punkty, które leżą wewnątrz wielokąta - na prawo od prostej.
Wyjdzie Ci z tego układ wielu równań. Punkty kratowe spełniają wszystkie z nich.
Możesz kombinować z wyznaczaniem y tak, żeby ograniczyć się do jednej pętli, ale jak może być debilne to:
Wyznaczasz krawędzie wszystkich wierzchołków (tak jakbyś miał wpisać ten wielokąt w kwadrat).
Zagnieżdżasz 2 pętle i sprawdzasz, czy punkty kratowe spełniają równanie. Liczysz ich sumę.
Co do punktów na liniach.
Masz równanie prostej i krawędzie. Szukasz całkowitych y spełniających równanie prostej.
Idę o zakład, że jeśli by to rozpisać to da się skrajnie uprościć, ale nie umiem(działaj) ;)