Witam,
mam zagadnienie teoretyczne, które chciałbym zaimplementować w C# (core).
Otóż jest sobie serwis (np. restowy) - z którego mają zostać pobierane cyklicznie miliony 'rekordów', w którym 'rekordy' potrafią się powtarzać, w jednym cyklu pobierania, natomiast w kolejnym cyklu na pewno taka sytuacja występuje.
Chciałbym zastosować taki mechanizm, który będzie bardzo sprawnie obłsugiwał wyłapywanie unikatowych rekordów odrzucając te powtarzające, działając i obsługując kilka cyklów pod rząd.
Czyli z kilku ogromnych cyklów potrzebne są unikaty.
Każdy rekord ma jakiś swój klucz identyfikujący, np. marka samochodu (tylko przyklad). Po jakimś czasie, po przetworzeniu owy cache/słownik byłby czyszczony, aby zwolnić pamięć operacyjną.
Słownik wyglądały tak np. Dictionary<string, string>, gdzie klucz to np. Marka samochodu, a wartość to cały JSON z opisem czynności na samochodzie.
Jak to zrobić najwydaniej w c# oraz jak uzyskać mechanizm czyszczenia zawartości słownika 'na zawołanie' (moze expirationTime takiego cache'a etc).