Cześć. Potrzebuje czegoś w rodzaju chatbota tylko że wytrenowany na moich danych. Tylko aby działał offline. Najlepiej jakiś program na windows android Nie wiem jak takie coś znaleźć. Znalazłem parę ale to wymaga programowania a mi chodzi po prostu aby wrzucić dane do programu i pojawia się pole do zadawania pytań i odpowiada program.
0
2
- Nie wydaje mi się, żeby był aż taki poziom „gotowców” przy tworzeniu modeli lingwistycznych.
- Trenowanie modeli wymaga sporo czasu i dobrego sprzętu — im lepszy sprzęt, tym mniej czasu. Trenowanie czegoś na Androidzie, nawet na najpotężniejszych dostępnych urządzeniach, brzmi jak zabawa na długie dekady.
0
Przecież androida można zainstalować na PC wszędzie gdzie się da windows Pytanie czy android w pełni wykorzysta możliwości. Pewnie nie. Znalazłem chatterBot teraz o nim czytam. Wole trenować pół dnia niż przez jakąś strone która kiedyś zniknie. Kiedyś nie wieżyłem że image classification itd może być tak proste dopóki nie znalazłem teachable machine A ludzie robią tutoriale z tego po 4 H. Ale raczej windows
1
Żeby takie AI wyćwiczyć od zera to potrzeba bardzo dużo danych, oczywiście żeby sensownie myślał.
LLM modele to nie uczą się po prostu odpowiadać, a jakby swego rodzaju myśleć.
Czyli tak najlepiej pobrać gotowy model, możesz go dotrenować swoimi danymi to się nazywa finetuning, czasem możesz nawet polepszyć skuteczność takiego modelu i ludzie tak robią.
Jako, że to są myślące modele, to możesz dać im kontekst danych, czyli te twoje dane i on będzie potrafił odpowiedzieć na twoje pytanie korzystając z danych, które dostarczyłeś wraz z kontekstem.
Kontekst to jest to co ty wpisujesz jako prompt, po prostu to dodajesz przed twoim pytaniem, ale jakiś skrypt pythona może pobrać z neta jakieś dane potrzebne modelowi i dać je jako kontekst i wtedy on będzie w stanie odpowiedzieć na pytanie.
1
Jaki duży masz zbiór testowy i uczący? Chyba oczekujesz za dużo.
0
No czo wy piszecie, przecież jest normalnie privateGPT
https://github.com/imartinez/privateGPT
instrukcja:
https://dev.to/codepo8/privategpt-running-chatgpt-offline-on-local-documents-5b17
działa to dokładnie tak jak autor chce - wrzucasz dane do programu i możesz zadawać pytania, potrzeba tylko 10GB na dysku, nie trzeba nic programować.
tumor napisał(a):
Żeby takie AI wyćwiczyć od zera to potrzeba bardzo dużo danych, oczywiście żeby sensownie myślał.
LLM modele to nie uczą się po prostu odpowiadać, a jakby swego rodzaju myśleć.
To nie zupełnie tak działa, nie trzeba szkolić modelu od zera żeby dostarczyć mu informacji. W edgu masz w rogu przycisk "copilot" i możesz na żywo zadawać pytania na temat otwartej strony, np spytałem o nazwy użytkowników na tej stronie:
0
Podejrzewam że takie narzędzia w przyszłości będą potrzebowały nie wielu danych tak jak człowiek któremu każesz cos przeczytać i odpowiedzieć na pytania. Ciekawe jaki wpływ ma język na skuteczność takiego chatbota. Podejrzewam że polski jest gorszy od angielskiego bo ta nie potrzebna odmiana itd. Pewnie najlepszy byłby esperanto. Taki gpt miałby ułatwione zadanie bo jednak łatwiej analizować język który jest logiczny.
0
Hej powiedzcie mi czy te kroki co gościu pokazuje to czy nie zainstaluje jakichś wirusów ?Bo u gościa privategpt w jego poradniku troche inaczej. W ogóle skąd mam wiedzieć czy moich danych nie wyśle gdzieś do niego. gościu ma mało wyświetleń https://simplifyai.in/2023/11/privategpt-installation-guide-for-windows-machine-pc/