Instalacja Bielika na komputerze może być świetnym początkiem tej przygody. Pora odkryć, jakie sekrety kryją się w tych narzędziach bez połączenia z siecią.
Jak rozpocząć? Bardzo prosto.
Wystarczy mieć odpowiedni komputer (wymagania w tym wątku) i pobrać program, który pozwoli na eksperymentowanie z różnymi modelami językowymi.
Prosta i szybka instrukcja poniżej:
- Pobierz odpowiednią wersję LM Studio, zgodną z Twoim systemem operacyjnym.
Program jest dostępny na Windowsa, Maca oraz Linux’a. - Po instalacji i uruchomieniu programu zobaczysz zakładki:
Chat, Developer, My Models oraz Model Search. - Przejdź do zakładki Model Search.
W polu wyszukiwania wpisz: Bielik-11B-v3.0-Instruct-GGUF i naciśnij przycisk pobierania. - Po ukończeniu pobierania przejdź do zakładki Chat.
W dolnej części ekranu w interfejsie znajdziesz opcję załadowania modelu Pick a model. Wybierz pobrany przez Ciebie i poczekaj na jego załadowanie do pamięci. - Teraz możesz już rozpocząć rozmowę lokalnym modelem AI !
Poniżej dwa zrzuty z programu LM Studio.
Podzielcie się swoimi doświadczeniami i pomysłami pracy offline. Może korzystacie w ten sposób z innych modeli?
Strona programu LM Studio: https://lmstudio.ai
Możesz też dołączyć do dyskusji na X: https://x.com/przemekwilde/status/2016586206406942720