Požiadavky: Model DeepSeek-R1 bol nasadený pomocou ollama, na jeho vyvolanie bol použitý dialógový nástroj a terminál sa používal len na testovanie. Môžete nainštalovať panel Open WebUI na vyvolávanie modelov pre konverzáciu.
Revízia:
Open WebUI je škálovateľná, funkčne bohatá a užívateľsky prívetivá platforma s vlastným hostingom AI, navrhnutá tak, aby bežala úplne offline. Podporuje rôzne LLM runnery ako Ollama a API kompatibilné s OpenAI, s integrovaným RAG inferenčným enginom, čo z neho robí výkonné riešenie pre nasadenie AI.
GitHub adresa:Prihlásenie na hypertextový odkaz je viditeľné.
Dokumentácia:Prihlásenie na hypertextový odkaz je viditeľné.
Konfigurácia premenných prostredia:Prihlásenie na hypertextový odkaz je viditeľné.
Ubuntu 20.04 inštaluje Docker kontajnery
V tomto článku, na nasadenie open-webui pomocou Dockeru, musíte najprv nainštalovať Docker kontajner, inštalačný príkaz je nasledovný:
Ollama používa model deepseek-r1:32b
Spustite nasledujúci príkaz:
Docker nasadzuje Open WebUI
Keďže už máme Ollamu natívne nainštalovanú a zároveň na serveri, v/data/open-webuiVytvorte nový súbor compose.yaml pod priečinkom, ktorý znie:
Spustite nasledujúci príkaz na spustenie kontajnera:
Ako je uvedené nižšie:
Pravidlo bezpečnostnej skupiny firewallu umožní portu TCP 3000 na chvíľu fungovať a potom použije prehliadač na jeho prístup, ako je znázornené na nasledujúcom obrázku:
Pri prvej návšteve si nastavte administrátorský účet a heslo, ako je znázornené na nasledujúcom obrázku:
Otestujte dialógovú funkciu modelu DeepSeek-R1, ako je znázornené na obrázku nižšie:
(Koniec) |
Zverejnené 2025-2-6 21:21:14
|
|
|
|
Prenajímateľ|
Zverejnené 2025-2-19 09:09:00
|
