Prasības: DeepSeek-R1 modelis tika izvietots, izmantojot ollama, un tā izsaukšanai tika izmantots dialoga rīks, un terminālis tika vienkārši izmantots testēšanai. Varat instalēt Open WebUI paneli, lai izsauktu modeļus sarunai.
Pārskats:
Open WebUI ir mērogojama, funkcijām bagāta un lietotājam draudzīga pašmitināta AI platforma, kas paredzēta pilnīgai darbībai bezsaistē. Tas atbalsta dažādus LLM skrējējus, piemēram, Ollama un OpenAI saderīgus API, ar iebūvētu RAG secinājumu dzinēju, padarot to par jaudīgu risinājumu AI izvietošanai.
GitHub adrese:Hipersaites pieteikšanās ir redzama.
Dokumentācija:Hipersaites pieteikšanās ir redzama.
Vides mainīgā konfigurācija:Hipersaites pieteikšanās ir redzama.
Ubuntu 20.04 instalē Docker konteinerus
Šajā rakstā, lai izvietotu open-webui, izmantojot Docker, vispirms jāinstalē Docker konteiners, instalēšanas komanda ir šāda:
Ollama izmanto deepseek-r1:32b modeli
Palaidiet šādu komandu:
Docker izvieto Open WebUI
Tā kā mums jau ir instalēta Ollama vietējā un tajā pašā laikā serverī,/data/open-webuiZem mapes izveidojiet jaunu compose.yaml failu, kurā rakstīts:
Palaidiet šādu komandu, lai startētu konteineru:
Kā parādīts zemāk:
Ugunsmūra drošības grupas kārtula ļauj TCP 3000 portam dažus mirkļus darboties un pēc tam izmanto pārlūkprogrammu, lai tam piekļūtu, kā parādīts šajā attēlā:
Pirmajā apmeklējumā iestatiet administratora kontu un paroli, kā parādīts šajā attēlā:
Pārbaudiet DeepSeek-R1 modeļa dialoga funkciju, kā parādīts zemāk redzamajā attēlā:
(Beigas) |
Publicēts 2025-2-6 21:21:14
|
|
|
|
Saimnieks|
Publicēts 2025-2-19 09:09:00
|
