Reikalavimai: DeepSeek-R1 modelis buvo įdiegtas naudojant ollama, o jam iškviesti buvo naudojamas dialogo įrankis, o terminalas buvo tiesiog naudojamas testavimui. Galite įdiegti "Open WebUI" skydelį, kad iškviestumėte modelius pokalbiui.
Peržiūra:
"Open WebUI" yra keičiamo dydžio, daug funkcijų turinti ir patogi savarankiškai priglobta AI platforma, skirta veikti visiškai neprisijungus. Jis palaiko įvairius LLM bėgikus, tokius kaip "Ollama" ir su "OpenAI" suderinamas API, su įmontuotu RAG išvadų varikliu, todėl tai yra galingas AI diegimo sprendimas.
"GitHub" adresas:Hipersaito prisijungimas matomas.
Dokumentacija:Hipersaito prisijungimas matomas.
Aplinkos kintamojo konfigūracija:Hipersaito prisijungimas matomas.
Ubuntu 20.04 įdiegia "Docker" konteinerius
Šiame straipsnyje, norėdami įdiegti atvirą žiniatinklio sąsają naudodami "Docker", pirmiausia turite įdiegti "Docker" konteinerį, diegimo komanda yra tokia:
Ollama diegia deepseek-r1:32b modelį
Vykdykite šią komandą:
"Docker" diegia "Open WebUI"
Kadangi "Ollama" jau įdiegta savaime ir tuo pačiu metu serveryje,/data/open-webuiPo aplanku sukurkite naują compose.yaml failą, kuriame rašoma:
Norėdami paleisti konteinerį, paleiskite šią komandą:
Kaip parodyta žemiau:
Užkardos saugos grupės taisyklė leidžia TCP 3000 prievadui kelioms akimirkoms veikti, o tada naudoja naršyklę, kad jį pasiektų, kaip parodyta šiame paveikslėlyje:
Pirmojo apsilankymo metu nustatykite administratoriaus paskyrą ir slaptažodį, kaip parodyta šiame paveikslėlyje:
Išbandykite "DeepSeek-R1" modelio dialogo funkciją, kaip parodyta paveikslėlyje žemiau:
(Pabaiga) |
Paskelbta 2025-2-6 21:21:14
|
|
|
|
Savininkas|
Paskelbta 2025-2-19 09:09:00
|
