Vaatimukset: DeepSeek-R1-malli otettiin käyttöön käyttämällä ollamaa, ja sen kutsumiseen käytettiin dialogityökalua, ja terminaalia käytettiin yksinkertaisesti testaukseen. Voit asentaa Open WebUI -paneelin, jolla voit kutsua malleja keskustelua varten.
Arvostelu:
Open WebUI on skaalautuva, ominaisuuksiltaan rikas ja käyttäjäystävällinen itseisännöity tekoälyalusta, joka on suunniteltu toimimaan täysin offline-tilassa. Se tukee erilaisia LLM-runnereita, kuten Ollamaa ja OpenAI-yhteensopivia rajapintoja, ja siinä on sisäänrakennettu RAG-päättelymoottori, mikä tekee siitä tehokkaan ratkaisun tekoälyn käyttöönottoon.
GitHub-osoite:Hyperlinkin kirjautuminen on näkyvissä.
Dokumentaatio:Hyperlinkin kirjautuminen on näkyvissä.
Ympäristömuuttujan konfiguraatio:Hyperlinkin kirjautuminen on näkyvissä.
Ubuntu 20.04 asentaa Docker-kontteja
Tässä artikkelissa, jotta voit ottaa käyttöön open-webui:n Dockerilla, sinun täytyy ensin asentaa Docker-kontti, asennuskomento on seuraava:
Ollama ottaa käyttöön deepseek-r1:32b -mallin
Suorita seuraava komento:
Docker ottaa käyttöön Open WebUI
Koska meillä on jo Ollama asennettuna natiivisti ja samanaikaisesti palvelimelle,/data/open-webuiLuo uusi compose.yaml-tiedosto kansion alle, jossa lukee:
Suorita seuraava komento käynnistääksesi kontin:
Kuten alla on esitetty:
Palomuurien suojausryhmäsääntö sallii TCP 3000 -portin olla hetken ja käyttää sitten selainta sen käyttöön, kuten seuraavassa kuvassa näkyy:
Ensimmäisellä käynnillä aseta ylläpitäjätili ja salasana, kuten seuraavassa kuvassa näkyy:
Testaa DeepSeek-R1-mallin dialogifunktiota alla olevan kuvan mukaisesti:
(Loppu) |
Julkaistu 2025-2-6 21:21:14
|
|
|
|
Vuokraisäntä|
Julkaistu 2025-2-19 09:09:00
|
