Követelmények: A DeepSeek-R1 modellt ollama segítségével telepítették, és egy párbeszédeszközzel hívták meg, a terminált pedig egyszerűen tesztelésre használták. Telepíthetsz egy Open WebUI panelt, hogy modelleket hívj beszélgetéshez.
Szemle:
Az Open WebUI egy skálázható, funkciógazdag és felhasználóbarát, önálló hosztolt AI platform, amely teljesen offline futtatásra tervezett. Támogatja különféle LLM futókat, mint az Ollama és az OpenAI-kompatibilis API-k, beépített RAG következtetési motorral, ami hatékony megoldássá teszi az AI telepítéséhez.
GitHub cím:A hiperlink bejelentkezés látható.
Dokumentáció:A hiperlink bejelentkezés látható.
Környezeti változó konfiguráció:A hiperlink bejelentkezés látható.
Ubuntu 20.04 installs Docker containers
Ebben a cikkben az open-webui telepítéséhez Dockerrel először telepítened kell a Docker konténert, a telepítési parancs a következő:
Az Ollama bevezeti a deepseek-r1:32b modellt
Futtasd a következő parancsot:
Docker telepíti az Open WebUI-t
Mivel már telepítettünk az Ollama natív módon, egyszerre szerveren is,/data/open-webuiHozz létre egy új compose.yaml fájlt a mappa alatt, amely így szól:
A konténer elindításához a következő parancsot futatjuk:
Ahogy az alábbiakban látható:
A tűzfal biztonsági csoportszabálya néhány pillanatra engedélyezi a TCP 3000 portot, majd böngészővel fér hozzá, ahogy az alábbi ábrán látható:
Az első látogatáshoz állítsd be az adminisztrátori fiókot és jelszót, ahogy az alábbi ábrán látható:
Tesztelje a DeepSeek-R1 modell párbeszédfüggvényt, ahogy az alábbi ábrán látható:
(Vége) |
Közzétéve: 2025-2-6 21:21:14
|
|
|
|
Háziúr|
Közzétéve: 2025-2-19, 09:09:00
|
