Тази статия е огледална статия за машинен превод, моля, кликнете тук, за да преминете към оригиналната статия.

Architect_Programmer_Code Селскостопанска мрежа»Архитект › Програмен › Технически разговор › [AI] (4) Използвайте Open WebUI, за да извикате модела DeepSeek-R1 ...
Изглед: 2031|Отговор: 1

[AI] (4) Използвайте Open WebUI, за да извикнете модела DeepSeek-R1

[Копирай линк]
Публикувано на 2025-2-6 21:14 | | | |
Изисквания: Моделът DeepSeek-R1 беше внедрен с помощта на ollama, а за извикването му се използваше диалогов инструмент, а терминалът се използваше просто за тестване. Можеш да инсталираш Open WebUI панел, за да извикваш модели за разговор.

Преглед:

【AI】(3) Tencent Cloud внедрява DeepSeek-R1 с HAI tutorial
https://www.itsvse.com/thread-10931-1-1.html

Open WebUI е мащабируема, богата на функции и лесна за потребителя самостоятелно хоствана AI платформа, проектирана да работи изцяло офлайн. Поддържа различни LLM платформи като Ollama и съвместими с OpenAI API, с вграден RAG inference engine, което го прави мощно решение за внедряване на AI.

GitHub адрес:Входът към хиперлинк е видим.
Документация:Входът към хиперлинк е видим.
Конфигурация на променливата на средата:Входът към хиперлинк е видим.

Ubuntu 20.04 инсталира Docker контейнери

В тази статия, за да разположите open-webui с Docker, първо трябва да инсталирате Docker контейнера, като командата за инсталация е следната:


Ollama внедрява модела deepseek-r1:32b

Изпълнете следната команда:


Docker внедрява Open WebUI

Тъй като вече имаме Ollama инсталиран нациално и едновременно на сървър, в/data/open-webuiСъздайте нов файл compose.yaml под папката, който гласи:


Изпълнете следната команда, за да стартирате контейнера:


Както е показано по-долу:



Правилото за security group на защитната стена позволява TCP 3000 порта да работи за няколко момента, след което използва браузър за достъп до него, както е показано на следната фигура:



За първото посещение създайте администраторски акаунт и парола, както е показано на следващата фигура:



Тествайте диалоговата функция на модела DeepSeek-R1, както е показано на фигурата по-долу:


(Край)




Предишен:【AI】(3) Tencent Cloud внедрява DeepSeek-R1 с HAI tutorial
Следващ:[AI] (5) Разпечатай информацията за заявката на оллама

Свързани публикации
 Хазяин| Публикувано на 2025-2-19 09:09:00 |
Подобно на проекта с отворен код на фронт-енд проекта за диалог с голям модел

NextChat:Входът към хиперлинк е видим.
Чат на лобове:Входът към хиперлинк е видим.
Пълнофункционалният уеб интерфейс на Ollama LLM:Входът към хиперлинк е видим.
Отричане:
Целият софтуер, програмни материали или статии, публикувани от Code Farmer Network, са само за учебни и изследователски цели; Горното съдържание не трябва да се използва за търговски или незаконни цели, в противен случай потребителите ще понесат всички последствия. Информацията на този сайт идва от интернет, а споровете за авторски права нямат нищо общо с този сайт. Трябва напълно да изтриете горното съдържание от компютъра си в рамките на 24 часа след изтеглянето. Ако ви харесва програмата, моля, подкрепете оригинален софтуер, купете регистрация и получете по-добри услуги. Ако има нарушение, моля, свържете се с нас по имейл.
Mail To:help@itsvse.com