Эта статья является зеркальной статьёй машинного перевода, пожалуйста, нажмите здесь, чтобы перейти к оригиналу.

Architect_Programmer_Code Сельскохозяйственная сеть»Архитектор › Программирование › Технический разговор › [ИИ] (4) Используйте Open WebUI, чтобы вызвать модель DeepSeek-R1 ...
Вид: 2031|Ответ: 1

[AI] (4) Используйте Open WebUI для вызова модели DeepSeek-R1

[Скопировать ссылку]
Опубликовано 2025-2-6 21:21:14 | | | |
Требования: Модель DeepSeek-R1 была развернута с помощью ollama, для её вызова использовался диалоговый инструмент, а терминал использовался просто для тестирования. Можно установить панель Open WebUI для вызова моделей для разговоров.

Обзор:

【AI】(3) Tencent Cloud развёртает DeepSeek-R1 с обучанием по HAI
https://www.itsvse.com/thread-10931-1-1.html

Open WebUI — это масштабируемая, богатая функциями и удобная для пользователя самостоятельная платформа ИИ, предназначенная для работы полностью офлайн. Он поддерживает различные LLM-раннеры, такие как Ollama и совместимые с OpenAI API, с встроенным движком вывода RAG, что делает её мощным решением для внедрения ИИ.

Адрес на GitHub:Вход по гиперссылке виден.
Документация:Вход по гиперссылке виден.
Конфигурация переменных среды:Вход по гиперссылке виден.

Ubuntu 20.04 устанавливает контейнеры Docker

В этой статье, чтобы развернуть open-webui с помощью Docker, сначала нужно установить контейнер Docker, команда установки выглядит следующим образом:


Ollama внедряет модель deepseek-r1:32b

Выполните следующую команду:


Docker развёртает Open WebUI

Поскольку у нас уже установлена Ollama нативно и одновременно на сервере, в/data/open-webuiСоздайте новый файл compose.yaml под этой папкой, который гласит:


Выполните следующую команду для запуска контейнера:


Как показано ниже:



Правило группы безопасности межсетевого экрана позволяет порту TCP 3000 на несколько мгновений, а затем с помощью браузера для доступа к нему, как показано на следующем рисунке:



Для первого визита настройте учётную запись администратора и пароль, как показано на следующем рисунке:



Протестируйте диалоговую функцию модели DeepSeek-R1, как показано на рисунке ниже:


(Конец)




Предыдущий:【AI】(3) Tencent Cloud развёртает DeepSeek-R1 с обучанием по HAI
Следующий:[ИИ] (5) Распечатать информацию о запросе оллам

Связанные публикации
 Хозяин| Опубликовано 2025-2-19 09:09:00 |
Похожий на фронтенд-проект с открытым исходным кодом с большой моделью диалога

NextChat:Вход по гиперссылке виден.
Чат мошек:Вход по гиперссылке виден.
Полнофункциональный веб-интерфейс Ollama LLM:Вход по гиперссылке виден.
Отказ:
Всё программное обеспечение, программные материалы или статьи, публикуемые Code Farmer Network, предназначены исключительно для учебных и исследовательских целей; Вышеуказанный контент не должен использоваться в коммерческих или незаконных целях, иначе пользователи несут все последствия. Информация на этом сайте взята из Интернета, и споры по авторским правам не имеют отношения к этому сайту. Вы должны полностью удалить вышеуказанный контент с компьютера в течение 24 часов после загрузки. Если вам нравится программа, пожалуйста, поддержите подлинное программное обеспечение, купите регистрацию и получите лучшие подлинные услуги. Если есть нарушение, пожалуйста, свяжитесь с нами по электронной почте.
Mail To:help@itsvse.com