Este artigo é um artigo espelhado de tradução automática, por favor clique aqui para ir para o artigo original.

Architect_Programmer_Code Rede Agrícola»Arquiteto › Programação › Chat técnico › [IA] (4) Use o Open WebUI para chamar o modelo DeepSeek-R1 de ...
Vista: 2031|Resposta: 1

[IA] (4) Use o OpenWebUI para chamar o modelo DeepSeek-R1

[Copiar link]
Postado em 2025-2-6 21:21:14 | | | |
Requisitos: O modelo DeepSeek-R1 foi implantado usando ollama, e uma ferramenta de diálogo foi usada para chamá-lo, e o terminal foi simplesmente usado para testes. Você pode instalar um painel Open WebUI para invocar modelos para conversa.

Revisar:

【AI】(3) Tencent Cloud implanta DeepSeek-R1 com tutorial de HAI
https://www.itsvse.com/thread-10931-1-1.html

A Open WebUI é uma plataforma de IA auto-hospedada escalável, rica em recursos e amigável ao usuário, projetada para rodar completamente offline. Ele suporta vários executores de LLMs como Ollama e APIs compatíveis com OpenAI, com um motor de inferência RAG embutido, tornando-se uma solução poderosa para implantação de IA.

Endereço do GitHub:O login do hiperlink está visível.
Documentação:O login do hiperlink está visível.
Configuração das Variáveis do Ambiente:O login do hiperlink está visível.

Ubuntu 20.04 instala contêineres Docker

Neste artigo, para implantar open-webui usando Docker, você primeiro precisa instalar o contêiner Docker, o comando de instalação é o seguinte:


A Ollama implanta o modelo deepseek-r1:32b

Execute o seguinte comando:


Docker implanta o Open WebUI

Como já temos o Ollama instalado nativamente e ao mesmo tempo em um servidor, em/data/open-webuiCrie um novo arquivo compose.yaml abaixo da pasta, que diz:


Execute o seguinte comando para iniciar o container:


Como mostrado abaixo:



A regra do grupo de segurança do firewall permite a porta TCP 3000 funcionar por alguns instantes e então usa um navegador para acessá-la, como mostrado na figura a seguir:



Para a primeira visita, configure a conta de administrador e a senha, conforme mostrado na figura a seguir:



Teste a função de diálogo do modelo DeepSeek-R1, conforme mostrado na figura abaixo:


(Fim)




Anterior:【AI】(3) Tencent Cloud implanta DeepSeek-R1 com tutorial de HAI
Próximo:[IA] (5) Imprima as informações do pedido Ollama

Posts Relacionados
 Senhorio| Postado em 19-02-2025 09:09:00 |
Semelhante ao projeto open source de diálogos de grandes modelos front-end

NextChat:O login do hiperlink está visível.
Chat de Lóbulos:O login do hiperlink está visível.
Interface web completa do Ollama LLM:O login do hiperlink está visível.
Disclaimer:
Todo software, material de programação ou artigos publicados pela Code Farmer Network são apenas para fins de aprendizado e pesquisa; O conteúdo acima não deve ser usado para fins comerciais ou ilegais, caso contrário, os usuários terão todas as consequências. As informações deste site vêm da Internet, e disputas de direitos autorais não têm nada a ver com este site. Você deve deletar completamente o conteúdo acima do seu computador em até 24 horas após o download. Se você gosta do programa, por favor, apoie um software genuíno, compre o registro e obtenha serviços genuínos melhores. Se houver qualquer infração, por favor, entre em contato conosco por e-mail.
Mail To:help@itsvse.com