[AI] (4) Open WebUI를 사용하여 DeepSeek-R1 모델을 호출하기

작은 쓰레기 같은 놈들 · 2025-2-6 21:21:14에 게시됨

요구사항: DeepSeek-R1 모델은 ollama를 사용해 배포되었고, 대화 도구를 사용해 호출했으며, 터미널은 단순히 테스트용으로 사용되었습니다. Open WebUI 패널을 설치해 대화용 모델을 호출할 수 있습니다.

복습:

【AI】(3) 텐센트 클라우드, HAI 튜토리얼이 포함된 DeepSeek-R1 배포
https://www.itsvse.com/thread-10931-1-1.html

Open WebUI는 확장 가능하고 기능이 풍부하며 사용자 친화적인 셀프 호스팅 AI 플랫폼으로, 완전히 오프라인으로 실행되도록 설계되었습니다. Ollama 및 OpenAI 호환 API 등 다양한 LLM 러너를 지원하며, 내장된 RAG 추론 엔진을 탑재해 AI 배포에 강력한 솔루션을 제공합니다.

GitHub 주소:하이퍼링크 로그인이 보입니다.
문서조사:하이퍼링크 로그인이 보입니다.
환경 변수 구성:하이퍼링크 로그인이 보입니다.

Ubuntu 20.04가 Docker 컨테이너를 설치합니다

이 글에서는 Docker를 사용해 Open-webui를 배포하려면 먼저 Docker 컨테이너를 설치해야 하며, 설치 명령은 다음과 같습니다:

로그인이 보이네요.

Ollama 는 deepseek-r1:32b 모델을 배포합니다

다음 명령을 실행하세요:

로그인이 보이네요.

Docker가 Open WebUI 배포

이미 Ollama가 네이티브로 설치되어 있고 동시에 서버에 설치되어 있으니,/data/open-webui폴더 아래에 다음과 같은 새로운 compose.yaml 파일을 생성합니다:

로그인이 보이네요.

다음 명령을 실행해 컨테이너를 시작하세요:

로그인이 보이네요.

아래에 나와 있습니다:

방화벽 보안 그룹 규칙은 TCP 3000 포트를 잠시 동안 열어두었다가 브라우저를 통해 접근하도록 하며, 다음 그림에 나와 같이 합니다:

첫 방문 시에는 아래 그림에 나와 같이 관리자 계정과 비밀번호를 설정하세요:

아래 그림에 나타난 DeepSeek-R1 모델 대화 기능을 테스트해 보세요:

(끝)

작은 쓰레기 같은 놈들 · 2025-2-19 09:09:00에 게시됨

프론트엔드 대형 모델 대화 오픈 소스 프로젝트와 유사합니다

NextChat:하이퍼링크 로그인이 보입니다.
로브 채팅:하이퍼링크 로그인이 보입니다.
Ollama LLM의 완전한 웹 인터페이스:하이퍼링크 로그인이 보입니다.

[AI] (4) Open WebUI를 사용하여 DeepSeek-R1 모델을 호출하기

관련 게시물

본 섹션