απαιτήσεις: Το μοντέλο DeepSeek-R1 αναπτύχθηκε χρησιμοποιώντας το ollama και χρησιμοποιήθηκε ένα εργαλείο διαλόγου για την κλήση του και το τερματικό χρησιμοποιήθηκε απλώς για δοκιμή. Μπορείτε να εγκαταστήσετε έναν πίνακα Open WebUI για να καλέσετε μοντέλα για συνομιλία.
Αναθεώρηση:
Το Open WebUI είναι μια επεκτάσιμη, πλούσια σε χαρακτηριστικά και φιλική προς το χρήστη αυτο-φιλοξενούμενη πλατφόρμα τεχνητής νοημοσύνης που έχει σχεδιαστεί για να λειτουργεί εντελώς εκτός σύνδεσης. Υποστηρίζει διάφορους δρομείς LLM όπως API συμβατά με Ollama και OpenAI, με ενσωματωμένη μηχανή συμπερασμάτων RAG, καθιστώντας το μια ισχυρή λύση για την ανάπτυξη AI.
Διεύθυνση GitHub:Η σύνδεση με υπερσύνδεσμο είναι ορατή.
Τεκμηρίωση:Η σύνδεση με υπερσύνδεσμο είναι ορατή.
Διαμόρφωση μεταβλητής περιβάλλοντος:Η σύνδεση με υπερσύνδεσμο είναι ορατή.
Το Ubuntu 20.04 εγκαθιστά κοντέινερ Docker
Σε αυτό το άρθρο, για να αναπτύξετε το open-webui χρησιμοποιώντας το Docker, πρέπει πρώτα να εγκαταστήσετε το κοντέινερ Docker, η εντολή εγκατάστασης είναι η εξής:
Ο Ollama αναπτύσσει το μοντέλο deepseek-r1:32b
Εκτελέστε την ακόλουθη εντολή:
Το Docker αναπτύσσει το Open WebUI
Δεδομένου ότι έχουμε ήδη εγκατεστημένο το Ollama εγγενώς και ταυτόχρονα σε διακομιστή, στο/data/open-webuiΔημιουργήστε ένα νέο αρχείο compose.yaml κάτω από το φάκελο, το οποίο λέει:
Εκτελέστε την ακόλουθη εντολή για να ξεκινήσετε το κοντέινερ:
Οπως φαίνεται παρακάτω:
Ο κανόνας ομάδας ασφαλείας τείχους προστασίας επιτρέπει στη θύρα TCP 3000 να μεταβεί για λίγα λεπτά και, στη συνέχεια, χρησιμοποιεί ένα πρόγραμμα περιήγησης για πρόσβαση σε αυτήν, όπως φαίνεται στην παρακάτω εικόνα:
Για την πρώτη επίσκεψη, ρυθμίστε τον λογαριασμό διαχειριστή και τον κωδικό πρόσβασης, όπως φαίνεται στην παρακάτω εικόνα:
Δοκιμάστε τη λειτουργία διαλόγου μοντέλου DeepSeek-R1 όπως φαίνεται στο παρακάτω σχήμα:
(Τέλος) |
Δημοσιεύτηκε στις 2025-2-6 21:21:14
|
|
|
|
Σπιτονοικοκύρης|
Δημοσιεύτηκε στις 2025-2-19 09:09:00
|
