Vaatimukset: Otin käyttöön DeepSeek-R1-mallin Ollamalla ja halusin nähdä pyyntötiedot joistakin lisäosista ymmärtääkseni yksityiskohdat. Esimerkiksi: Open WebUI, continue, cline, Roo Code jne.
Arvostelu:
Syötepyynnön tulostamiseksi palvelinpuolelle sinun täytyy ottaa Debug-tila käyttöön. muokata/etc/systemd/system/ollama.service.d/override.conftiedosto, lisää seuraava konfiguraatio:
Lataa ja aloita Ollama-palvelu seuraavalla komennolla:
Käytä journalctl:ää nähdäksesi palvelulähtölokit seuraavalla komennolla:
Käytä Open WebUI:ta soittaaksesi ollamaa testattavaksi, kuten alla olevassa kuvassa näkyy:
Lokit ovat seuraavat:
06. helmikuuta 21:25:48 VM-0-8-ubuntu ollama[13503]: [GIN] 2025/02/06 - 21:25:48 | 200 | 6.186257471s | 172.18.0.2 | JULKAISE "/api/chat" 06. helmikuuta 21:25:48 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:25:48.411+08:00 level=DEBUG source=sched.go:407 msg="context for request finished" 06. helmikuuta 21:25:48 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:25:48.411+08:00 level=DEBUG source=sched.go:339 msg="juoksija, jonka kesto ei ole nolla, on mennyt käyttämättä, lisätään ajastin" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 duration=2562047h47m16.854775807s 06. helmikuuta 21:25:48 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:25:48.411+08:00 level=DEBUG source=sched.go:357 msg="processing request finished event" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 refCount=0 06. helmikuuta 21:25:54 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:25:54.834+08:00 level=DEBUG source=sched.go:575 msg="evaluation already loaded" model=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 6. helmikuuta 21:25:54 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:25:54.835+08:00 level=DEBUG source=routes.go:1470 msg="chat request" images=0 prompt=<|User|>Nimeni on Xiao Zha, kuka olet? <|Avustaja|> 06. helmikuuta 21:25:54 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:25:54.836+08:00 level=DEBUG source=cache.go:104 msg="loading cache slot" id=0 cache=728 prompt=13 used=2 remain=11 6. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: [GIN] 2025/02/06 - 21:26:02 | 200 | 7.642182053s | 172.18.0.2 | JULKAISE "/api/chat" 06. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:02.454+08:00 level=DEBUG source=sched.go:407 msg="context for request finished" 06. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:02.454+08:00 level=DEBUG source=sched.go:339 msg="runner, jolla ei ole nollan kestoa, on mennyt käyttämättömäksi, lisää ajastin" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 duration=2562047h47m16.854775807s 06. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:02.454+08:00 level=DEBUG source=sched.go:357 msg="processing request finished event" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 refCount=0 06. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:02.491+08:00 level=DEBUG source=sched.go:575 msg="evaluation already loaded" model=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 06. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:02.491+08:00 level=DEBUG source=routes.go:1470 msg="chat request" images=0 prompt="<|User|>### Tehtävä:\nLuo tiivis, 3–5-sanan otsikko, jossa on emoji, joka tiivistää keskusteluhistorian.\n### Ohjeet:\n- Otsikon tulisi selkeästi edustaa keskustelun pääteemaa tai aihetta.\ n- Käytä emojeita, jotka parantavat aiheen ymmärtämistä, mutta vältä lainausmerkkejä tai erityistä muotoilua.\n- Kirjoita otsikko chatin ensisijaisella kielellä; oletuksena englanti, jos olet monikielinen.\n- Priorisoi tarkkuutta liiallisen luovuuden sijaan; pidä se selkeänä ja yksinkertaisena.\n### Output:\nJSON-muoto: { \"title\": \"ytimekäs otsikkosi tässä\" }\n### Esimerkkejä:\n- { \"title\": \" Stock Market Trends\" },\n- { \"title\": \" Perfect Chocolate Chip Recipe\" },\n- { \"title\": \"Musiikin suoratoiston kehitys\" },\n- { \"title\": \"Etätyön tuottavuusvinkit\" },\n- { \"title\": \"Tekoäly terveydenhuollossa\" },\n- { \" title\": \" Video Game Development Insights\" }\n### Keskusteluhistoria:\n<chat_history>\nKÄYTTÄJÄ: Nimeni on Xiao Zha, kuka olet? \nAVUSTAJA: Hei, pikku roisto! Olen DeepSeek-R1-Lite-Preview, älykäs avustaja, jonka on kehittänyt DeepSeek, ja teen parhaani auttaakseni sinua. Voinko tehdä jotain puolestasi? \n</chat_history><|Avustaja|>" 6. helmikuuta 21:26:02 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:02.495+08:00 level=DEBUG source=cache.go:104 msg="loading cache slot" id=1 cache=567 prompt=312 used=6 remon= 306 06. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: [GIN] 2025/02/06 - 21:26:14 | 200 | 12.263297485s | 172.18.0.2 | JULKAISE "/api/chat" 06. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:14.731+08:00 level=DEBUG source=sched.go:407 msg="context for request finished" 6. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:14.731+08:00 level=DEBUG source=sched.go:339 msg="runner, jolla ei ole nollan kestoa, on mennyt käyttämättömäksi, lisätään ajastin" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 duration=2562047h47m16.854775807s 06. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:14.731+08:00 level=DEBUG source=sched.go:357 msg="processing request finished event" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 refCount=0 06. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:14.769+08:00 level=DEBUG source=sched.go:575 msg="evaluation already loaded" model=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 6. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:14.769+08:00 level=DEBUG source=routes.go:1470 msg="chat request" images=0 prompt="<|User|>### Tehtävä:\nLuo 1–3 laajaa tagia, jotka luokittelevat keskusteluhistorian pääteemat sekä 1–3 tarkempaa alateematagia.\n\n### Ohjeet:\n- Aloita korkean tason domaineista (esim. Tiede, Teknologia, Filosofia, Taide, Politiikka, Liiketoiminta, Terveys, Urheilu, Viihde, Koulutus)\n- Harkitse relevanttien alaalojen/alaalojen sisällyttämistä, jos ne ovat vahvoja esitettynä keskustelun aikana\n- Jos sisältö on liian lyhyttä (alle 3 viestiä) tai liian monipuolista, käytä vain [\"Yleistä]\n- Käytä chatin pääkieltä; oletuksena englanti, jos monikielinen\n- Priorisoi tarkkuus tarkkuuden sijaan\n\n### Tulos:\nJSON-muoto: { \"tags\": [\"tag1\", \"tag2\", \"tag3\"] }\n\n### Keskusteluhistoria:\n<chat_history>\nKÄYTTÄJÄ: Nimeni on Xiao Zha, kuka sinä olet? \nAVUSTAJA: Hei, pikku roisto! Olen DeepSeek-R1-Lite-Preview, älykäs avustaja, jonka on kehittänyt DeepSeek, ja teen parhaani auttaakseni sinua. Voinko tehdä jotain puolestasi? \n</chat_history><|Avustaja|>" 06. helmikuuta 21:26:14 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:14.773+08:00 level=DEBUG source=cache.go:104 msg="loading cache slot" id=1 cache=637 prompt=249 used=7 reright= 242 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:17.717+08:00 level=DEBUG source=sched.go:575 msg="evaluation already loaded" model=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:17.718+08:00 level=DEBUG source=server.go:966 msg="uusi runner havaittu, latausmalli cgo-tokenisointiin" 6. helmikuuta klo 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: ladattu metadata, jossa on 26 avain-arvoparia ja 771 tensoria /data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 (versio GGUF V3 (uusin)) 6. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: Metatietoavaimien/arvojen dumppaus. Huomautus: KV-ohitukset eivät päde tässä ulostulossa. 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 0: general.architecture str = qwen2 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 1: general.type str = model 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 2: general.name str = DeepSeek R1 Distill Qwen 32B 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 3: general.basename str = DeepSeek-R1-Distill-Qwen 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 4: general.size_label str = 32B 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 5: qwen2.block_count u32 = 64 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 6: qwen2.context_length u32 = 131072 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 7: qwen2.embedding_length u32 = 5120 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 8: qwen2.feed_forward_length u32 = 27648 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 9: qwen2.attention.head_count u32 = 40 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 10: qwen2.attention.head_count_kv u32 = 8 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 11: qwen2.rope.freq_base f32 = 10000000.000000 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 12: qwen2.attention.layer_norm_rms_epsilon f32 = 0.000010 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 13: general.file_type u32 = 15 Feb 06 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 14: tokenizer.ggml.model str = gpt2 Feb 06 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 15: tokenizer.ggml.pre str = deepseek-r1-qwen Feb 06 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 16: tokenizer.ggml.tokens arr[str,152064] = ["!", "\"", "#", "$", "%", "&", "'", ... 6. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 17: tokenizer.ggml.token_type arr[i32,152064] = [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, ... 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 18: tokenizer.ggml.merges arr[str,151387] = ["Ġ Ġ", "ĠĠ ĠĠ", "i n", "Ġ t",... 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 19: tokenizer.ggml.bos_token_id u32 = 151646 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 20: tokenizer.ggml.eos_token_id u32 = 151643 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 21: tokenizer.ggml.padding_token_id u32 = 151643 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 22: tokenizer.ggml.add_bos_token bool = true 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 23: tokenizer.ggml.add_eos_token bool = false 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 24: tokenizer.chat_template str = {% ellei add_generation_prompt on de... 06. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - kv 25: general.quantization_version u32 = 2 6. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - tyyppi f32: 321 tensoria 6. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - tyyppi q4_K: 385 tensoria 6. helmikuuta 21:26:17 VM-0-8-ubuntu ollama[13503]: llama_model_loader: - tyyppi q6_K: 65 tensoria 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_vocab: puuttuva tai tunnistamaton esitokenisaattorityyppi, käyttäen: 'default' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_vocab: special_eos_id ei ole special_eog_ids - tokenizerin konfiguraatio voi olla virheellinen 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_vocab: erikoistokenit välimuistikoko = 22 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_vocab: token to piece cache size = 0.9310 MB 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: format = GGUF V3 (uusin) 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: arch = qwen2 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: sanastotyyppi = BPE 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: n_vocab = 152064 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: n_merges = 151387 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: vocab_only = 1 6. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: mallityyppi = ? B 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: malli ftype = kaikki F32 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: model params = 32.76 B 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: mallikoko = 18,48 GiB (4,85 BPW) 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: general.name = DeepSeek R1 Distill Qwen 32B 6. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: BOS-token = 151646 '<|lauseen alku|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: EOS token = 151643 '<|lauseen loppu|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: EOT token = 151643 '<|lauseen loppu|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: PAD-token = 151643 '<|lauseen loppu|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: LF token = 148848 'ÄĬ' 06. helmikuu 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: FIM PRE token = 151659 '<|fim_prefix|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: FIM SUF token = 151661 '<|fim_suffix|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: FIM MID token = 151660 '<|fim_middle|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: FIM PAD token = 151662 '<|fim_pad|>' Feb 06 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: FIM REP token = 151663 '<|repo_name|>' 06. helmikuu 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: FIM SEP token = 151664 '<|file_sep|>' 6. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: EOG token = 151643 '<|lauseen loppu|>' 06. helmikuu 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: EOG token = 151662 '<|fim_pad|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: EOG token = 151663 '<|repo_name|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: EOG token = 151664 '<|file_sep|>' 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llm_load_print_meta: maksimitokenin pituus = 256 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: llama_model_load: vain sanasto - tensorien ohittaminen 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:18.440+08:00 level=DEBUG source=routes.go:1470 msg="chat request" images=0 prompt="<|Käyttäjä|>Nimeni on Xiao Zha, kuka olet? <|Avustaja|>\nHei, pikku roisto! Olen DeepSeek-R1-Lite-Preview, älykäs avustaja, jonka on kehittänyt DeepSeek, ja teen parhaani auttaakseni sinua. Voinko tehdä jotain puolestasi? <|lauseen loppu|><|käyttäjä|>Hei DeepSeek-R1<|avustaja|>" 06. helmikuuta 21:26:18 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:18.491+08:00 level=DEBUG source=cache.go:104 msg="loading cache slot" id=0 cache=223 prompt=64 used=13 remain= 51 6. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: [GIN] 2025/02/06 - 21:26:24 | 200 | 6.737131375s | 172.18.0.2 | JULKAISE "/api/chat" 06. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:24.426+08:00 level=DEBUG source=sched.go:407 msg="context for request finished" 06. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:24.426+08:00 level=DEBUG source=sched.go:357 msg="processing request finished event" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 refCount=1 6. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: [GIN] 2025/02/06 - 21:26:24 | 200 | 10.172441322s | 172.18.0.2 | JULKAISE "/api/chat" 06. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:24.918+08:00 level=DEBUG source=sched.go:407 msg="context for request finished" 06. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:24.918+08:00 level=DEBUG source=sched.go:339 msg="runner, jolla ei ole nollan kestoa, on mennyt käyttämättömäksi, lisätään ajastin" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 duration=2562047h47m16.854775807s 06. helmikuuta 21:26:24 VM-0-8-ubuntu ollama[13503]: time=2025-02-06T21:26:24.918+08:00 level=DEBUG source=sched.go:357 msg="processing request finished event" modelPath=/data/ollama/models/blobs/sha256-6150cb382311b69f09cc0f9a1b69fc029cbd742b66bb8ec531aa5ecf5c613e93 refCount=0 Viittaus:
Hyperlinkin kirjautuminen on näkyvissä.
Hyperlinkin kirjautuminen on näkyvissä. |