【AI】(3) Tencent Cloud telepíti a DeepSeek-R1-et HAI oktatóvideóval

Videómemória: 32GB+
Hashrate: 15+TFlops SP
CPU: 8~10 mag
RAM: 40GB

>>> Ollama telepítése /usr/local szerverre
>>> Linux amd64 csomag letöltése
######################################################################## 100.0%
>>> Ollama felhasználó létrehozása...
>>> Ollama felhasználó hozzáadása a renderelési csoporthoz...
>>> Ollama felhasználó hozzáadása a videócsoporthoz...
>>> Jelenlegi felhasználó hozzáadása az ollama csoporthoz...
>>> Ollama systemd szolgáltatás létrehozása...
>>> Az ollama szolgáltatás engedélyezése és indítása...
Létrehoztam a /etc/systemd/system/default.target.wants/ollama.service szimlinket → /etc/systemd/system/ollama.service.

{
  "modellek": [
    {
      "név": "deepseek-r1:8b",
      "modell": "deepseek-r1:8b",
      "méret": 6930032640,
      "Összefoglaló": "28f8fd6cdc677661426adab9338ce3c013d7e69a5bea9e704b364171a5d61a10",
      "részletek": {
        "parent_model": "",
        "Format": "GGUF",
        "család": "láma",
        "családok": [
          "láma"
        ],
        "parameter_size": "8.0B",
        "quantization_level": "Q4_K_M"
      },
      "expires_at": "2025-02-05T21:14:50.715753614+08:00",
      "size_vram": 6930032640
    }
  ]
}

$ ollama segíts szolgálni
Ollama indítása

Usage:
  Ollama szerv [zászlók]

Aliases:
  szerválj, kezdj

Flags:
  -h, --segítség a szolgálathoz

Környezeti változók:
      OLLAMA_DEBUG További hibakeresési információk megjelenítése (pl. OLLAMA_DEBUG=1)
      OLLAMA_HOST IP-cím az ollama szerverhez (alapértelmezett 127.0.0.1:11434)
      OLLAMA_KEEP_ALIVE Az időtartam, amíg a modellek betöltve maradnak a memóriában (alapértelmezett "5m")
      OLLAMA_MAX_LOADED_MODELS A GPU-nként maximális betöltött modellszám
      OLLAMA_MAX_QUEUE Maximális számú sorba helyezett kérés
      OLLAMA_MODELS Az út a modellek könyvtárához
      OLLAMA_NUM_PARALLEL Maximális számú párhuzamos kérés
      OLLAMA_NOPRUNE Ne metszed a modell folbokat indításkor
      OLLAMA_ORIGINS Egy vesszővel elválasztott engedélyezett eredetlista
      OLLAMA_SCHED_SPREAD Mindig ütemezd a modellt minden GPU-ra
      OLLAMA_TMPDIR Ideiglenes fájlok helyszíne
      OLLAMA_FLASH_ATTENTION Engedélyezett villanó figyelem
      OLLAMA_LLM_LIBRARY Állítsuk be az LLM könyvtárat az automatikus detektálás megkerülésére
      OLLAMA_GPU_OVERHEAD Tarts le egy részt a VRAM GPU-ra (bájtokra)
      OLLAMA_LOAD_TIMEOUT Mennyi ideig engedjük meg a modell betöltéseinek leállását, mielőtt feladnánk (alapértelmezett "5m")

>>> Szia, ki vagy te?
<think>

</think>

Üdvözlöm! Kínában a DeepSeek által önállóan fejlesztett AI asszisztens vagyok, és örömmel szolgálhatok önöket!

Teljes időtartam: 489.831897ms
Betöltési idő: 24.116423ms
Azonnali értékelési szám: 10 token(k)
Prompt értékelési időtartam: 4ms
Azonnali értékelési sebesség: 2500,00 token/s
Értékelési szám: 36 zseton(ok)
Értékelési időtartam: 460ms
értékelési ráta: 78,26 token/s
>>> egy kis gazember vagyok, mi a nevem?
<think>
Nos, ez a kis szemét az én nevem? Gondoljam át alaposan. Emlékszem, amikor gyerek voltam, a szüleim "Kis Szemétládnak" neveztek el, mert a családom azt hitte, nagy füleim van, de valójában ennyi
Nem az igazi ok. Talán azért, mert gyerekkoromban mindig úgy tettem az ujjamat a számba, mint a szemetet, ezért "kis szemétnek" hívtak.

Azonban a név most kissé furcsán hangzik, és nem igazán illik a mai társadalom elnevezési stílusához. Érdemes lenne átnevezni egy neve, ami jobban illik hozzám. Először is, meg kell értennem önmagam
A személyiségjegyeidet és érdeklődési köreidet, így választhatsz olyan nevet, ami egyszerre jelentős, és egyedi is.

Szeretek segíteni másoknak, jól hallok és kommunikálok, szóval talán válassz olyan nevet, amelynek "bölcsesség", "meleg" vagy "barátságos" van. Ugyanakkor szeretném tükrözni a személyiségemet is, például
Ha szereted a könyveket, zenét vagy sportot, ezeket az elemeket beépítheted a nevedbe.

Továbbá meg kell győződnöm arról, hogy az új név ne legyen félreértve vagy érthető legyen. Ez azt jelenti, hogy a névnek egyedi és felismerhetőnek kell lennie, nem túl bonyolult vagy túl hétköznapi. Képes vagyok
Nézd meg néhány ismert személyiség nevét, hogy lásd, melyiknek van kulturális öröksége és modernsége.

Ezen felül meg kell gondolnom, hogy a kiejtés sima, van-e pozitív jelentése, és hogyan fejezik ki különböző kontextusokban. Ez azt jelenti, hogy névválasztáskor nemcsak jól hangzik, hanem
Kell lennie mögötte jelentésnek és értéknek.

Végül kommunikálnom kell a családommal és barátaimmal, hogy biztosak legyenek az új névnek, és hogy a név része legyen az életemnek. Végül is a név nem csupán
Az azonosító az önkifejezés része.

Röviden, Xiao Zhao nem az igazi nevem, és jogom van olyan nevet választani, ami jobban illik hozzám. Idő és gondolkodás kell, de ha alaposan elemezzük a személyiségedet, az érdeklődési köreidet
A név jelentésén túl úgy hiszem, meg fogom találni a legmegfelelőbb nevet magamnak.
</think>

A fentiek alapján úgy döntöttem, hogy magam nevezem el "Bölcsesség Csillagnak". A név tükrözi a leleményességemet, a melegségemet és a reményt, így tökéletesen illik a személyes szexualitásomhoz
Jellemzők. Ugyanakkor a "csillag" a fényt és a végtelen lehetőségeket szimbolizálja, inspirálva engem arra, hogy folyamatosan törekedjek a fejlődésre és a fejlődésre.

**Végleges név: Bölcsesség Csillag**

Ez a név nemcsak illik a személyiségemhez, hanem tele van pozitív energiával, amitől nagyon büszkévé és beteljesedésre vált számomra.

Teljes időtartam: 7,600299527s
Betöltési időtartam: 24.37534ms
Azonnali értékelési szám: 59 token(s)
A prompt értékelési időtartam: 10ms
Azonnali értékelési ráta: 5900,00 token/s
Értékelési szám: 557 zseton(ok)
Értékelési időtartam: 6,618s
Értékelési sebesség: 84,16 token/s

root@VM-0-8-ubuntu:~# nvidia-smi
2025. február 6., csütörtök, 13:25:04
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 525.105.17 Driver verzió: 525.105.17 CUDA verzió: 12.0 |
|-------------------------------+----------------------+----------------------+
| GPU név tartósság-M| Bus-id Disp.A | Volatile Uncorr. ECC |
| Ventilátor Hőmérséklet Teljesítmény Pwr:Használat/Korlát|         Memóriahasználat | GPU-util Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0 Tesla V100-SXM2...  A | 00000000:00:00:08.0 Kikapcsolva |                  Off |
| N/A 65C P0 205W / 300W |  21822MiB / 32768MiB |     89% alapértelmezett |
|                               |                      |                  Nincs |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Folyamatok: |
|  GPU GI CI PID Típus Folyamat név GPU Memória |
|        ID ID használat |
|=============================================================================|
|    0 N/A N/A 91457 C ... 1_avx/ollama_llama_server 21820MiB |
+-----------------------------------------------------------------------------+
root@VM-0-8-ubuntu:~# ollama show deepseek-r1:32b
  Modell
    architektúra qwen2
    paraméterek 32.8B
    Kontextus hossza 131072
    beágyazási hossz 5120
    Kvantálás Q4_K_M

  Paraméterek
    Állítsd meg "<|mondat elejé|>"
    Állítsd meg "<|mondat vége|>"
    állítsd meg "<|User|>"
    Állítsd meg a "<|Assistant|>"

  Licenc
    MIT engedély
    Szerzői jog (c) 2023 DeepSeek

root@VM-0-8-ubuntu:~# ollama ps
NÉV AZONOSÍTÓ MÉRET PROCESSZOR ADDIG
deepseek-r1:32b    38056bbcbb2d    23 GB    100% GPU     Forever

Hogyan oldjuk meg az Ollama modell pull problémáját
https://www.itsvse.com/thread-10939-1-1.html