【AI】(3) Tencent CloudがHAIチュートリアル付きDeepSeek-R1を展開

ビデオメモリ:32GB+
ハッシュレート:15+TFlops SP
CPU:8~10コア
RAM:40GB

>>> /usr/localにollamaをインストールする方法
>>> Linux amd64バンドルのダウンロード
######################################################################## 100.0%
>>> オラマ使いの作成...
>>> ollamaユーザーをレンダリンググループに追加する...
>>> オラマユーザーをビデオグループに追加...
>>> 現在のユーザーをオラマグループに追加する...
>>> オラマシステムドサービスの作成...
>>> オラマサービスの開始と有効化...
/etc/systemd/system/ollama.service → symlink /etc/systemd/system/ollama.service を作成しました。

{
  「モデル」:[
    {
      「名前」:「deepseek-r1:8b」
      「モデル」:「DeepSeek-R1:8B」
      「サイズ」:6930032640、
      「ダイジェスト」:「28F8FD6CDC677661426adab9338ce3C013D7E69A5BEA9E704B364171A5D61A10」
      「詳細」:{
        「parent_model」: 「」
        「format」: 「gguf」
        「家族」:「ラマ」
        「家族」:[
          「ラマ」
        ],
        「parameter_size」:「8.0B」、
        「quantization_level」:「Q4_K_M」
      },
      「expires_at」:「2025-02-05T21:14:50.715753614+08:00」
      「size_vram」:6930032640
    }
  ]
}

$ オラマ ヘルプサーブ
始動オラマ

Usage:
  オジャマサーブ[旗]

Aliases:
  サーブ、スタート

Flags:
  -h, --ヘルプヘルプ for serv

環境変数:
      OLLAMA_DEBUG 追加のデバッグ情報を表示する(例:OLLAMA_DEBUG=1)
      OLLAMA_HOST ollamaサーバーのIPアドレス(デフォルト127.0.0.1:11434)
      OLLAMA_KEEP_ALIVE モデルがメモリに読み込まれ続ける期間(デフォルトの「5m」)。
      OLLAMA_MAX_LOADED_MODELS GPUあたりの最大搭載モデル数
      OLLAMA_MAX_QUEUE キューに待たれたリクエストの最大数
      OLLAMA_MODELS モデルディレクトリへのパス
      OLLAMA_NUM_PARALLEL 並列リクエストの最大数
      OLLAMA_NOPRUNE 起動時にモデルの塊を剪定しないでください
      OLLAMA_ORIGINS 許可された起源のカンマ区切りリスト
      OLLAMA_SCHED_SPREAD すべてのGPUで常にモデルをスケジュールしてください
      OLLAMA_TMPDIR 一時ファイルの場所
      OLLAMA_FLASH_ATTENTION フラッシュアテンションを有効にしました
      OLLAMA_LLM_LIBRARY 自動検出を回避するLLMライブラリを設定する
      OLLAMA_GPU_OVERHEAD GPUごとにVRAMの一部(バイト)を予約する
      OLLAMA_LOAD_TIMEOUT モデルロードが停止するまでの期間(デフォルトの「5m」)を許容する時間

>>> こんにちは、あなたは誰ですか?
<think>

</think>

こんにちは！ 私は中国のDeepSeekが独立して開発したAIアシスタントで、皆様にお役に立てて光栄です!

総時間:489.831897ms
ロード時間:24.116423ms
プロンプト評価カウント:10トークン
プロンプト評価時間:4ms
プロンプト評価率:2500.00トークン/秒
評価数:36トークン
評価時間:460ms
評価率:78.26トークン/秒
>>>俺はちょっとしたクズだ、名前は?
<think>
で、俺の名前はクズか? よく考えさせてください。 子供の頃、両親は私の耳が大きいと思って「リトル・クズバッグ」と名付けていましたが、実際はそれだけです
本当の理由じゃない。 子供の頃、いつも指を口に入れてゴミみたいにしていたから「小さなクズ」と呼ばれたからかもしれません。

しかし、今ではその名前は少し奇妙に聞こえ、現代社会の命名スタイルには完全には合っていません。 自分に合う名前に変えることを考えるべきだ。 まず、自分自身を理解する必要があります
あなたの性格や興味を伝え、意味がありユニークな名前を選ぶことができます。

私は人を助けるのが好きで、聞きやコミュニケーションが得意なので、「知恵」「温かい」「親しみやすい」といった名前を選んでみるのもいいかもしれません。 同時に、自分の性格も反映したいと思っています。例えば
本や音楽、スポーツが好きなら、これらの要素を名前に取り入れることができます。

さらに、新しい名前が誤解されたり、記憶されなかったりしないよう注意が必要です。 つまり、名前はユニークで認識しやすく、複雑すぎたり普通すぎたりしてはいけません。 できます
著名な人物の名前を参照すると、文化的遺産と現代性の両方を持つ人物がいればわかります。

さらに、発音が滑らかかどうか、肯定的な意味があるかどうか、そしてそれが異なる文脈でどのように表現されるかも考慮する必要があります。 つまり、名前を選ぶ際には、響きが良いだけでなく、
そこには意味と価値があるはずです。

最後に、家族や友人と連絡を取り、新しい名前に満足してもらい、その名前が私の生活の一部になれるか確認しなければなりません。 結局のところ、その名前は単に
識別子は自己表現の一部です。

要するに、シャオ・ジャオは本名ではなく、自分に合う名前を選ぶ権利がある。 時間と考え方が必要ですが、自分の性格や興味を慎重に分析することで大切です
名前の意味だけでなく、自分に最もふさわしい名前を見つけられると信じています。
</think>

上記の考えを踏まえ、私は自分の名前を「知恵の星」と名付けることに決めました。 この名前は私の創意工夫と温かさ、そして希望の両方を反映しており、私の個人的なセクシュアリティにぴったり合っています
特性。 同時に、「星」は光と無限の可能性を象徴し、私に絶えず進歩と成長を追求するインスピレーションを与えてくれます。

**最終名称:ウィズダムスター**

この名前は私の性格に合っているだけでなく、私を誇りに思い、充実感を与えてくれるポジティブなエネルギーに満ちています。

総時間:7.600299527秒
ロード時間:24.37534ms
プロンプト評価カウント:59トークン
プロンプト評価時間:10ms
プロンプト評価率:5900.00トークン/秒
評価数:557トークン
評価時間:6.618秒
評価率:84.16トークン/秒

root@VM-0-8-Ubuntu:~# nvidia-smi
2025年2月6日木曜日 13:25:04
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 525.105.17 ドライバーバージョン:525.105.17 CUDA バージョン:12.0 |
|-------------------------------+----------------------+----------------------+
| GPU 名前 persistence-m| バス識別番号 | 不安定な発砲。 ECC |
| ファン温度パーフ Pwr:使用率/キャップ|         メモリ使用量 | GPU-Util Compute M. |
|                               |                      |               MIG M。
|===============================+======================+======================|
|   0 テスラ V100-SXM2...  オン | 00000000:00:08.0 オフ |                  外に |
| 該当なし 65C P0 205W / 300W |  21822MiB / 32768MiB |     89%デフォルト |
|                               |                      |                  該当なし |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| プロセス: |
|  GPU GI CI PID TYPE Process name GPU メモリ |
|        ID IDの使用 |
|=============================================================================|
|    0 N/A N/A 91457 C ... 1_avx/ollama_llama_server 21820MiB |
+-----------------------------------------------------------------------------+
root@VM-0-8-ubuntu:~# オラマショー deepseek-r1:32b
  モデル
    アーキテクチャ QWEN2
    パラメータ 32.8B
    コンテキストの長さ131072
    埋め込み長 5120
    量子化Q4_K_M

  パラメーター
    止まる「<|文の始まり|>」
    止まる「文の終わり<|>」
    止まる「<|User|>」
    止まる「<|助手|>」

  ライセンス
    MITライセンス
    著作権 (c) 2023 DeepSeek

root@VM-0-8-ubuntu:~# ollama ps
名前IDサイズプロセッサは
deepseek-r1:32b    38056bbcbb2d    23 GB    100% GPU     Forever

オラマモデル引力問題の解法
https://www.itsvse.com/thread-10939-1-1.html