Běžné modely pro hluboké učení (.pt, . ONNX)

Malý hajzl · Zveřejněno 4. 2. 2025 20:43:40

PyTorch
Formát souboru: .pt nebo .pth
Popis: Používá se k uchovávání vah, schématu a dalších metadat modelu PyTorch. Obvykle se používá ve fázích výcviku a uvažování.

TorchScript
Formát souboru: .pt nebo .torchscript
Popis: Model PyTorch zkompilovaný pomocí TorchScriptu, který může běžet bez Python interpreteru. Ideální pro efektivní nasazování modelů a multiplatformní aplikace.

ONNX Runtime
Formát souboru: .onnx
Popis: ONNX (Open Neural Network Exchange) je otevřený formát používaný k reprezentaci modelů hlubokého učení. ONNX Runtime je vysoce výkonný inferenční engine, který podporuje různé hardwarové akcelerátory. ONNX soubory lze exportovat různými frameworky a používat na různých platformách.

OpenVINO
Soubor formats:.xml a .bin
Popis: Toolkit OpenVINO převádí model na mezilehlou reprezentaci (IR) pomocí dvou souborů:
.xml File: Popisuje strukturu modelu.
.bin Soubor: Ukládá váhy modelu. OpenVINO podporuje více hardwarových akcelerací, jako jsou CPU, GPU, VPU atd.

TensorRT
Formát souboru: .engine
Popis: TensorRT je knihovna pro optimalizaci inference s vysokým výkonem poskytovaná společností NVIDIA a která je speciálně optimalizována pro GPU. enginové soubory jsou modely optimalizované pro TensorRT pro efektivní inferenci na grafických kartách NVIDIA.

CoreML (pouze macOS)
Formát souboru: .mlmodel
Popis: CoreML je framework pro strojové učení poskytovaný společností Apple navržený pro zařízení s iOS a macOS. soubory mlmodel jsou modely ve formátu CoreML, které umožňují efektivní inferenci přímo na zařízeních Apple.

TensorFlow GraphDef
Formát souboru: .pb
Popis: GraphDef je raný formát pro ukládání modelu pro TensorFlow, který obsahuje především definice výpočetních grafů. Ačkoliv není tak populární jako SavedModel, v některých případech se stále používá.

TensorFlow Lite
Formát souboru: .tflite
Popis: TensorFlow Lite je lehká verze TensorFlow navržená pro mobilní a vestavěná zařízení. TFlite soubory jsou optimalizované modely pro provoz v prostředích s omezenými zdroji.

PaddlePaddle
Formáty souborů: .pdparams a .pdmodel
Popis: PaddlePaddle je open-source framework pro hluboké učení vyvinutý společností Baidu. Modely se obvykle ukládají ve dvou souborech:
.pdmodel: popisuje architekturu modelu.
.pdparams soubor: Ukládá váhy modelu.

Malý hajzl · Zveřejněno 7. 2. 2025 10:52:01

[AI] (6) Stručný úvod do formátu velkého modelu GGUF
https://www.itsvse.com/thread-10936-1-1.html

Běžné modely pro hluboké učení (.pt, . ONNX)

Související příspěvky

Prohlížené sekce