Vanliga modeller för djupinlärning (.pt, . onnx) filformat

Lilla avskum · Publicerad den 2025-2-4 20:43:40

PyTorch
Filformat: .pt eller .pth
Beskrivning: Används för att hålla vikter, schema och annan metadata i PyTorch-modellen. Används vanligtvis i tränings- och resonemangsfaserna.

TorchScript
Filformat: .pt eller .torchscript
Beskrivning: En PyTorch-modell kompilerad med TorchScript som kan köras utan en Python-tolk. Idealiskt för effektiv modelldistribution och plattformsoberoende applikationer.

ONNX-runtime
Filformat: .onnx
Beskrivning: ONNX (Open Neural Network Exchange) är ett öppet format som används för att representera djupinlärningsmodeller. ONNX Runtime är en högpresterande inferensmotor som stödjer en mängd olika hårdvaruacceleratorer. ONNX-filer kan exporteras av flera ramverk och användas på flera plattformar.

OpenVINO
Arkiv formats:.xml och .bin
Beskrivning: OpenVINO-verktygslådan konverterar en modell till en mellanliggande representation (IR) med två filer:
.xml fil: Beskriver modellens struktur.
.bin fil: Lagrar modellens vikter. OpenVINO stöder flera hårdvaruaccelerationer såsom CPU, GPU, VPU, etc.

TensorRT
Filformat: .engine
Beskrivning: TensorRT är ett högpresterande inferensoptimeringsbibliotek som tillhandahålls av NVIDIA och är specifikt optimerat för GPU:er. motorfiler är TensorRT-optimerade modeller för effektiv inferens på NVIDIA-GPU:er.

CoreML (endast macOS)
Filformat: .mlmodel
Beskrivning: CoreML är ett maskininlärningsramverk som tillhandahålls av Apple och är utformat för iOS- och macOS-enheter. mlmodel-filer är modeller i CoreML-format som möjliggör effektiv inferens direkt på Apple-enheter.

TensorFlow GraphDef
Filformat: .pb
Beskrivning: GraphDef är ett tidigt modellsparformat för TensorFlow, som främst innehåller definitioner av beräkningsgrafer. Även om det inte är lika populärt som SavedModel används det ändå i vissa fall.

TensorFlow Lite
Filformat: .tflite
Beskrivning: TensorFlow Lite är en lättviktig version av TensorFlow designad för mobila och inbyggda enheter. TFlite-filer är optimerade modeller för att köras i miljöer med begränsade resurser.

PaddlePaddle
Filformat: .pdparams och .pdmodel
Beskrivning: PaddlePaddle är ett öppen källkodsramverk för djupinlärning utvecklat av Baidu. Modeller sparas vanligtvis som två filer:
.pdmodel-fil: beskriver modellens arkitektur.
.pdparams-fil: Lagrar modellens vikter.

Lilla avskum · Publicerad den 7 februari 2025 10:52:01

[AI] (6) En kort introduktion till filformatet GGUF för stora modeller
https://www.itsvse.com/thread-10936-1-1.html

Vanliga modeller för djupinlärning (.pt, . onnx) filformat

Relaterade inlägg

Avsnitt som ses