|
|
Veröffentlicht am 04.02.2025, 20:43:40
|
|
|
PyTorch
Dateiformat: .pt oder .pth
Beschreibung: Wird verwendet, um die Gewichte, das Schema und andere Metadaten des PyTorch-Modells zu speichern. Wird meist in den Trainings- und Schlussfolgerungsphasen verwendet.
TorchScript
Dateiformat: .pt oder .torchscript
Beschreibung: Ein mit TorchScript kompiliertes PyTorch-Modell, das ohne Python-Interpreter ausgeführt werden kann. Ideal für effiziente Modellbereitstellung und plattformübergreifende Anwendungen.
ONNX-Laufzeit
Dateiformat: .onnx
Beschreibung: ONNX (Open Neural Network Exchange) ist ein offenes Format, das zur Darstellung von Deep-Learning-Modellen verwendet wird. ONNX Runtime ist eine Hochleistungs-Inferenz-Engine, die eine Vielzahl von Hardware-Beschleunigern unterstützt. ONNX-Dateien können von mehreren Frameworks exportiert und auf verschiedenen Plattformen verwendet werden.
OpenVINO
Akten formats:.xml und .bin
Beschreibung: Das OpenVINO-Toolkit wandelt ein Modell mit zwei Dateien in eine Zwischendarstellung (IR) um:
.xml Datei: Beschreibt die Struktur des Modells.
.bin Datei: Speichert die Gewichte des Modells. OpenVINO unterstützt mehrere Hardwarebeschleunigungen wie CPU, GPU, VPU usw.
TensorRT
Dateiformat: .engine
Beschreibung: TensorRT ist eine Hochleistungs-Inferenzoptimierungsbibliothek von NVIDIA, die speziell für GPUs optimiert ist. Engine-Dateien sind TensorRT-optimierte Modelle für effiziente Inferenz auf NVIDIA-GPUs.
CoreML (nur macOS)
Dateiformat: .mlmodel
Beschreibung: CoreML ist ein von Apple bereitgestelltes Machine-Learning-Framework, das für iOS- und macOS-Geräte entwickelt wurde. mlmodel-Dateien sind Modelle im CoreML-Format, die eine effiziente Inferenz direkt auf Apple-Geräten ermöglichen.
TensorFlow GraphDef
Dateiformat: .pb
Beschreibung: GraphDef ist ein frühes Modell-Speicherformat für TensorFlow, das hauptsächlich Definitionen von rechnergestützten Graphen enthält. Obwohl es nicht so beliebt ist wie SavedModel, wird es dennoch in einigen Fällen verwendet.
TensorFlow Lite
Dateiformat: .tflite
Beschreibung: TensorFlow Lite ist eine leichte Version von TensorFlow, die für mobile und Embedded-Geräte entwickelt wurde. TFlite-Dateien sind optimierte Modelle für den Betrieb in ressourcenbeschränkten Umgebungen.
PaddlePaddle
Dateiformate: .pdparams und .pdmodel
Beschreibung: PaddlePaddle ist ein Open-Source-Deep-Learning-Framework, das von Baidu entwickelt wurde. Modelle werden üblicherweise als zwei Dateien gespeichert:
.pdmodel-Datei: beschreibt die Architektur des Modells.
.pdparams-Datei: Speichert die Gewichte des Modells. |
Vorhergehend:"Kokoro-82M" ist ein Text-zu-Sprache-TTS-Modell, das kürzlich explodiert istNächster:[KI] (2) Der Unterschied zwischen DeepSeek-V3- und R1-Versionen
|
Vermieter|
Veröffentlicht am 07.02.2025, 10:52:01
|
