PyTorch Формат файлу: .pt або .pth Опис: Використовується для зберігання ваг, схеми та інших метаданих моделі PyTorch. Зазвичай використовується на етапах навчання та міркування.
TorchScript Формат файлу: .pt або .torchscript Опис: Модель PyTorch, скомпільована за допомогою TorchScript, яка може працювати без інтерпретатора Python. Ідеально підходить для ефективного розгортання моделей та кросплатформених додатків.
ONNX Runtime Формат файлу: .onnx Опис: ONNX (Open Neural Network Exchange) — це відкритий формат, який використовується для представлення моделей глибокого навчання. ONNX Runtime — це високопродуктивний інференційний рушій, який підтримує різноманітні апаратні акселератори. Файли ONNX можуть експортуватися кількома фреймворками та використовуватися на різних платформах.
OpenVINO Подати formats:.xml і .bin Опис: Інструментарій OpenVINO перетворює модель у проміжне представлення (IR) з двома файлами: .xml Файл: Описує структуру моделі. .bin Файл: Зберігає ваги моделі. OpenVINO підтримує кілька апаратних прискорень, таких як CPU, GPU, VPU тощо.
TensorRT Формат файлу: .engine Опис: TensorRT — це бібліотека високопродуктивної оптимізації інференції, надана NVIDIA, спеціально оптимізована для GPU. файли двигуна — це оптимізовані TensorRT моделі для ефективного висновку на NVIDIA GPU.
CoreML (тільки для macOS) Формат файлу: .mlmodel Опис: CoreML — це фреймворк машинного навчання, наданий Apple, розроблений для пристроїв iOS та macOS. mlmodel — це моделі у форматі CoreML, які дозволяють ефективно робити висновок безпосередньо на пристроях Apple.
TensorFlow GraphDef Формат файлу: .pb Опис: GraphDef — це ранній формат збереження моделей для TensorFlow, який переважно містить визначення обчислювальних графів. Хоча він не такий популярний, як SavedModel, він все ще використовується в деяких випадках.
TensorFlow Lite Формат файлу: .tflite Опис: TensorFlow Lite — це легка версія TensorFlow, розроблена для мобільних та вбудованих пристроїв. Файли TFlite — це оптимізовані моделі для роботи в середовищах з обмеженими ресурсами.
PaddlePaddle Формати файлів: .pdparams та .pdmodel Опис: PaddlePaddle — це відкритий фреймворк для глибокого навчання, розроблений компанією Baidu. Моделі зазвичай зберігаються у двох файлах: .pdmodel файл: описує архітектуру моделі. .pdparams файл: Зберігає ваги моделі. |