Erste Schritte mit großem Modelltraining mit ORTModule
ONNX Runtime Training’s ORTModule bietet eine hochperformante Trainings-Engine für Modelle, die mit dem PyTorch Frontend definiert sind. ORTModule wurde entwickelt, um das Training großer Modelle zu beschleunigen, ohne die Modelldefinition ändern zu müssen und mit nur einer einzigen Codezeile (dem ORTModule Wrap) im gesamten Trainingsskript.
Durch die Verwendung des ORTModule-Klassenwrappers führt ONNX Runtime den Vorwärts- und Rückwärtsdurchlauf des Trainingsskripts mithilfe eines optimierten, automatisch exportierten ONNX-Berechnungsgraphen aus.
ORT Training Beispiel
In diesem Beispiel erfahren Sie, wie Sie ORT für das Training eines Modells mit PyTorch verwenden.
# Installs the torch_ort and onnxruntime-training Python packages
pip install torch-ort
# Configures onnxruntime-training to work with user's PyTorch installation
python -m torch_ort.configure
Hinweis: Dies installiert die Standardversion der Pakete torch-ort und onnxruntime-training, die spezifischen Versionen von CUDA-Bibliotheken zugeordnet sind. Weitere Informationen finden Sie in den Installationsoptionen unter onnxruntime.ai.
- Fügen Sie ORTModule in
train.pyhinzu
+ from torch_ort import ORTModule
.
.
.
- model = build_model() # Users PyTorch model
+ model = ORTModule(build_model())