Paket ai.onnxruntime

Klasse OrtSession.SessionOptions

  • Alle implementierten Schnittstellen
    java.lang.AutoCloseable
    Umschließende Klasse
    OrtSession
    public static class OrtSession.SessionOptions
extends java.lang.Object
implements java.lang.AutoCloseable
    Repräsentiert die Optionen, die zum Erstellen dieser Sitzung verwendet werden.

    Wird verwendet, um die Anzahl der Threads, das Optimierungslevel, das Rechen-Backend und andere Optionen festzulegen.

    Das Ändern dieser Einstellungen, nachdem die Sitzung erstellt wurde, hat keine Auswirkung.

    Das SessionOptions-Objekt darf erst geschlossen werden, wenn alle Sitzungen, die es verwenden, geschlossen sind, da es andernfalls verwendete Ressourcen freigeben könnte.

    • Konstruktorübersicht

      Konstruktoren 
      Konstruktor Beschreibung
      SessionOptions()
      Erstellt leere Sitzungsoptionen.

    • Zusammenfassung der Methoden

      Alle Methoden Instanzmethoden Konkrete Methoden 
      Modifikator und Typ Methode Beschreibung
      void addACL​(boolean enableFastMath)
      Fügt die ARM Compute Library als Ausführungs-Backend hinzu.
      void addArmNN​(boolean useArena)
      Fügt die ARM Neural Net-Bibliothek als Ausführungs-Backend hinzu.
      void addConfigEntry​(java.lang.String configKey, java.lang.String configValue)
      Fügt einen einzelnen Sitzungskonfigurationseintrag als String-Paar hinzu.
      void addCoreML()
      Fügt Apples CoreML als Ausführungs-Backend hinzu.
      void addCoreML​(java.util.EnumSet<CoreMLFlags> flags)
      Fügt Apples CoreML als Ausführungs-Backend hinzu.
      void addCoreML​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
      Fügt CoreML als Ausführungs-Backend hinzu.
      void addCPU​(boolean useArena)
      Fügt die CPU als Ausführungs-Backend hinzu und verwendet bei Bedarf den Arena-Allokator.
      void addCUDA()
      Fügt CUDA als Ausführungs-Backend hinzu, wobei Gerät 0 verwendet wird.
      void addCUDA​(int deviceNum)
      Fügt CUDA als Ausführungs-Backend hinzu, wobei die angegebene CUDA-Geräte-ID verwendet wird.
      void addCUDA​(OrtCUDAProviderOptions cudaOpts)
      Fügt CUDA als Ausführungs-Backend hinzu, wobei die angegebenen CUDA-Optionen verwendet werden.
      void addDirectML​(int deviceId)
      Fügt DirectML als Ausführungs-Backend hinzu.
      void addDnnl​(boolean useArena)
      Fügt Intels Deep Neural Network Library als Ausführungs-Backend hinzu.
      void addExternalInitializers​(java.util.Map<java.lang.String,​OnnxTensorLike> initializers)
      Fügt die bereitgestellten extern geladenen Initialisierer hinzu.
      void addInitializer​(java.lang.String name, OnnxTensorLike initializer)
      Fügt einen Initialisierer hinzu, um einen aus dem ONNX-Modell zu überschreiben.
      void addNnapi()
      Fügt Androids NNAPI als Ausführungs-Backend hinzu.
      void addNnapi​(java.util.EnumSet<NNAPIFlags> flags)
      Fügt Androids NNAPI als Ausführungs-Backend hinzu.
      void addOpenVINO​(java.lang.String deviceId)
      Fügt OpenVINO als Ausführungs-Backend hinzu.
      void addQnn​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
      Fügt QNN als Ausführungs-Backend hinzu.
      void addROCM()
      Fügt ROCM als Ausführungs-Backend hinzu, wobei Gerät 0 verwendet wird.
      void addROCM​(int deviceNum)
      Fügt ROCM als Ausführungs-Backend hinzu, wobei die angegebene ROCM-Geräte-ID verwendet wird.
      void addTensorrt​(int deviceNum)
      Fügt Nvidias TensorRT als Ausführungs-Backend hinzu.
      void addTensorrt​(OrtTensorRTProviderOptions tensorRTOpts)
      Fügt Nvidias TensorRT als Ausführungs-Backend hinzu.
      void addTvm​(java.lang.String settings)
      Fügt TVM als Ausführungs-Backend hinzu.
      void addWebGPU​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
      Fügt WebGPU als Ausführungs-Backend hinzu.
      void addXnnpack​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
      Fügt XNNPACK als Ausführungs-Backend hinzu.
      void close()
      Schließt die Sitzungsoptionen und gibt allenfalls erworbenen Speicher frei.
      void disablePerSessionThreads()
      Deaktiviert die Thread-Pools pro Sitzung.
      void disableProfiling()
      Deaktiviert das Profiling in Sitzungen, die diese SessionOptions verwenden.
      void enableProfiling​(java.lang.String filePath)
      Aktiviert das Profiling in Sitzungen, die diese SessionOptions verwenden.
      java.util.Map<java.lang.String,​java.lang.String> getConfigEntries()
      Gibt eine unveränderliche Ansicht der Map mit allen Sitzungskonfigurationseinträgen zurück.
      void registerCustomOpLibrary​(java.lang.String path)
      Registriert eine Bibliothek von benutzerdefinierten Operatoren zur Verwendung mit OrtSessions, die diese SessionOptions verwenden.
      void registerCustomOpsUsingFunction​(java.lang.String registrationFuncName)
      Registriert benutzerdefinierte Operatoren zur Verwendung mit OrtSessions, die diese SessionOptions verwenden, indem die angegebene native Funktionsname aufgerufen wird.
      void setCPUArenaAllocator​(boolean useArena)
      Legt fest, dass die CPU einen Arena-Speicherallokator verwendet.
      void setDeterministicCompute​(boolean value)
      Legt fest, ob deterministische Berechnungen verwendet werden sollen.
      void setExecutionMode​(OrtSession.SessionOptions.ExecutionMode mode)
      Legt den Ausführungsmodus dieses Options-Objekts fest und überschreibt die alte Einstellung.
      void setInterOpNumThreads​(int numThreads)
      Legt die Größe des CPU-Thread-Pools fest, der für die gleichzeitige Ausführung mehrerer Anfragen verwendet wird, wenn auf einer CPU ausgeführt wird.
      void setIntraOpNumThreads​(int numThreads)
      Legt die Größe des CPU-Thread-Pools fest, der für die Ausführung eines einzelnen Graphen verwendet wird, wenn auf einer CPU ausgeführt wird.
      void setLoggerId​(java.lang.String loggerId)
      Legt die zu verwendende Logger-ID fest.
      void setMemoryPatternOptimization​(boolean memoryPatternOptimization)
      Aktiviert Speicher-Muster-Optimierungen, bei denen Speicher vorab zugewiesen wird, wenn alle Formen bekannt sind.
      void setOptimizationLevel​(OrtSession.SessionOptions.OptLevel level)
      Legt das Optimierungslevel dieses Options-Objekts fest und überschreibt die alte Einstellung.
      void setOptimizedModelFilePath​(java.lang.String outputPath)
      Legt den Ausgabepfad für das optimierte Modell fest.
      void setSessionLogLevel​(OrtLoggingLevel logLevel)
      Legt das Logging-Level der Sitzung fest.
      void setSessionLogVerbosityLevel​(int logLevel)
      Legt die Detailgenauigkeit des Session-Loggings fest.
      void setSymbolicDimensionValue​(java.lang.String dimensionName, long dimensionValue)
      Legt den Wert einer symbolischen Dimension fest.

      • Methoden geerbt von Klasse java.lang.Object

        clone, equals, finalize, getClass, hashCode, notify, notifyAll, toString, wait, wait, wait

    • Konstruktor-Detail

      • SessionOptions

        public SessionOptions()
        Erstellt leere Sitzungsoptionen.

    • Detail der Methoden

      • close

        public void close()
        Schließt die Sitzungsoptionen und gibt allenfalls erworbenen Speicher frei.
        Spezifiziert von
        close in Schnittstelle java.lang.AutoCloseable

      • setExecutionMode

        public void setExecutionMode​(OrtSession.SessionOptions.ExecutionMode mode)
                      throws OrtException
        Legt den Ausführungsmodus dieses Options-Objekts fest und überschreibt die alte Einstellung.
        Parameter
        mode - Der zu verwendende Ausführungsmodus.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setOptimizationLevel

        public void setOptimizationLevel​(OrtSession.SessionOptions.OptLevel level)
                          throws OrtException
        Legt das Optimierungslevel dieses Options-Objekts fest und überschreibt die alte Einstellung.
        Parameter
        level - Das zu verwendende Optimierungslevel.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setInterOpNumThreads

        public void setInterOpNumThreads​(int numThreads)
                          throws OrtException
        Legt die Größe des CPU-Thread-Pools fest, der für die gleichzeitige Ausführung mehrerer Anfragen verwendet wird, wenn auf einer CPU ausgeführt wird.
        Parameter
        numThreads - Die Anzahl der zu verwendenden Threads.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setIntraOpNumThreads

        public void setIntraOpNumThreads​(int numThreads)
                          throws OrtException
        Legt die Größe des CPU-Thread-Pools fest, der für die Ausführung eines einzelnen Graphen verwendet wird, wenn auf einer CPU ausgeführt wird.
        Parameter
        numThreads - Die Anzahl der zu verwendenden Threads.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setOptimizedModelFilePath

        public void setOptimizedModelFilePath​(java.lang.String outputPath)
                               throws OrtException
        Legt den Ausgabepfad für das optimierte Modell fest.
        Parameter
        outputPath - Der Ausgabepfad, in den das Modell geschrieben werden soll.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setLoggerId

        public void setLoggerId​(java.lang.String loggerId)
                 throws OrtException
        Legt die zu verwendende Logger-ID fest.
        Parameter
        loggerId - Der Logger-ID-String.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • enableProfiling

        public void enableProfiling​(java.lang.String filePath)
                     throws OrtException
        Aktiviert das Profiling in Sitzungen, die diese SessionOptions verwenden.
        Parameter
        filePath - Die Datei, in die Profilinformationen geschrieben werden sollen.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • disableProfiling

        public void disableProfiling()
                      throws OrtException
        Deaktiviert das Profiling in Sitzungen, die diese SessionOptions verwenden.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setMemoryPatternOptimization

        public void setMemoryPatternOptimization​(boolean memoryPatternOptimization)
                                  throws OrtException
        Aktiviert Speicher-Muster-Optimierungen, bei denen Speicher vorab zugewiesen wird, wenn alle Formen bekannt sind.
        Parameter
        memoryPatternOptimization - Wenn true, werden Speicher-Muster-Optimierungen aktiviert.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setCPUArenaAllocator

        public void setCPUArenaAllocator​(boolean useArena)
                          throws OrtException
        Legt fest, dass die CPU einen Arena-Speicherallokator verwendet.
        Parameter
        useArena - Wenn true, wird ein Arena-Speicherallokator für den CPU-Ausführungsanbieter verwendet.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setSessionLogLevel

        public void setSessionLogLevel​(OrtLoggingLevel logLevel)
                        throws OrtException
        Legt das Logging-Level der Sitzung fest.
        Parameter
        logLevel - Das zu verwendende Logging-Level.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setSessionLogVerbosityLevel

        public void setSessionLogVerbosityLevel​(int logLevel)
                                 throws OrtException
        Legt die Detailgenauigkeit des Session-Loggings fest.
        Parameter
        logLevel - Die zu verwendende Logging-Detailgenauigkeit.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • registerCustomOpLibrary

        public void registerCustomOpLibrary​(java.lang.String path)
                             throws OrtException
        Registriert eine Bibliothek von benutzerdefinierten Operatoren zur Verwendung mit OrtSessions, die diese SessionOptions verwenden.
        Parameter
        path - Der Pfad zur Bibliothek auf der Festplatte.
        Wirft
        OrtException - Wenn beim Laden der Bibliothek ein Fehler aufgetreten ist.

      • registerCustomOpsUsingFunction

        public void registerCustomOpsUsingFunction​(java.lang.String registrationFuncName)
                                    throws OrtException
        Registriert benutzerdefinierte Operatoren zur Verwendung mit OrtSessions, die diese SessionOptions verwenden, indem die angegebene native Funktionsname aufgerufen wird. Die Bibliothek mit benutzerdefinierten Operatoren muss entweder gelinkt sein oder zuvor vom Benutzer geladen worden sein.

        Die Registrierungsfunktion muss die folgende Signatur haben:

         OrtStatus* (*fn)(OrtSessionOptions* options, const OrtApiBase* api);

        Weitere Informationen zu benutzerdefinierten Operatoren finden Sie unter https://onnxruntime.de/docs/reference/operators/add-custom-op.html. Ein Beispiel für eine Registrierungsfunktion für benutzerdefinierte Operatoren finden Sie unter https://github.com/microsoft/onnxruntime/blob/342a5bf2b756d1a1fc6fdc582cfeac15182632fe/onnxruntime/test/testdata/custom_op_library/custom_op_library.cc#L115.

        Parameter
        registrationFuncName - Der Name der aufzurufenden Registrierungsfunktion.
        Wirft
        OrtException - Wenn die Registrierungsfunktion nicht gefunden oder aufgerufen werden konnte.

      • setSymbolicDimensionValue

        public void setSymbolicDimensionValue​(java.lang.String dimensionName,
                                      long dimensionValue)
                               throws OrtException
        Legt den Wert einer symbolischen Dimension fest. Berechnungen mit festen Dimensionen können stärker optimiert werden.
        Parameter
        dimensionName - Der Name der symbolischen Dimension.
        dimensionValue - Der Wert, der für diese Dimension festgelegt werden soll.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • setDeterministicCompute

        public void setDeterministicCompute​(boolean value)
                             throws OrtException
        Legt fest, ob deterministische Berechnungen verwendet werden sollen.

        Standard ist false. Wenn auf true gesetzt, werden deterministische Berechnungen für GPU-Kernel, wo möglich, aktiviert. Beachten Sie, dass dies wahrscheinlich einen Leistungseinbruch zur Folge hat.

        Parameter
        value - Soll die Berechnung deterministisch sein?
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • disablePerSessionThreads

        public void disablePerSessionThreads()
                              throws OrtException
        Deaktiviert die Thread-Pools pro Sitzung. Muss in Verbindung mit einer Umgebung mit globalen Thread-Pools verwendet werden.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addConfigEntry

        public void addConfigEntry​(java.lang.String configKey,
                           java.lang.String configValue)
                    throws OrtException
        Fügt einen einzelnen Sitzungskonfigurationseintrag als String-Paar hinzu.
        Parameter
        configKey - Der Konfigurationsschlüssel-String.
        configValue - Der Konfigurationswert-String.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • getConfigEntries

        public java.util.Map<java.lang.String,​java.lang.String> getConfigEntries()
        Gibt eine unveränderliche Ansicht der Map mit allen Sitzungskonfigurationseinträgen zurück.
        Rückgabe
        Alle Sitzungskonfigurationseinträge

      • addExternalInitializers

        public void addExternalInitializers​(java.util.Map<java.lang.String,​OnnxTensorLike> initializers)
                             throws OrtException
        Fügt die bereitgestellten extern geladenen Initialisierer hinzu.

        Beachten Sie, dass die Initialisierer in die Sitzung kopiert werden, sobald diese erstellt wurde, und die nativen Referenzen aus diesen SessionOptions entfernt werden. Sobald die Sitzung erstellt wurde, können diese Initialisierer geschlossen werden. Dies ist eine andere Lebensdauer als bei Initialisierern, die über addInitializer(String, OnnxTensorLike) hinzugefügt wurden. Die Initialisierer müssen aus Buffer-Objekten erstellt werden.

        Parameter
        initializers - Die Map von Namen zu Initialisierern.
        Wirft
        OrtException - Wenn die Initialisierer nicht geladen werden konnten.

      • addInitializer

        public void addInitializer​(java.lang.String name,
                           OnnxTensorLike initializer)
                    throws OrtException
        Fügt einen Initialisierer hinzu, um einen aus dem ONNX-Modell zu überschreiben.

        Beachten Sie, dass die Lebensdauer des Initialisierers die Sitzung und die Sitzungsoptionen überdauern muss. Dies ist eine andere Lebensdauer als bei Initialisierern, die über addExternalInitializers(Map) hinzugefügt wurden. Die Initialisierer müssen aus Buffer-Objekten erstellt werden.

        Parameter
        name - Der Name des Initialisierers.
        initializer - Der Wert des Initialisierers.
        Wirft
        OrtException - Wenn der Initialisierer nicht in die Sitzungsoptionen geladen werden konnte.

      • addCUDA

        public void addCUDA()
             throws OrtException
        Fügt CUDA als Ausführungs-Backend hinzu, wobei Gerät 0 verwendet wird.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addCUDA

        public void addCUDA​(int deviceNum)
             throws OrtException
        Fügt CUDA als Ausführungs-Backend hinzu, wobei die angegebene CUDA-Geräte-ID verwendet wird.
        Parameter
        deviceNum - Die CUDA-Geräte-ID.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addCUDA

        public void addCUDA​(OrtCUDAProviderOptions cudaOpts)
             throws OrtException
        Fügt CUDA als Ausführungs-Backend hinzu, wobei die angegebenen CUDA-Optionen verwendet werden.
        Parameter
        cudaOpts - Die Optionen für den CUDA-Ausführungsanbieter.
        Wirft
        OrtException - Wenn im nativen Code ein Fehler aufgetreten ist.

      • addROCM

        public void addROCM()
             throws OrtException
        Fügt ROCM als Ausführungs-Backend hinzu, wobei Gerät 0 verwendet wird.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addROCM

        public void addROCM​(int deviceNum)
             throws OrtException
        Fügt ROCM als Ausführungs-Backend hinzu, wobei die angegebene ROCM-Geräte-ID verwendet wird.
        Parameter
        deviceNum - Die ROCM-Geräte-ID.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addCPU

        public void addCPU​(boolean useArena)
            throws OrtException
        Fügt die CPU als Ausführungs-Backend hinzu und verwendet bei Bedarf den Arena-Allokator.

        Dieses Backend wird standardmäßig verwendet, aber wenn andere Backends angefordert werden, sollte es zuletzt angefordert werden.

        Parameter
        useArena - Wenn true, wird der Arena-Speicherallokator verwendet.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addDnnl

        public void addDnnl​(boolean useArena)
             throws OrtException
        Fügt Intels Deep Neural Network Library als Ausführungs-Backend hinzu.
        Parameter
        useArena - Wenn true, wird der Arena-Speicherallokator verwendet.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addOpenVINO

        public void addOpenVINO​(java.lang.String deviceId)
                 throws OrtException
        Fügt OpenVINO als Ausführungs-Backend hinzu.
        Parameter
        deviceId - Die ID des OpenVINO-Ausführungsgeräts.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addTensorrt

        public void addTensorrt​(int deviceNum)
                 throws OrtException
        Fügt Nvidias TensorRT als Ausführungs-Backend hinzu.
        Parameter
        deviceNum - Die ID des CUDA-Geräts.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addTensorrt

        public void addTensorrt​(OrtTensorRTProviderOptions tensorRTOpts)
                 throws OrtException
        Fügt Nvidias TensorRT als Ausführungs-Backend hinzu.
        Parameter
        tensorRTOpts - Die Konfigurationsparameter für TensorRT.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addNnapi

        public void addNnapi()
              throws OrtException
        Fügt Androids NNAPI als Ausführungs-Backend hinzu. Verwendet die standardmäßige leere Flagge.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addNnapi

        public void addNnapi​(java.util.EnumSet<NNAPIFlags> flags)
              throws OrtException
        Fügt Androids NNAPI als Ausführungs-Backend hinzu.
        Parameter
        flags - Die Flags, die die NNAPI-Konfiguration steuern.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addTvm

        public void addTvm​(java.lang.String settings)
            throws OrtException
        Fügt TVM als Ausführungs-Backend hinzu.
        Parameter
        settings - Siehe die Dokumentation für gültige Einstellungs-Strings.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addDirectML

        public void addDirectML​(int deviceId)
                 throws OrtException
        Fügt DirectML als Ausführungs-Backend hinzu.
        Parameter
        deviceId - Die ID des DirectML-Geräts.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addACL

        public void addACL​(boolean enableFastMath)
            throws OrtException
        Fügt die ARM Compute Library als Ausführungs-Backend hinzu.
        Parameter
        enableFastMath - Aktiviert den Fast-Math-Modus in ACL.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addArmNN

        public void addArmNN​(boolean useArena)
              throws OrtException
        Fügt die ARM Neural Net-Bibliothek als Ausführungs-Backend hinzu.
        Parameter
        useArena - Wenn true, wird der Arena-Speicherallokator verwendet.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addCoreML

        public void addCoreML()
               throws OrtException
        Fügt Apples CoreML als Ausführungs-Backend hinzu. Verwendet die standardmäßige leere Flagge.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addCoreML

        public void addCoreML​(java.util.EnumSet<CoreMLFlags> flags)
               throws OrtException
        Fügt Apples CoreML als Ausführungs-Backend hinzu.
        Parameter
        flags - Die Flags, die die CoreML-Konfiguration steuern.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addXnnpack

        public void addXnnpack​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
                throws OrtException
        Fügt XNNPACK als Ausführungs-Backend hinzu.
        Parameter
        providerOptions - Konfigurationsoptionen für das XNNPACK-Backend. Siehe die Dokumentation des XNNPACK-Ausführungsanbieters.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addQnn

        public void addQnn​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
            throws OrtException
        Fügt QNN als Ausführungs-Backend hinzu.
        Parameter
        providerOptions - Konfigurationsoptionen für das QNN-Backend. Siehe die Dokumentation des QNN-Ausführungsanbieters.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addCoreML

        public void addCoreML​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
               throws OrtException
        Fügt CoreML als Ausführungs-Backend hinzu.
        Parameter
        providerOptions - Konfigurationsoptionen für das CoreML-Backend. Siehe die Dokumentation des CoreML-Ausführungsanbieters.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.

      • addWebGPU

        public void addWebGPU​(java.util.Map<java.lang.String,​java.lang.String> providerOptions)
               throws OrtException
        Fügt WebGPU als Ausführungs-Backend hinzu.
        Parameter
        providerOptions - Konfigurationsoptionen für das WebGPU-Backend. Siehe die Dokumentation des WebGPU-Ausführungsanbieters.
        Wirft
        OrtException - Wenn ein Fehler im nativen Code aufgetreten ist.