Interface SessionOptions

Eine Reihe von Konfigurationen für das Sitzungsverhalten.

interface SessionOptions {
    enableCpuMemArena?: boolean;
    enableGraphCapture?: boolean;
    enableMemPattern?: boolean;
    enableProfiling?: boolean;
    executionMode?: "sequential" | "parallel";
    executionProviders?: readonly ExecutionProviderConfig[];
    externalData?: readonly ExternalDataFileType[];
    extra?: Record<string, unknown>;
    freeDimensionOverrides?: {
        [dimensionName: string]: number;
    };
    graphOptimizationLevel?: "basic" | "all" | "disabled" | "extended" | "layout";
    interOpNumThreads?: number;
    intraOpNumThreads?: number;
    logId?: string;
    logSeverityLevel?: 0 | 2 | 1 | 3 | 4;
    logVerbosityLevel?: number;
    optimizedModelFilePath?: string;
    preferredOutputLocation?: DataLocation | {
        [outputName: string]: OnnxValueDataLocation;
    };
    profileFilePrefix?: string;
}

Hierarchie (vollständige Ansicht)

Eigenschaften

enableCpuMemArena? enableGraphCapture? enableMemPattern? enableProfiling? executionMode? executionProviders? externalData? extra? freeDimensionOverrides? graphOptimizationLevel? interOpNumThreads? intraOpNumThreads? logId? logSeverityLevel? logVerbosityLevel? optimizedModelFilePath? preferredOutputLocation? profileFilePrefix?

Eigenschaften

Optional enableCpuMemArena

enableCpuMemArena?: boolean

Ob Ob CPU-Speicherarena aktivieren.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Optional enableGraphCapture

enableGraphCapture?: boolean

Ob die Grafikerfassung aktiviert werden soll. Diese Einstellung ist nur im ONNXRuntime Web für WebGPU EP verfügbar.

Optional enableMemPattern

enableMemPattern?: boolean

Ob das Speicheremuster aktiviert werden soll.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Optional enableProfiling

enableProfiling?: boolean

Ob Profiling aktiviert werden soll.

Diese Einstellung ist ein Platzhalter für zukünftige Verwendung.

Optional executionMode

executionMode?: "sequential" | "parallel"

Ausführungsmodus.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Optional executionProviders

executionProviders?: readonly ExecutionProviderConfig[]

Ein Array von Ausführungsoptionen.

Eine Ausführungsoption kann ein String sein, der den Namen des Ausführungsanbieters angibt, oder ein Objekt vom entsprechenden Typ.

Optional externalData

externalData?: readonly ExternalDataFileType[]

Angabe einer Liste von Dateien, die die externen Daten darstellen.

Optional extra

extra?: Record<string, unknown>

Speichert Konfigurationen für eine Sitzung. Siehe https://github.com/microsoft/onnxruntime/blob/main/include/onnxruntime/core/session/ onnxruntime_session_options_config_keys.h

Diese Einstellung ist nur im ONNXRuntime WebAssembly-Backend verfügbar. Unterstützung für Node.js-Bindung und react-native wird später hinzugefügt

Beispiel

extra: {
  session: {
    set_denormal_as_zero: "1",
    disable_prepacking: "1"
  },
  optimization: {
    enable_gelu_approximation: "1"
  }
}

Optional freeDimensionOverrides

freeDimensionOverrides?: {
    [dimensionName: string]: number;
}

Die Übersteuerung der freien Dimension.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Typdeklaration

  • [dimensionName: string]: number

Optional graphOptimizationLevel

graphOptimizationLevel?: "basic" | "all" | "disabled" | "extended" | "layout"

Die Optimierungsstufe.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Optional interOpNumThreads

interOpNumThreads?: number

Die Anzahl der Inter-OP-Threads.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) verfügbar.

Optional intraOpNumThreads

intraOpNumThreads?: number

Die Anzahl der Intra-OP-Threads.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) verfügbar.

Optional logId

logId?: string

Log-ID.

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Optional logSeverityLevel

logSeverityLevel?: 0 | 2 | 1 | 3 | 4

Schweregradstufe des Protokolls. Siehe https://github.com/microsoft/onnxruntime/blob/main/include/onnxruntime/core/common/logging/severity.h

Diese Einstellung ist nur im ONNXRuntime (Node.js-Bindung und react-native) oder im WebAssembly-Backend verfügbar

Optional logVerbosityLevel

logVerbosityLevel?: number

Ausführlichkeitsstufe des Protokolls.

Diese Einstellung ist nur im ONNXRuntime WebAssembly-Backend verfügbar. Unterstützung für Node.js-Bindung und react-native wird später hinzugefügt

Optional optimizedModelFilePath

optimizedModelFilePath?: string

Pfad zur optimierten Modelldatei.

Wenn diese Einstellung angegeben ist, wird das optimierte Modell ausgegeben. Im Browser wird eine Blob-Datei mit einem Pop-up-Fenster erstellt.

Optional preferredOutputLocation

preferredOutputLocation?: DataLocation | {
    [outputName: string]: OnnxValueDataLocation;
}

Geben Sie einen String als bevorzugten Datenspeicherort für alle Ausgaben an oder ein Objekt, das Ausgabennamen als Schlüssel und einen bevorzugten Datenspeicherort als entsprechende Werte verwendet.

Diese Einstellung ist nur im ONNXRuntime Web für WebGL und WebGPU EP verfügbar.

Typdeklaration

Optional profileFilePrefix

profileFilePrefix?: string

Dateipräfix für das Profiling.

Diese Einstellung ist ein Platzhalter für zukünftige Verwendung.

Einstellungen

Mitglieder-Sichtbarkeit

Thema

Auf dieser Seite

Generiert mit TypeDoc