跳转到主要内容
本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑
TorchCompileModel 节点对模型应用 PyTorch 编译以优化其性能。它会创建输入模型的副本,并使用指定的后端将其包装为 PyTorch 的编译功能。这可以提高模型在推理过程中的执行速度。

输入

参数数据类型是否必填范围描述
模型MODEL-需要被编译和优化的模型
后端STRING”inductor"
"cudagraphs”
用于优化的 PyTorch 编译后端(默认值:“inductor”)

输出

输出名称数据类型描述
模型MODEL已应用 PyTorch 编译的编译后模型

Source fingerprint (SHA-256): 923e71b528e6e53468916f74c2a02924bf51738f29e36638312c6da6357fcedb