英伟达近日宣布了一项重要更新，正式推出了专为RTX系列显卡设计的NVIDIA TensorRT for RTX，并且这一创新技术将全面支持Windows 11系统。此次更新意味着GeForce RTX全系列显卡用户将能够享受到TensorRT AI推理加速框架带来的极致性能提升。
据悉，TensorRT for RTX相较于DirectML方案，在AI推理速度上实现了翻倍的提升。这一突破性进展得益于TensorRT原生兼容Windows ML框架的设计，使得其在多种应用场景中均能展现出卓越的性能表现。特别是在ComfyUI应用中，TensorRT的性能表现更是达到了DirectML的两倍，而在其他应用中，性能提升也普遍在1.5至1.7倍之间。
除了显著的性能提升外，TensorRT for RTX还带来了即时GPU专属优化的功能，这一特性使得推理库文件的体积大幅缩减至原有的八分之一，从而进一步提升了系统的整体效率和响应速度。
英伟达在AI领域的布局远不止于此。据官方透露，目前英伟达已经为超过150个AI SDK提供了支持，并且在本月还将推出5个全新的ISV集成，涵盖了从视频处理到设计渲染等多个领域。这些新加入的ISV集成包括LM Studio（CUDA性能提升30%）、Topaz Video AI（GenAI视频加速CUDA）、哔哩哔哩（NVIDIA Broadcast Effects）、AutoDesk VRED (DLSS 4)以及Chaos Enscape (DLSS 4)等。
英伟达方面表示，当前AI PC软件生态中，开发者往往需要在广泛硬件支持与高性能优化之间做出艰难抉择。而全新Windows ML推理框架的推出，通过ONNX Runtime构建，与各硬件厂商优化的AI执行层实现了无缝衔接。特别是对于RTX显卡用户而言，Windows ML会自动调用TensorRT for RTX这一专为高性能快速部署优化的推理库，相较于DirectML，TensorRT能够为PC端AI工作负载提供超过50%的性能提升。
