智快网
快讯 行业 产业 汽车 科技 AI+ 热点

英伟达发布DeepSeek R1推理模型,搭载NIM微服务引领AI新潮流

2025-01-31来源:ITBEAR编辑:瑞雪

英伟达近日宣布,其最新推出的DeepSeek-R1模型,在AI推理领域树立了新的标杆。这款开放模型以其卓越的推理能力,为用户提供了前所未有的智能体验。

与传统的AI模型不同,DeepSeek-R1并不直接给出答案,而是通过一系列复杂的推理过程,包括思路链、共识和搜索方法,来生成最佳答案。这一过程被称为测试时间扩展,而DeepSeek-R1正是这一扩展定律的杰出代表。它充分展示了加速计算在AI推理中的关键作用。

由于能够反复思考问题,DeepSeek-R1模型在推理过程中会产生更多的输出标记,并延长生成周期。这种特性使得模型的质量不断提高,为用户提供了更高质量的响应。然而,要实现实时推理和更高质量的响应,需要大量的测试时计算,这也对推理部署的规模提出了更高的要求。

DeepSeek-R1在逻辑推理、数学、编码和语言理解等任务中表现出色,其准确性遥遥领先。同时,它还具备高推理效率,能够在短时间内完成复杂的推理任务。

为了让开发人员能够安全地试验这些功能,并构建自己的专用代理,英伟达将6710亿参数的DeepSeek-R1模型作为NVIDIA NIM微服务预览版在build.nvidia.com上提供。这一举措将极大地促进AI推理技术的发展和应用。

据悉,DeepSeek-R1 NIM微服务在单个NVIDIA HGX H200系统上每秒可处理多达3,872个令牌,性能强劲。开发人员可以通过应用程序编程接口(API)进行测试和试验,这一接口预计很快将作为可下载的NIM微服务提供,成为NVIDIA AI Enterprise软件平台的一部分。

DeepSeek-R1 NIM微服务还支持行业标准API,简化了部署过程。企业可以在其首选的加速计算基础设施上运行NIM微服务,以最大限度地提高安全性和数据隐私。通过使用NVIDIA AI Foundry和NVIDIA NeMo软件,企业还可以为专门的AI代理创建定制的DeepSeek-R1 NIM微服务。

这一创新不仅推动了AI推理技术的发展,也为开发人员和企业提供了更加便捷、高效的AI解决方案。随着DeepSeek-R1的广泛应用,我们有理由相信,未来的AI世界将更加智能、更加美好。

华为Mate X7或本月登场 首发20GB超大内存 配色丰富性能强劲
11月份的机圈将会是华为的主场,不仅新一代的直板旗舰华为Mate80系列会震撼亮相,还会有迭代的大折叠屏手机华为Mate X7发布。@定焦数码爆料,华为Mate X7将会首发定制20GB超大内存,这是华为史…

2025-11-15

安谋科技发布“周易”X3 NPU IP,端侧AI性能飙升助力多领域落地
智东西11月14日消息,昨日,安谋科技正式发布了专为端侧大模型而生的最新一代NPUIP——“周易”X3,其能够与Arm架构CPU、GPU协同,组成基于Arm生态的异构算力解决方案。 新的“周易”X3 NP…

2025-11-14

Steam Frame登场 Valve停产Index VR头显 开启VR新征程
用户可通过无线适配器,将 PC 或 Steam Machine 上的平面屏(flatscreen)及 VR 游戏串流至 SteamFrame;与此同时,Steam Frame 本身也是一款独立设备,搭载高通…

2025-11-14

华为Mate70 Air深度体验:打破常规,超大屏“Air”的另类演绎
可以确定,华为Mate70 Air的影像没有因为“Air”的定义做妥协,在同价位机型中是能打的,硬件配置方面也是这个思路。这也符合华为Mate70 Air的技术路径,虽然重量不可避免地来到208g,但是保…

2025-11-14

欧加9K级大电池定版试产,一加骁龙8系直屏新机测试,中端机竞争升级
IT之家 11 月 14 日消息,博主 @数码闲聊站 今天在微博透露,欧加的 9K 级别大电池现已定版试产。 博主表示,这块电池采用单块4.51V 单电芯设计,额定容量 32.59Wh,额定电池 8760m…

2025-11-14

联发科天玑8系芯片屠榜安卓次旗舰性能榜 性能能效双优成市场新宠
以榜单第一的真我Neo7 SE为例,通过与MTK联发科技的深度联合调校,该机在同价位段中展现出极为出色的游戏性能,搭配真我GT性能引擎,通过芯片级调校,实现了持久稳定的高帧率表现,同时能耗最高可降低7%,帧…

2025-11-14

四名MIT辍学00后,两年打造AI编程神器,估值冲300亿成资本新宠
两年前,在完成种子轮融资后,创始人曾写了这样的期待—— Cursor的诞生,推动了「氛围编程」(vibe coding)在全球兴起。 他还在创纪录的时间内,完成了一份手写编程测试,给早期Facebook投资…

2025-11-14

iPhone 17系列发售不到俩月,中国市场激活量破1000W,双十一销量也亮眼
11月14日,数码博主“数码闲聊站”发文透露iPhone17系列于本周完成中国市场激活1000W+。 iPhone17系列9月19日正式发售,如今距发售不到两个月。 该博主此前曾透露,截至11月2日,iPh…

2025-11-14

荣耀500 Pro配置亮点全揭秘:骁龙8至尊版+2亿主摄+8000mAh长续航
【CNMO科技消息】11月14日,有数码博主曝光了荣耀500Pro的核心参数。CNMO注意到,新机将搭载骁龙8至尊版移动平台,电池容量达到8000mAh,主打2亿像素大底主摄。 除了上述核心亮点外,荣耀50…

2025-11-14

苹果iPhone 17系列发售不到俩月 中国市场激活量或破千万
苹果 iPhone 17 系列于今年 9 月 19 日正式发售,如今还不到两个月。 该博主曾透露,截至 11 月 2 日,苹果 iPhone17 系列国内激活销量超 825 万。具体数据如下: iPho…

2025-11-14