智快网
快讯 行业 产业 汽车 科技 AI+ 热点

OpenAI借GPT-5.6 Sol优化推理链路,GPU利用效率提升且服务成本降20%

2026-07-30来源:快讯编辑:瑞雪

OpenAI公司近日宣布,通过引入GPT-5.6 Sol模型对其旗舰AI模型系列进行优化,成功将端到端服务成本降低最高达20%。这一突破源于对模型推理链路的系统性改进,核心在于利用AI技术实现自我优化。

作为7月9日发布的最新力作,GPT-5.6系列在架构优化过程中展现出独特优势。研发团队通过部署GPT-5.6 Sol模型,构建了智能化的资源调度系统。该系统能够根据地理区域、硬件类型和实时负载动态分配计算任务,在集群层面综合考虑上下文长度、缓存状态等20余项参数,确保资源利用率最大化。

在底层优化层面,GPT-5.6 Sol展现出强大的代码生成能力。通过深度学习Triton和Gluon两种专用编程语言,该模型能够自主分析生产环境中的GPU内核代码,识别出可预计算、可并行化的计算模块。技术团队透露,优化后的内核代码在保持原有精度的前提下,使单个token的生成能耗降低18%。

针对推理过程中的计算瓶颈,OpenAI创新性地应用了推测性解码技术。该技术采用双模型架构:由轻量级草稿模型先行预测候选token,再交由主模型进行验证修正。经过GPT-5.6 Sol的专项优化,这种协作机制使token生成效率提升超过15%,特别在长文本处理场景中表现尤为突出。

为确保优化效果的可验证性,研发团队引入开源工具FpSan进行浮点运算校验。该工具能够精确检测GPU内核代码中的数值误差,将计算精度控制在10^-6量级。OpenAI公布的测试数据显示,经过三轮迭代优化后,模型推理阶段的资源浪费率从12%降至3%以下。

此次技术升级标志着AI模型开发进入自优化新阶段。通过让模型参与自身架构的优化过程,OpenAI不仅突破了传统手动调优的效率瓶颈,更为大规模AI部署提供了可复制的技术路径。据内部文档显示,相关优化方案已通过开源协议向学术界开放,预计将推动整个行业降低30%以上的推理成本。

字节跳动启动AI业务组织调整 整合飞书等资源成立新团队与服务平台
观点网讯:7月30日,字节跳动启动面向AI业务的组织调整,加强豆包、飞书、火山引擎在企业生产力场景的产品与服务协同。 根据调整方案,飞书产品团队与豆包产品团队将整合,成立新的豆包产品团队,由豆包负责人赵祺负…

2026-07-30

OpenAI借GPT-5.6 Sol优化推理链路,GPU利用效率提升且服务成本降20%
IT之家 7 月 30 日消息,OpenAI 公司昨日(7 月 29 日)发布博文,宣布通过 GPT-5.6 Sol 模型,来优化GPT-5.6 系列模型本身 AI 推理链路,端到端服务成本最多降低 20%…

2026-07-30

Meta扎克伯格展望:五年内全球数十亿人或配备专属个人AI智能体
IT之家 7 月 30 日消息,据外媒 TechCrunch 今天(30 日)报道,Meta 创始人兼 CEO 马克 ·扎克伯格正在向投资者描绘一幅未来图景:五年后,全球将有数十亿人拥有专属的个人 AI 智…

2026-07-30

三星T7 microSD TF卡:大容量高性能,全场景通用扩容的可靠之选
容量方面,三星 T7 microSD TF 卡提供了 128GB、256GB、512GB 和 1TB 四种版本,不同用户可以根据自己的使用需求选择合适的规格。综合容量上限、读写性能、全设备兼容、耐用质保等多…

2026-07-30

宇树科技产能扩张进行时:2026年出货或翻倍,海外布局与市场拓展齐推进
宇树科技亚太及其他地区总监 Irving Chen 预计,公司 2026 年机器人出货量将至少翻倍,最高可能接近 2025 年的三倍;2025年出货量超过 6500 台。 Irving Chen 预计,工…

2026-07-30

华为MateBook Pro S 8月5日发布,轻至798g,时尚配色与强劲配置助力高效办公
PChome 7月29日消息,华为官微官宣,华为MateBook Pro S定档8月5日,重量仅798g,是华为史上最轻的笔记本电脑。据华为官方介绍,MateBook Pro S将提供多种时尚配色,例如全新…

2026-07-30

华为9月双箭齐发!三折叠新机与Mate 90系列同台,高端市场激战将至
目前市场上能量产三折叠手机的厂商仅有华为与三星,而三星暂无9月发布新品的计划,由此确认,华为新一代三折叠新机与Mate90系列,将集中在9月登场,恰逢苹果秋季新品发布会周期,两大高端品牌将迎来正面交锋。 …

2026-07-30