智快网
快讯 行业 产业 汽车 科技 AI+ 热点

xAI开源3140亿参数大模型Grok-1 科技界掀起新热潮

2024-03-18来源:智快科技编辑:星辉

【智快网】3月18日消息,近日,科技界掀起了一股新的热潮。马斯克旗下的人工智能公司xAI在周日的官方声明中,震撼宣布其大语言模型Grok-1正式开源。此举意味着,公众可以访问github.com/xai-org/grok,按照指引获取并使用该模型的权重和网络架构。

据悉,Grok-1是一款混合专家模型,拥有惊人的3140亿参数,这一数字在目前所有已开源的大语言模型中独占鳌头。如此庞大的参数规模,无疑将为大语言模型领域带来前所未有的变革与突破。

据智快网了解,Grok-1是xAI团队从头开始训练的模型,其预训练阶段已于去年10月圆满完成。此次开源的是预训练结束时的原始基础模型检查点,尚未针对任何具体应用进行微调。这意味着,开发者们可以根据自身需求,对Grok-1进行进一步的定制和优化。

xAI在官网上透露,Grok-1是在海量文本数据上训练的基础模型,其训练过程采用了JAX和Rust编程语言,并借助了团队自定义的训练栈。如今,该模型的权重和架构已按照Apache 2.0开源许可协议公开发布,为全球范围内的研究者和开发者提供了宝贵的资源。

尽管Grok-1的开源时间相较于马斯克在社交媒体上公布的时间有所延迟,但这并未影响其在科技界的热度。事实上,这一开源行动标志着人工智能领域的一大进步,为整个行业注入了新的活力。

关于开源时间的定义,不同国家和地区可能存在差异。然而,按照国际标准化组织ISO 8601的规定,Grok-1的开源时间仍在马斯克所提及的那一周范围内。这一细节虽然引发了部分讨论,但并未影响Grok-1作为一款重要开源大语言模型的地位和影响力。

极氪新发布!纯电MPV MIX 27.99万元起售,市场反响如何?
10月23日消息,极氪旗下纯电MPV极氪MIX车型现已正式发布,该车是极氪首发搭载浩瀚-M架构的车型,整理价格信息如下:智驾版:27.99万元起长续航智驾版:29.99万元起该车提供“极昼白、…

2024-10-23

雅迪新品上市!冠能星舰S80电动摩托仅6399元起
10月23日消息,雅迪冠能星舰S80电动摩托车今晚正式发布上市,性能版6399元,旗舰版10999元。性能版采用了72V38Ah石墨烯电池,1500W功率电机,至高时速55km/h;旗舰版采用了72V…

2024-10-23

极氪携手WAYMO,首款量产无人驾驶汽车即将交付?
10月23日电,记者获悉,极氪CEO安聪慧在极氪MIX发布会上称,极氪联合WAYMO打造的无人驾驶出行机器人将是全世界首款大规模量产交付的原生无人驾驶汽车。(科创板日报)…

2024-10-23

波音250亿美元融资大计获美SEC绿灯,资金难题迎刃而解?
10 月 23 日消息,美国证券交易委员会(SEC)文件显示,波音公司已获准出售价值高达 250 亿美元(备注:当前约1782.37 亿元人民币)的股权和债券,此举可能有助于该飞机制造商抵…

2024-10-23

LG Display 第三季度销售额增42.5%,却陷806亿韩元营业亏损
10 月 23 日消息,LG Display 今日宣布,公司第三季度营业亏损暂定为806 亿韩元(备注:当前约 4.16亿元人民币),较去年同期大幅减少。 LG Display 第三季度销…

2024-10-23