马斯克的大模型Grok,即将推出最新进化版——Grok1.5。而这距离Grok1开源仅仅才过去10天。
马斯克的大模型Grok,即将推出最新进化版——Grok1.5。
而这距离Grok 1 开源仅仅才过去 10 天。
美东时间周五,马斯克宣布,xAI公司最新的Grok-1.5将于下周在他的社交媒体平台X上推出。
他表示,Grok 2 应该在所有指标上都超过当前的 AI,现在正在训练中。
此前一天,xAI宣布Grok-1.5将在未来几天内提供给X上的早期测试人员和现有的Grok用户。
据介绍,Grok-1.5 推理能力大升级,支持128k上下文长度。
其中最显著的改进之一是推理性能大幅提升。它在编码和数学相关任务中的能力全面超越Grok-1、Mistral Large、Claude2。
在测试中,Grok-1.5在数学基准上取得50.6%的得分,在GSM8K基准上获得了90%,这两个数学基准涵盖了从小学到高中的各种竞赛问题。
从数据来看,Grok-1.5在GSM8K上提升到90,MATH上上升到50.6%。
在评估代码生成和解决问题能力的HumanEval基准测试中,Grok-1.5获得了74.1%的高分,超过了Claude 2的70%、Claude 3 Sonnet的73%、Gemini Pro 1.5的71.9%以及GPT-4的67%。
Grok-1.5 的另一个新功能是,能够在其上下文窗口内处理多达 128K token的长上下文。
这使得 Grok 的内存容量增加到以前上下文长度的 16 倍,使其能够利用更长的文档中的信息。
此外,新模型还可以处理更长、更复杂的提示,同时在其上下文窗口扩展时仍保持其指令跟随能力。
在NIAH评估中,Grok-1.5 展示了强大的检索能力,可检索长度达 128K 字节的上下文中的嵌入文本,并取得了完美的检索结果。
xAI 表示,Grok-1.5 构建在基于 JAX、Rust 和 Kubernetes 的自定义分布式训练框架之上。该训练堆栈允许开发团队能够以最小的精力,构建想法原型并大规模训练新架构。
为挑战OpenAI的ChatGPT,马斯克于去年创立了xAI,并在去年底推出第一版聊天机器人Grok1。
本月早些时候,马斯克在起诉OpenAIde 几天后,宣布xAI将开源Grok。
xAI 表示,开源版大模型Grok-1是一个拥有 3140 亿个参数混合专家模型,远超OpenAI GPT-3.5的1750亿。
这也是,目前参数量最大的开源大语言模型。
值得一提的是,距离Grok-1开源不到半个月的时间,马斯克又火速放出进化版Grok-1.5。
这搞大模型的速度,马斯克也是出奇的快啊。
眼下,AI大模型竞赛逐渐白热化,大家伙儿眼看着都“杀红了眼”。
来源:格隆汇
温馨提示:最新动态随时看,请关注金投网APP。
<上一篇 又一个行业被AI颠覆了
下一篇>已是最后一篇
相关推荐
- 商汤-W(00020.HK) 生成式AI业务收入大爆发!追寻港股AI投资机会
- 随着生成式AI业务规模的壮大和商业模式的成熟,商汤宣布聚焦生成式AI业务,并优先于传统AI业务和智能汽车业务——成为集团“核心业务”。商汤财报显示,2023年生成式AI业务收入达12亿元人民币,同比增长超过200%,占总收入比例超过35%,成为公司成长的核心引擎。从0到12亿,这个新业务在短短时间内即成长起来。
- 国内新闻 利率 商业 科学 0
- AI“未来引擎”?量子科技概念火爆,科技角逐的新赛道?
- 作为新一代信息技术重要方向,量子科技正逐渐成为资本市场的新宠。从KIMI概念、低空经济、P70到量子科技,近来关于科技的题材概念甚是火爆。
- 实时热点 科学技术 探索 科学 0
- 估值460亿!“美版贴吧”Reddit今晚登陆纽交所,OpenAI CEO是重要股东
- 美国社交媒体平台Reddit,被称为“美版贴吧”,周四提交了IPO申请。根据披露的财务细节,Reddit计划融资最高7.48亿美元,估值达64亿美元(约合460亿元人民币),并有望在3月21日正式上市。
- 互联网时代 0
- 沾了AI的光?Reddit上市首秀暴涨近50%,OpenAI 奥特曼成大赢家?
- “美国版贴吧”Reddit上市第一天就火爆全场。周四,Reddit盘中一度暴涨近70%,最终收涨48.4%报50.44美元,公司市值超80亿美元。
- 国内新闻 娱乐 0
热点话题
- 中国成单身大国有哪些反思和危害?
- 中国成单身大国有哪些反思和危害?哪怕生活...[详情]
- 霍金再次发出警告 究竟科技和毁灭要怎么看待?
- 霍金再次发出警告究竟科技和毁灭要怎么看待...[详情]
- 一分钟带你看懂美联储加息到底是咋回事!
- 一分钟带你看懂美联储加息到底是咋回事!对...[详情]
- 朋友圈的微商还能盛行多久?
- 朋友圈的微商还能盛行多久?最恨微商的还得...[详情]