
“P800照旧在百度里面得到了充分考证,咱们当今绝大深广的推理任务跑在P800上。”11月13日的百度全国大会上,百度集团引申副总裁、百度智能云行状群总裁沈抖走漏了百度自研芯片在公司里面的欺诈情况,并称改日5年昆仑芯每年都会推出新址品。
P800是百度自研芯片业务昆仑芯的第三代芯片。本年9月,市集有据说称百度已开动使用自主想象的芯片P800覆按新版文心一言(Ernie)AI 模子。在该音讯刺激下,百度股价大涨超10%,创下2024年10月以来新高。但其时百度并未回复。
除了推理任务,沈抖当天还裸露自研芯片在模子覆按方面的领路。他示意,百度照旧基于一个P800的5000卡单一集群,高性价比地覆按出了一个多模态模子;当今覆按集群照旧彭胀到万卡以上,况兼正在覆按更大的模子。
不单百度里面,昆仑芯也在互联网金融、动力制造、交通和素养等行业落地。沈抖先容,昆仑芯已有包括招商银行、南边电网、祯祥汽车、Vivo,以及一家互联网大厂和一家超头部运营商等上百家客户,委用边界从几十卡到万卡以上。
百度自研芯片最早追忆到2011年,其时主若是为了深度学习运算的需要。直到2021年,昆仑芯业务独处为“昆仑芯(北京)科技有限公司”,并完成融资。该公司最新一轮融资于本年7月完成,投资方包括上河动量基金、山证投资、国新老本等,天眼查炫耀百度持股比例为59.45%。
在欺诈方面,本年上半年,百度曾裸露告捷点亮国内自研P800万卡集群,可同期承载多个千亿参数大模子覆按。8月时,基于昆仑芯的AI作事居品中标中国出动十亿级集采神志,为其提供AI通用狡计推理型开导,这亦然国产AI芯片在大型基础枢纽神志中的一次破裂。
百度当天裸露了下一代自研芯片的时刻表。其中,昆仑芯M100 针对大边界推理场景优化想象,将于2026年上市;昆仑芯M300面向超大边界多模态模子的覆按和推理需求,将于2027年上市。
单颗芯片的弘大仅仅一个技艺条目,当今大模子的覆按和推理都是多颗芯片协同使命,尤其在当前流行的MoE架构下,卡和卡之间的通讯量会急剧增多,需要把几十张几百张卡构成一个超节点,让这些卡像一个超等芯片相同概述趋附在一谈,大幅度提高卡间的通讯。但“超节点”有野心熟识AI infra厂商在芯片、内存、通讯、供电、冷却上的全栈协同才气。
当天百度还发布了基于昆仑芯的天池256超节点与天池512超节点,二者将离别在来岁上半年和下半年认真上市。其中对比同等卡数的P800集群,天池256超节点在主流大模子的推理任务上,单卡费解提高朝上3.5倍;单个天池512超节点大略完成万亿参数模子覆按。
此外,据记者了解,基于百度新发布的昆仑芯M系列,百度也在研发千卡级别的超节点。从2027年开动,百度还将不息推出相应的千卡和4000卡的超节点。适度记者发稿,当天百度港股股价涨超1.27%至127.8港元。
举报 第一财经告白调解,请点击这里此本体为第一财经原创,著述权归第一财经扫数。未经第一财经籍面授权,不得以任何步地加以使用,包括转载、摘编、复制或竖立镜像。第一财经保留根究侵权者法律包袱的权益。如需赢得授权请推敲第一财经版权部:banquan@yicai.com 文章作家
刘佳
相干阅读
生成式引擎“杀入”电商,双 11 品牌开抢大模子谈话权品牌在争夺AI“推选位”,大模子也不才场“上都集”.
6 185 昨天 17:21
百度第二次作念AI眼镜,售价朝上2000元巨头们百镜大战,争夺的是下一代东谈主机交互的进口主导权。
458 11-10 19:47
文远、小马世纪妥协:敲钟现场地手手,然后双双破发Robotaxi蛋糕还需进一步作念大。
183 11-06 17:06
AI进化速递 | 马斯克推出AI百科全书Grokipedia百度AI眼镜行将预售;MiniMax发布Hailuo 2.3视频生成模子;马斯克推出AI剪辑的在线百科全书。
89 10-28 20:46
AI周报 | 英伟达中国市集份额从95%降到0% ;OpenAI被曝8亿活跃用户唯有5%付费百度入局AI短剧;寒武纪前三个季度净利润16亿元开yun体育网。
247 10-19 07:58 一财最热 点击关闭