开云kaiyun官方网站透顶科罚了GPU的“内存墙”问题-kai云体育网页app登陆入口2026(官方)APP下载IOS/Android通用版/手机app

文 | 下海fallsea,作家 | 胡不知
2025年12月24日,吉利夜的硅谷莫得原谅。当大大王人东说念主千里浸在节日氛围中时,AI算力圈传来一则足以改写行业风景的音书:文牍以200亿好意思元现款,与曾喊出“终结GPU霸权”的AI芯片初创公司Groq达成技巧许可契约。
更耐东说念主寻味的是交游的迥殊结构:这不是一次厚爱收购,Groq将陆续寥寂运营,但首创东说念主Jonathan Ross、总裁Sunny Madra等中枢团队成员沿途加入英伟达;英伟达赢得Groq简直统统中枢技巧资产,仅废除GroqCloud云计较业务。200亿好意思元的对价,是Groq三个月前69亿好意思元估值的2.9倍,这种“估值倒挂”的技巧许可,在科技行业史上极为荒僻。
“这不是收购,却胜似收购。”伯恩斯坦分析师Stacy Rasgon钩玄摘要隘指出,“本体是英伟达用财富换时候,把最危机的颠覆者变成我方东说念主,同期逃匿反把持审查的障眼法。”
这场交游的背后,是AI产业的历史性转机——从联结式模子测验,全面迈入范围化推理落地的新阶段。推理市集正以年复合增长率65%的速率彭胀,预测2025年范围突破400亿好意思元,2028年更是将达到1500亿好意思元。而英伟达的GPU霸权,在推理赛说念正碰到前所未有的挑战:谷歌TPU凭借成本上风抢食大客户,AMD MI300X拿下微软40亿好意思元订单,中国的华为昇腾在原土市集份额已飙升至28%。
曾被视为“GPU终结者”的Groq,为何最终遴荐与英伟达联手?200亿好意思元的天价交游,能否帮英伟达守住算力王座?这场“招抚”背后,更折射出AI芯片行业创新者的集体逆境:当技巧颠覆者撞上巨头的生态壁垒,除了被收购,是否还有第二条生路?
颠覆者Groq
Groq的出生,从一运行就带着“挑战泰斗”的基因。2016年,谷歌TPU中枢开发者Jonathan Ross带着团队7名中枢成员集体出走,创立了Groq。这位高中辍学的技巧天才,在谷歌期间深度参与了AlphaGo等要紧AI名堂,亲目击证了传统GPU在AI推理场景的致命短板——高延长、古板效、数据传输瓶颈。
“GPU的架构从根源上就不相宜推理任务。”Ross在2023年的行业峰会上直言,“它就像一个全能的瑞士军刀,什么王人能作念,但在需要精确、高效的推理场景里,终结低得惊东说念主。”带着这种领路,Ross团队激越打造一款专为推理优化的专用芯片,这等于自后的LPU(说话处理单位)。
Groq的LPU,本体上是对AI芯片架构的一次重构。与英伟达GPU的“轮毂放射”架构不同,LPU继承了独到的“可编程活水线”盘算——数据像在传送带上一样,按序经过各个处理单位,全程无冗余传输,透顶科罚了GPU的“内存墙”问题。
这种架构带来了三个改进性上风:一是极致的低延长,首token反当令候仅0.22秒,在及时对话、自动驾驶等场景中,比GPU快5-18倍;二是超高能效比,功耗仅300-500W,是英伟达H100(700W)的三分之二,能效比更是GPU的10倍以上;三是笃定性计较,每个实验格式王人能精确到时钟周期,这对企业级AI应用的褂讪性至关重要。
最要害的是内存盘算。LPU集成了数百MB的SRAM当作主权重存储,而非GPU的片外HBM内存,内存带宽高达80TB/s,是HBM的10倍。在处理Llama 2-70B这类大模子时,LPU的迷糊量能达到241 tokens/秒,是其他云就业商的2倍以上。寥寂测试数据炫耀,在换取推理任务下,Groq的科罚决策能将算力成本缩小至GPU的三分之一。
颠覆性的技巧让Groq成为成本的骄子。从2017年首轮1000万好意思元融资,到2021年C轮融资后估值突破10亿好意思元成为独角兽,再到2025年9月E轮融资后估值飙升至69亿好意思元,Groq的估值在短短一年间(2024年8月-2025年9月)暴涨146%,累计融资超30亿好意思元。
市集层面,Groq也快速大开地点。它不仅就业了超越200万开发者,还拿下了多个分量级客户:与Meta阿谀运行Llama 3.1大说话模子,与沙特阿好意思达成15亿好意思元契约建设环球最大AI推理数据中心,成为加拿大贝尔主权AI收罗的独家推理提供商。在部分细分场景,Groq依然运行替代GPU——比如在及时客服、智能驾驶感知等对延长敏锐的范围,多家企业反馈“切换到Groq后,用户体验和运营成本王人有质的提高”。
但Groq的崛肇长久面对一个致命短板:生态壁垒。英伟达的霸权从来不是靠硬件算力,而是靠历经二十余年打造的CUDA生态——环球2000万开发者、10万+应用、简直统统主流AI框架,王人深度绑定CUDA。企业要切换到Groq的LPU,需要重构70%以上的推理代码,时候和东说念主力成本高到难以承受。2024年,Groq曾试图深化与Meta的阿谀,但最终因“适配成本过高”不证据之——Meta的LLaMA模子深度依赖CUDA,切换到LPU需要6个月的开发时候,而Meta压根等不起。
这等于Groq的悖论:有颠覆GPU的技巧,却莫得轻视CUDA生态的才调。这种逆境,亦然统统AI芯片初创公司的共同桎梏。
英伟达的霸权恐忧
对英伟达而言,2025年是要害的转机点。尽管公司股价年内累计涨幅超35%,死心2025年10月执有现款及短期投资达606亿好意思元,但荫藏在光鲜数据背后的,是日益加重的竞争压力。尤其是在推理市集,英伟达的GPU霸权正在被多方蚕食。
谷歌TPU是英伟达最径直的阻止。当作Groq首创东说念主Ross的老东家,谷歌在AI推理范围的布局更早、更深。2025年推出的TPU v7“Ironwood”,性能接近英伟达Blackwell架构,更要害的是,谷歌凭借自研芯片+云就业的一体化上风,能提供30%-40%的成本上风。
更让英伟达焦炙的是,谷歌TPU正在从私用走向对外售售。Apple、Anthropic等巨头依然运行用TPU测验大模子,部分云就业商也运行采购TPU替代GPU。“谷歌的策略很明确,用成本上风抢食对价钱敏锐的推理市集,缓缓瓦解英伟达的客户基础。”业内分析师指出。
AMD的崛起则从中端市集撕开了口子。2025年,AMD MI300X赢得微软Azure 40亿好意思元订单,市集份额从2024年的10%提高至15%,预测全年AI芯片营收将超50亿好意思元,同比增长120%。AMD的上风在于兼容性——MI300X能兼容CUDA生态,企业切换成本极低,同期价钱比同性能GPU低20%-30%。
除了微软,AMD还拿下了亚马逊、谷歌等云就业商的部分订单。“客户王人在搞‘去英伟达依赖’,即使不全面替代,也会采购AMD芯片当作备份,这自己就分流了英伟达的市集份额。”一位云就业商里面东说念主士显现。
在中国市集,英伟达的处境更为力图。受出口赓续影响,英伟达的高端芯片无法进入中国,而华为昇腾趁便崛起,市集份额从2023年的15%飙升至2025年的28%,超越AMD成为中国市集第二,英伟达的份额则从70%暴跌至54%。
更要害的是,中国市集变成了“大厂自研+芯云一体”的独到模式。华为、百度、阿里等巨头王人在自研AI芯片,优先欢畅自身云业务和AI应用需求,简直不采购国产初创公司的芯片,更遑论英伟达。这种模式进一步挤压了英伟达的生活空间,也让中国成为环球AI芯片竞争的“寥寂战场”。
除了竞争压力,英伟达GPU自己在推理场景也存在天生短板。跟着AI应用从实验室走向产业,低延长、高能效、低成本成为中枢需求——自动驾驶需要毫秒级的及时感知,智能客服需要即时的对话反应,工业质检需要边际端的低功耗推理,这些场景王人不是GPU的强劲。
“GPU是为测验而生的通用计较芯片,推理仅仅‘副业’。”行业众人讲授,“测验追求极致算力,不在乎成本和延长;但推理追求终结,每一分红本、每一毫秒延长王人影响营业价值。英伟达要守住推理市集,必须补全低延长、高能效的短板。”
而Groq的LPU,正值精确射中了这些痛点。这亦然英伟达懒散花200亿好意思元“招抚”Groq的中枢原因——与其让Groq成为竞争敌手的“火器”,不如将其纳入我方的体系,补全推理端的技巧短板。
200亿好意思元的“障眼法”与确切图谋
这场被包装成“技巧许可契约”的交游,实则是英伟达全心盘算的“变相收购”。200亿好意思元的天价,买的不仅仅Groq的技巧,更是中枢东说念主才、市集渠说念,以及逃匿反把持审查的“安全通行证”。
证据官方公告,这是一项“非独家技巧许可契约”,Groq将陆续寥寂运营。但深入分析会发现,这仅仅逃匿反把持审查的“障眼法”。起首,Groq的中枢资产简直沿途转让——技巧专利、研发团队、客户资源王人归英伟达统统,仅保留GroqCloud业务;其次,灵魂东说念主物Jonathan Ross及中枢团队沿途加入英伟达,失去中枢东说念主才的Groq,寥寂运营的趣味已大打扣头。
“如若是厚爱收购,势必会触发严格的反把持探望。”伯恩斯坦分析师Stacy Rasgon指出,“用技巧许可的表情,既能拿到中枢资产和东说念主才,又能保管‘竞争存在’的名义假象,这是连年来科技巨头的常用技能。”微软、谷歌等公司王人曾用雷同模式吸纳初创企业的中枢资产,逃匿监管风险。
200亿好意思元的对价,是Groq面前69亿好意思元估值的2.9倍,看似天价,实则合理。对英伟达而言,这200亿好意思元买的是三个“笃定性”:一是补全推理端技巧短板的笃定性,幸免自主研发的时候成本和失败风险;二是抛弃潜在竞争敌手的笃定性,将Groq这个“阻止”转动为我方的上风;三是安然生态壁垒的笃定性,将LPU技巧融入CUDA生态,进一步提高客户切换成本。
从财务角度看,200亿好意思元对英伟达而言压力不大。死心2025年10月,英伟达执有现款及短期投资达606亿好意思元,200亿好意思元仅占33%。更重要的是,这笔投资的潜在收益重大——如若Groq的技巧能匡助英伟达在推理市集保管70%以上的份额,按2028年1500亿好意思元的市集范围计较,每年能带来超1000亿好意思元的营收,200亿好意思元的干涉不到两年就能收回成本。
英伟达确切切图谋,是通过此次交游终了“东说念主才+技巧+渠说念”的三位一体整合。东说念主才方面,Jonathan Ross当作谷歌TPU的中枢开发者,对AI推理芯片的架构盘算有深远联络,他的加入能让英伟达的推理架构更逼近市集需求;技巧方面,Groq的LPU架构、笃定性编译器等中枢技巧,能径直弥补GPU的短板;渠说念方面,Groq的客户资源(如沙特阿好意思、加拿大贝尔)能匡助英伟达快速拓展推理市集。
“英伟达的政策从来不是单纯卖硬件,而是构建‘硬件+软件+就业’的全栈生态。”业内东说念主士分析,“收购Groq后,英伟达能推出‘GPU(测验)+LPU(推理)’的异构计较科罚决策,粉饰从测验到推理的全进程,进一步强化生态壁垒。”
GPU与LPU的“双剑合璧”能否成效?
这场交游的成败,要害在于英伟达能否到手整合Groq的技巧,终了GPU与LPU的上风互补。从架构互异来看,两者具有自然的互补性,而非替代联系。
GPU擅长“并行计较”,能将复杂任务分解为数千个可同期实验的小计较,相宜大范围模子测验;而LPU擅长“活水线计较”,数据按序经过处理单位,无冗余传输,相宜低延长、高迷糊量的推理任务。

英伟达的探讨,是将LPU整合到自身的“AI工场”架构中,变成“测验用GPU,推理用LPU”的科罚决策。比如,在自动驾驶场景,用GPU测验感知模子,用LPU终了及时推理;在智能客服场景,用GPU测验对话模子,用LPU处理用户的即时恳求。
技巧整合的最大挑战,在于软件生态的兼容。Groq有我方的GroqWare套件和GroqFlow器具链,而英伟达的中枢是CUDA生态。如若两者无法无缝对接,企业客户的切换成本依然很高。
不外,Groq的软件盘算理念与英伟达高度契合。GroqWare兼容PyTorch、TensorFlow等主流框架,GroqFlow器具链允许用一转代码导入现存模子,这为整合到CUDA生态提供了基础。英伟达的探讨是,将Groq的编译器和器具链融入CUDA平台,让客户能在CUDA生态内径直调用LPU的算力,无需重构代码。
“软件整合到手与否,将决定此次交游的价值。”行业众人指出,“如若能终了无缝兼容,英伟达的生态壁垒会进一步加固;如若整合失败,200亿好意思元可能会吊水漂。”
证据基准测试数据,整合Groq技巧后,英伟达的推联络决决策能终了双重优化:一是成本缩小,推理成本可降至GPU的三分之一;二是终结提高,延长可缩小至200毫秒以内,部分场景致使能达到50毫秒。
这种优化能径直推动AI应用的范围化落地。比如,及时对话AI的延长缩小后,能更好地应用于客服、训诲等范围;边际计较的能效提高后,能推动AI在工业质检、智能农业等场景的普及。“推理成本和延长的缩小,是AI从‘实验室走向产业’的要害。”云计较开源产业定约的讲解指出,2026年推理在AI就业器职责负载中的占比将达到70.5%。
AI芯片风景的固化与创新者的宿命
英伟达“招抚”Groq的交游,不仅会重塑AI芯片的竞争风景,更会深远影响统统这个词AI产业的发展轨迹。它既裸露了行业的创新逆境,也揭示了将来的发展趋势。
这场交游美艳着AI芯片行业进入“整合阶段”。昔日5年,雷同的故事赓续献艺:Graphcore融资超10亿好意思元却难以范围化,Habana被英特尔收购后缓缓边际化,寒武纪在国内靠政务市集拼集复旧。这些“挑战者”要么被巨头收编,要么在生态壁垒前渐渐耗死。
英伟达的此次交游,进一步加重了这种趋势。当统统有后劲的创新者王人被纳入巨头幅员,AI芯片市集的“固化”已不可幸免。预测到2027年,英伟达的市集份额仍将保管在75-80%,AMD占10-12%,谷歌TPU占8-10%,其他厂商的份额仅剩下2-3%。
“初创公司的生活空间越来越小。”一位AI芯片创业者无奈暗示,“要么在技巧上找到巨头十足没粉饰的边际场景,要么就等着被收购。正面挑战巨头的生态壁垒,简直不可能到手。”
Groq的气运,是AI芯片行业创新者的缩影。它有颠覆GPU的技巧,却莫得轻视CUDA生态的才调。这背后的中枢原因,是生态壁垒的“锁定效应”——客户一朝接入CUDA生态,切换成本高达数千万好意思元,简直不可能平庸迁徙。
这种生态壁垒,比技巧和硬件更难逾越。国产GPU厂商也面对雷同的逆境,尽管干涉重金打造兼容CUDA的软件栈,但永辽阔于“奴隶者”的地位。华为昇腾能在国内崛起,很猛进程上是因为依托自身的“芯云一体”模式,构建了里面闭环的“小生态”,而非轻视了英伟达的生态壁垒。
“创新者的逆境不是技巧不能,而是生态不能。”业内分析师指出,“将来,AI芯片的竞争不再是单一芯片的比拼,而是‘生态+场景+技巧’的详细较量。谁能构建起我方的生态,谁才能信得过安身。”
尽管风景固化,但此次交游对AI产业的发展并非全是负面影响。最径直的自制,是推理成本的大幅缩小,这将加快AI技巧的普及。云计较开源产业定约的阐显昭示,通过推理优化技巧,长序列生成任务的迷糊量能提高30%-50%,首Token延长能缩小40%-60%。
成本缩小后,更多中小企业将有才调部署AI应用,推动AI从“巨头专属”走向“千行百业”。比如,零卖行业的及时推选、医疗行业的赞成会诊、工业行业的预测性叹惜等场景,王人将因为推理成本的缩小而加快落地。
同期,LPU的低延长、高能效特色,将推动AI计较向边际端迁徙。智能交通、工业质检、智能农业等边际场景的AI应用,将迎来爆发期。“推理技巧的起首,是AI赋能实体经济的要害一步。”南开大学金融发展商讨院院长田利辉指出,推理芯片将变成云表、边际、末端三元共存的风景,信得过终了“AI赋能千行百业”。
算力战役的终局与新契机
站在AI产业从测验转向推理的要害节点,英伟达与Groq的联手,省略仅仅算力战役的一个中场插曲。将来3-5年,AI芯片行业将呈现三大趋势,同期也会出生新的契机。
将来,“GPU+LPU”的异构计较将成为主流。GPU负责测验和复杂计较,LPU等专用芯片负责推理和及时处理,两者协同职责,终了全进程的高效计较。英伟达依然运行鼓动这一政策,将LPU整合到“AI工场”架构中,其他厂商也会纷繁跟进。
“异构计较是科罚测验与推理需求互异的最好决策。”行业众人预测,“到2028年,超越80%的AI数据中心王人将继承异构计较架构。”
跟着数据中心功耗限制日益严格,能效比将成为AI芯片的中枢竞争力。谷歌TPU、Groq LPU的崛起,王人获利于超高的能效比。将来,芯片厂商的竞争焦点将从“算力上下”转向“每瓦算力若干”,低功耗、高能效的芯片将更受市集接待。
为了妥贴不同场景的需求,“软件界说硬件”将成为新的发展标的。通过软件优化,终了硬件性能的最大化哄骗,同期缩小客户的适配成本。英伟达的CUDA生态、Groq的编译器,王人是软件界说硬件的典型案例。将来,软件才调将成为芯片厂商的中枢竞争力之一。
尽管巨头把持了主流市集,但边际场景和垂直行业仍有新契机。比如,工业物联网的边际开辟需要低功耗AI芯片,医疗行业的会诊开辟需要专用推理芯片,这些场景的需求相对小众,但巨头粉饰不及,初创公司仍有生活空间。
“信得过的颠覆从来不是从正面垂死,而是从巨头的视野除外援长起来的。”就像当年的AWS莫得挑战IBM的大型机,而是从按需付费的云就业切入,最终颠覆了统统这个词IT行业。下一个“Groq”,省略正在某个边际场景里,暗暗打磨着能轻视生态壁垒的技巧。
结语
200亿好意思元“招抚”Groq,是英伟达在推理期间保卫算力王座的要害一步。它用财富换时候,补全了技巧短板,抛弃了潜在阻止,同期逃匿了反把持风险,号称一次教科书级的政策布局。
但这场算力战役远未结尾。谷歌TPU的成本上风、AMD的兼容性攻势、中国芯片企业的原土替代,王人将陆续挑战英伟达的霸权。更重要的是,AI产业的发展长久充满不笃定性,新的应用场景、新的技巧路子,王人可能出生新的颠覆者。
对统统这个词AI产业而言,这场交游是一把“双刃剑”:它可能加重巨头把持,纷扰技巧创新;但也可能加快推理技巧的普及,推动AI赋能千行百业。最终的走向,取决于英伟达能否均衡营业利益与产业创新,也取决于行业能否出生新的生态破局者。
站在2025年的时候节点,咱们正见证着AI产业的历史性转型。英伟达与Groq的联手,省略仅仅这个转型过程中的一个注脚。但它澄莹地告诉咱们:算力战役的本体,从来不是单一芯片的比拼,而是生态、技巧与场景的详细较量。在这场莫得绝顶的战役中,惟一那些能精确预判趋势、快速补全短板、执续构建生态的企业,才能最终坐稳算力王座。
