在AI浪潮中，模型参数增长和算力堆叠一度成为竞逐焦点。不过站在当下时点 ，当生成式AI开启规模化落地 ，战场已经转向推理：真实场景中海量数据的瞬间调用 、百万Token的连续推理 、长上下文的高效处理，在提升了算力需求的同时 ，也重新定义了算力基建的价值链 。
在日前的AI基础设施峰会上 ，英伟达发布了全新Rubin CPX GPU 。据官方介绍，这颗芯片专为长上下文推理负载设计，是英伟达首颗专为需要一次性处理大量知识（数百万级别tokens）并进行AI推理的模型构建的芯片。
英伟达称 ，这颗芯片可以为客户带来“前所未有的投资回报率”——每部署价值1亿美元的新芯片 ，将带来50亿美元收入，投资回报率约50倍 ，远超GB200 NVL72的约10倍回报率 。此外 ，公司宣布GB300 NVL72机架级系统在最新MLPerf推理基准测试中创造了新推理基准记录 。
花旗研究指出，在ASIC竞争加剧的环境下 ，英伟达曾经一年一度的产品发布脚步开始提速 ，Rubin CPX在产品路线图中“插队 ”，标志着“推理时代 ”已经到来。
分析师进一步指出 ，Rubin CPX的发布和MLPerf新纪录都展现了英伟达在AI基建领域的持续创新能力。随着AI推理需求、特别是长语境推理需求爆发 ，英伟达的新品组合有望带动收入显著增长 。
值得注意的是 。本周引发全球市场瞩目的甲骨文，也提到了推理市场需求的爆发。
在业绩会上 ，公司创始人Larry Ellison明确指出 ，AI正从根本上改变甲骨文，AI推理市场将“远大于”AI训练市场，而市场上的推理算力正在被耗尽 。
虽说甲骨文指数级别的订单爆炸性增长 ，以及随之而来对OpenAI依赖性的质疑 ，让其股价在飙升之后连跌两天 。但摩根大通也表示，承认甲骨文在获取OCI业务方面取得了“令人印象深刻的成就 ” ，并认可其在AI领域的长期潜力。
▌算力基础设施进入长上下文推理新阶段
实际上拉长时间线就能发现 ，海内外大厂Token调用量已出现明显加速拐点，推理端算力需求快速增长 。
今年5月Google I/O大会的数据显示 ，Google的Token月均调用量从去年4月的9.7万亿增长至今年4月的480万亿 ，增长50倍 。根据微软三季度电话会数据，Azure AI基础设施在今年一季度处理了超100万亿Token ，较去年同期增长5倍 ，其中3月份单月Token调用量达50万亿。国内互联网大厂来看，今年5月字节火山引擎Token日均调用量为16.4万亿（月均508T） ，是去年5月的137倍 。
过去一年 ，随着生成式AI进入规模化落地阶段，行业对“长上下文 ”的需求快速上升 。无论是企业级知识库问答 、代码生成，还是多模态长视频生成 ，均需要模型在极大输入序列下保持推理准确性与计算效率。然而 ，现有GPU在应对超长上下文时普遍存在内存带宽瓶颈与计算冗余，导致算力利用率不足 。
东吴证券指出 ，从产业角度来看 ，Rubin CPX的推出不仅是英伟达产品线的升级，更意味着海外算力基础设施进入“上下文与生成分工协作”的新阶段 。随着百万Token推理与长视频生成成为AI应用的标配需求 ，硬件和软件的耦合度显著提高 ，算力产业链的价值量同步上升。无论是GPU 、存储、网络，还是配套的高速PCB、光模块与封装工艺 ，相关厂商都有望深度受益。
股票怎么看公司基本面:炒股票app排名-美国债务危机将近？达里奥“花式警告”：就像一艘驶向岩石的船！
买股票怎么查一个公司的业绩:炒股票手机软件app-美国会预算办公室：“大而美”法案将增加3.4万亿美元赤字
炒股票怎么网上开户:各大股票app手续费排行-主席候选人泽沃斯开炮：美联储政策并不独立 鲍威尔早已站偏
创业板的股票怎么买不了:公司员工可以买自己公司股票-韩国股市大跌 韩元兑美元汇率一度跌破1400！日本股市也跌了 发生了什么？
用自己手机帮别人买股票:股票配资公司配资-产业链强势跃升！半导体并购浪潮来袭 15只绩优潜力股曝光
配资股票的合法平台有什么:股票公司是如何估值的-知名机器人企业老总提议给自己发200万元固定月薪 被投资人“手撕”：这是在掏空公司
美港通证券-美港通证券官网-配资平台查询提示：文章来自网络，不代表本站观点。
美港通证券-美港通证券官网-配资平台查询㉖选择股票配资平台时，应了解其风险控制体系和应急预案，确保在紧急情况下能够迅速应对。
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
2025年3月25日，倍轻松(688793.SH)公告称，公司股东宁波倍松投资有限公司（简称“宁波倍松”）拟通过大宗交易...
记者辛圆3月25日，博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》（以下简称《报告》...
3月24日，海洋王照明科技股份有限公司（以下简称“海洋王”，002724.SZ）早盘一字跌停，此后股价拉涨，尾盘封涨停板...
记者｜赵阳戈年初，证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见，市场也将注意力投向了...
3月24日，易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数，这个指数是什么？有哪些优势？投资价值如何？...
近日，开源证券大连分公司遭大连证监局处罚，暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...
记者辛圆给补贴、建平台，为了吸引更多高层次人才，各地纷纷放出“大招”。据央广网周一发布消息，湖...
3月12日，汇丰发布对于中国投资市场的最新观点。汇丰环球私人银行及财富管理中国首席投资总监匡正表示，DeepSe...
3月24日，AI眼镜概念股开盘拉升，瀛通通讯直线涨停，明月镜片涨超10%，比依股份、博士眼镜、恒玄科技、国光电器等跟涨。...
当地时间3月24日，特斯拉美股涨幅扩大至5%，现报262.055美元/股。...
国海富兰克林基金国富深化价值基金经理刘晓日前发表了对 2025 年市场的展望。刘晓指出，国内经济正处于复苏通道，市场大幅...
沪深两市成交额连续第44个交易日突破1万亿，较昨日此时缩量超900亿。...
3月24日，业内权威专家表示，MLF（中期借贷便利）不再有统一的中标利率，标志着MLF利率的政策属性完全退出。3月24日...
【隔夜行情】•周五（2025年3月21日），A股三大指数集体下跌，截至收盘，截止收盘，沪指跌1.29%，报收33...
