AI 速递 | 2026年10月26日
AI资讯 | 2026年10月26日
今日主线:大模型价格战把推理成本压到新低,而"专用小模型胜过通用大模型"和"Agent 在证据缺失时会误操作"这两件事,同时给"通用能力通吃一切"的叙事泼了冷水。
1. OpenAI 和 Anthropic 几个月内把 LLM 价格砍掉最多 80%
📌 发生了什么:一篇技术博客梳理了近期 API 定价的变化:OpenAI 与 Anthropic 在几个月内将部分模型价格下调最高约 80%。这不是单次促销,而是连续、多轮的价格下探,作者试图解释背后的成本与竞争逻辑。
📊 市场影响:受益最直接的是应用层——Agent、客服、文档处理这类"token 消耗大、毛利薄"的产品,成本结构被重新改写,原本算不过账的场景突然能跑了。受损的是靠"模型能力差"收溢价的中间层:单纯做 API 转售、或靠微调小模型收高价的服务商,价格护城河正在蒸发。反直觉的是,算力供应商反而是赢家——单价跌了,但调用量涨得更快,总支出没有同步萎缩。
🔬 技术看点:降价空间来自工程而非"良心":KV cache 命中率、批处理调度、量化与投机解码、把简单请求路由到小模型,这些手段叠加能把单位 token 成本压一个数量级。对开发者的实际启示是:必须在代码里做好模型抽象层和路由策略,因为价格表每隔几周就会变一次,把业务逻辑写死在某个模型上等于把成本风险写死。
2. Cerebras 演示如何在自家芯片上跑万亿参数前沿模型
📌 发生了什么:Cerebras 发布技术博客,说明如何在其晶圆级芯片上部署参数量达到万亿级的前沿模型。简单说:他们让"超大模型"不用切分到几千张 GPU 上,而是在一套片上存储体系里跑起来。
📊 市场影响:这是对 Nvidia GPU 集群在推理侧的一次正面叫板,切的是"低延迟、高交互"这块最赚钱的蛋糕——多轮 Agent、实时语音、代码补全这类场景对首 token 延迟极其敏感,吞吐再高也救不了体验。受益方是 Cerebras 自身和需要极低延迟的推理服务商;压力给到了 GPU 云厂商,它们必须证明"便宜但慢一点"在多数场景下仍然划算。行业大概率不会一边倒,而是分裂成"延迟敏感用专用芯片、成本敏感用 GPU"的双轨格局。
🔬 技术看点:万亿参数模型的核心瓶颈从来不是算力,而是显存带宽和权重搬运。把权重放在片上 SRAM 意味着要精细设计权重流式加载、层间流水和 KV cache 的驻留策略;MoE 结构下专家调度的局部性更是难点。对开发者的意义在于:模型选型不该只看 benchmark,还要看目标硬件的内存层级——同一个模型在不同芯片上的实际体验差距可能比模型之间的差距更大。
3. 一个十年前的 CNN,在皮肤癌诊断上打败了前沿大模型
📌 发生了什么:有研究对比发现,一个十年前架构的专用卷积网络,在皮肤癌图像诊断任务上的表现优于当前的前沿大语言模型。也就是说,在"看图判断病变"这件具体的事上,老式小模型比昂贵的新模型更靠谱。
📊 市场影响:这对"通用大模型将吞掉所有垂直场景"的预期是一次实证反驳。医疗影像、工业质检、缺陷检测这类"数据分布固定、标注昂贵、错误代价高"的领域,专用小模型仍然是最优解,垂直 AI 公司的生存空间没有消失。真正的受益者是能拿到高质量标注数据和临床验证渠道的团队;受冲击的是那些把通用多模态模型直接包装成医疗产品的方案。
🔬 技术看点:差距很可能来自图像 tokenization——把高分辨率医学影像切成 patch 再送进语言模型,细粒度的纹理信息在压缩中已经丢了,而这恰恰是判断恶性病变的关键。另一个原因是评估口径:在窄分布数据上,专用模型的先验远强于通用模型的泛化能力。对做产品的团队,结论很朴素:先用最简单的专用模型打基线,别一上来就上大模型;同时警惕用不同数据集"跨榜对比"得出的结论。
4. “Gheist"攻击:用偷来的 GitHub token 往仓库里塞"偷密钥"的工作流
📌 发生了什么:安全团队 Wiz 披露了一起代号 Gheist 的攻击活动:攻击者拿到泄露的 GitHub token 后,向仓库提交恶意的 GitHub Actions 工作流文件,借 CI 运行环境自动读取仓库密钥并外传。整个过程不需要人点击,提交上去就会执行。
📊 市场影响:这是典型的软件供应链攻击,影响面覆盖所有用 GitHub Actions 做构建和部署的团队。受益方是 CI/CD 安全、代码仓库审计、密钥管理这几条赛道的厂商;受损的是那些把长期有效的个人访问令牌(PAT)散落在脚本、CI 变量和第三方集成里的组织。对中小团队尤其危险——它们往往没有专门的安全人手去审 workflow 文件的变更。
🔬 技术看点:根因是权限模型过宽加上"配置文件即代码”。几条硬性实践:用 OIDC 短期凭证替代长期 PAT;给 token 设最小权限和过期时间;对 .github/workflows/ 目录的改动强制 CODEOWNERS 审批;第三方 Action 一律按 commit SHA 固定而非 tag;定期审计 secrets 的读取记录。开发者要建立一个新的直觉:CI 配置文件本身就是攻击面,它的危险等级等同于生产环境的部署脚本。
5. UC Berkeley 数学教授:学生都用 AI 了,批作业还有什么意义
📌 发生了什么:加州大学伯克利分校一位数学教授公开表示,由于学生普遍使用 AI 完成作业,他开始觉得批改作业"没有意义"——作业成绩已经无法反映学生是否真的理解了内容。报道来自校媒《Daily Cal》。
📊 市场影响:这不是一则教学八卦,而是评估体系松动的信号。当课后作业失去鉴别力,价值会向"受控环境下的评估"迁移:闭卷考试、口头答辩、课堂内限时任务,相关工具和服务需求会上升。EdTech 的卖点也会从"帮你做题"转向"证明这是你自己做的"——过程留痕、版本历史、写作回放这类功能从nice-to-have 变成刚需。受冲击的是以作业答疑为核心的辅导类产品。
🔬 技术看点:AI 文本检测在统计上并不可靠,把判定责任推给检测器只会制造误判纠纷。真正可落地的方向是"过程证据":记录编辑轨迹、要求口头解释推导、设计必须结合课堂内容的个性化题目。做教育产品的开发者要意识到,可验证性(verifiability)正在成为一个独立的产品维度,而不只是附加功能。
6. 直接优化 Pass@k 来剪枝思维链:既要答对,也别把路走窄
📌 发生了什么:一篇 arXiv 论文针对"测试时扩展"提出改进:推理模型会生成大量候选解法,再从里面挑对的,但这样很烧算力。作者提出直接以 Pass@k 为目标做思维链剪枝,在压缩候选数量的同时保住答对概率。
📊 市场影响:这直接打到推理模型的成本结构上。现在很多"高推理能力"产品的账单,大头是生成几十条候选链再投票。如果能在不损失准确率的前提下砍掉大半无用分支,推理服务的毛利会明显改善,受益的是推理 API 提供商和做复杂 Agent 编排的平台。反过来,靠"堆采样次数"当卖点的方案会被挤压。
🔬 技术看点:难点在于 Pass@k 不是简单的排序问题——它是"从 k 个候选里至少有一个正确"的集合指标,过度剪枝会把那些"看着不像但确实对"的少数路径干掉,多样性一失,Pass@k 就崩。所以这类方法本质是在质量与多样性之间找平衡点,而不是单纯做重要性排序。对做推理优化的团队,这是一个值得关注的信号:测试时算力不该无脑堆,选择策略比采样数量更值钱。
7. EpiSEM-Bench:当工具"少说了一句",Agent 会不会照样干违禁的事
📌 发生了什么:新基准 EpiSEM-Bench 专门测一类容易被忽视的失败:使用工具的 Agent 需要环境事实来判断某个操作是否被允许,但当工具返回里恰好缺了这条关键信息时,Agent 可能仍然执行了本该被禁止的动作。
📊 市场影响:这是企业级 Agent 落地绕不过去的门槛。金融、医疗、运维这类场景里,“不确定时该不该动手"比"能不能做对"更重要。基准出现意味着采购方有了评估抓手,受益的是把安全约束做进产品底层的 Agent 平台;受冲击的是那些靠 demo 效果打单、没有异常处理路径的方案。合规与审计需求会随之抬升。
🔬 技术看点:核心是让"信息缺失"成为一个可被显式检测的状态,而不是默认放行。工程上对应三件事:把工具返回的结构化程度做高(明确区分"字段为空"和"字段缺失”)、给 Agent 加弃权(abstention)动作并允许它向用户追问、保留证据溯源链以便事后审计。这也提醒做 Agent 的开发者:拒答和追问不是能力缺陷,而是系统设计的一部分。
资讯由 AI 整理,仅供参考