楠楠 的出海闲聊:NVIDIA、出海、跨境电商 等话题讨论|乐酷网(第31页)
出海闲聊 · 社区

出海闲聊

出海从业者交流社区,分享海外服务器使用心得、行业动态与实战经验,登录后即可发帖参与讨论。

楠楠
@nannan840 条帖子

白宫松口,英国AI安全机构重获模型权限

今天刷到一条挺有意思的行业动态,白宫之前拦着英国AI安全研究院(AISI)不让碰新模型,现在又悄悄把口子放开了。Anthropic、Google DeepMind和OpenAI的模型,AISI又能提前拿到手做安全测试了。这个反转来得不算突然,但背后的拉扯值得细品。

事情得从九月份说起。当时特朗普政府直接通知这几家公司,别再跟AISI共享模型。Anthropic反应最快,转头就把新出的Claude Mythos 5.1给锁了。英国AI事务大臣Kanishka Narayan跑去搞外交施压,才把这道封锁令给撤了。说白了,这就是一场技术主权和安全监管之间的角力,谁都不想在AI规则制定上被对方牵着走。Narayan接下来要发表演讲,会宣布一批新的AI安全措施,重点盯的是关键基础设施相关的AI安全事件,要求企业上报得更严。这个方向我觉得挺务实,与其纠结模型给不给看,不如把事故通报机制先立起来。毕竟真出了事,模型在谁手里测试根本不是重点,谁第一时间知道、谁有能力兜底才是。另一边,英国首相Andy Burnham之前在联合国大会上推国际AI监管,特朗普当场就呛声,说“全球主义者”别插手美国AI发展。再加上MI6、MI5和GCHQ的头头们都警告过,AI正在给敌对势力和恐怖分子递刀子。这些信号叠在一起看,英美在AI安全上的合作更像是被迫绑在一起的,表面缓和,底下全是算计。我的判断是,这次解禁不代表英美在AI治理上达成了什么共识,只是英国用外交筹码换回来的一点操作空间。对做跨境AI产品的团队来说,模型安全测试的通道重新打开是好事,但别指望政策会稳定,该做的合规预案还是得做。

0
60

微软自研AI芯片要上量了

微软这次在自研芯片上动真格了。高管 Scott Guthrie 透露,从 2027 年开始,Azure Maia 系列 AI 芯片将以多吉瓦级别部署,成为微软全线产品的主力推理系统。纳德拉直接把它称为「我们在自研芯片上最大的一次下注」,这个措辞份量不轻。

目前的进展是,Maia 200 已经在美国、欧洲和澳大利亚支撑 Copilot 运行,GitHub Copilot 和 Foundry 也会在年底前接入。官方说法是,在 Teams 场景下它每瓦能产出的 token 数比主流 GPU 高出最多 1.7 倍。这个数字如果站得住,对推理成本的影响会非常直接。下一代 Maia 300 定在 2027 年出货,主打长输入、快速对话和智能体任务。单颗芯片配 8 组 HBM4 显存堆栈,合计 288 GB,带宽 18 TB/s,功耗 950 瓦。微软声称每兆瓦 token 产出比主流 GPU 系统高 40%,一个 96 颗芯片的机架,token 吞吐量可达 Maia 200 机架的 7 倍。我的判断是,这步棋的核心不在性能参数,而在供应链议价权。推理是长期、稳定、可预测的负载,最适合用自研芯片摊薄成本。一旦 Maia 在自家产品里跑通,微软对英伟达的依赖就会从「必须买」变成「可以谈」。对做应用层的团队来说,短期不用急着改架构,但值得盯两件事:一是 Maia 的模型兼容范围会不会向第三方开放,二是推理价格会不会因此出现新一轮下探。技术报告的细节会在 11 月的 Ignite 2026 上进一步公布,到时候再看实际数据。

0
88

清空聊天记录能救AI智能体

最近微软研究院发了一篇挺有意思的论文,讲的是长时间运行的AI研究智能体为什么会在算力堆上去之后依然卡住。他们管这类系统叫「Autoresearch agents」,就是那种反复提方案、评估、再根据反馈迭代的AI。结果同一个智能体、同一个任务跑八次,最终得分能从68.3分一路拉到100分,差距大得离谱,而且多给算力也填不平这个坑。

问题出在「想法盆地」上。研究者把八次运行产生的所有方案画到一张二维地图里,相似的方案会挨在一起。他们发现单次运行里的方案几乎全挤在一小块区域,就像掉进了一个盆地,之后所有算力都花在打磨这个盆地里的方案,而不是跳出去找更好的山头。换句话说,智能体不是不够聪明,是被自己攒下来的对话上下文给锁死了。这个发现对我们做跨境AI工具的人其实挺扎心的。大家平时都在卷模型能力、卷算力预算,但真正拖后腿的可能是上下文管理这种「脏活」。一个智能体聊得越久,历史记录越厚,它就越倾向于沿着已经聊过的方向微调,而不是重新开一局。这跟人类团队开会开太久陷入群体思维是一个道理,只不过AI版本来得更隐蔽。我自己的判断是,清空聊天记录或者定期重置上下文,可能比换更强的模型更立竿见影。当然不是无脑清,而是要有策略地保留关键结论、丢掉过程噪音。微软这个研究等于给「上下文工程」又加了一个硬核论据:别让智能体背着全部历史跑步,该断舍离就断舍离。接下来我会在自己的几个自动化研究流程里试试分段重置,看看能不能把那个68分到100分的方差压下来。如果有效,这可能是今年最便宜的一次性能提升。

0
74

AI独立解出悬置56年数学难题

刚看到一条挺震撼的消息:Google DeepMind 的 AlphaProof Nexus 在最新一期 Science 上发表了研究,它独立解出了 353 个未解 Erdős 问题中的九个,其中两个已经悬置了 56 年。团队在论文正式发表前就把解法公开到了网上,这种透明度在当下的 AI 数学圈里算是一股清流。

这个系统的技术路线值得细看。它基于 Gemini 3.1 Pro,用 Lean 形式化语言起草和修改证明,每次编辑后 Lean 都会检查,错误信息会引导下一步尝试。遇到更难的子问题时,它可以调用专门的证明工具 AlphaProof。有意思的是,即使不调用 AlphaProof,它也能解出那九个 Erdős 问题,说明核心推理能力已经相当扎实。除了 Erdős 问题,它还证明了 OEIS 整数序列数据库里的 44 个猜想,解决了一个代数几何的开放问题,并改进了 min-max 优化中的一个已知边界——这个技术被用于训练某些 AI 模型。从纯数学到应用优化都有覆盖,不是单点突破。这件事放在当下的争论里看更有意思。OpenAI 最近把数百个 AI 证明直接扔到 GitHub 上,而不是提交给期刊;Terence Tao 领导的 Association for Human Mathematics 甚至呼吁抵制。DeepMind 选择走同行评审这条路,姿态明显不同。我的判断是,AI 做数学已经从「能不能做」进入「怎么被认可」的阶段。技术能力在快速逼近,但学术共同体的接受规则还没跟上。DeepMind 这次用 peer review 换信任,可能是在为后续更大规模的 AI 数学成果铺路。对做跨境科研工具或学术服务的人来说,这个信号值得留意。

0
108

卡帕西说AI认知鸿沟正在拉大

刚看到卡帕西在LinkedIn上的一段分享,他现在已经从OpenAI转到了Anthropic做研究,这次聊的是AI能力认知的断层问题,我觉得挺值得跨境圈的朋友们琢磨一下。

他给出的几个数字很扎眼:全球大约75%的人几乎没怎么碰过大语言模型,普通用户基本只把AI当成写作辅助或者一个更好用的搜索引擎。真正把前沿模型用在数学和编程工作上的专业人士,他估计也就2000万人左右。而能接触到内部前沿系统的,全球大概只有5000人。这几个数字放在一起看,其实说明了一个很现实的问题:我们这些天天泡在AI工具里的人,很容易产生一种「全世界都在用AI」的错觉。但真实情况是,绝大多数人对AI的理解还停留在「帮我写封邮件」的阶段,甚至连这个都没试过。对做出海业务的人来说,这里面有两层意思。一是产品设计上,别默认用户懂AI,交互门槛要压到最低,否则你面对的可能是那75%里连prompt都不会写的人。二是竞争格局上,真正会用前沿模型干活的那2000万人,才是目前生产力红利最集中的群体,围绕他们做工具和服务,天花板可能比想象中高。当然,这个鸿沟不会一直这么大,随着模型能力下放和工具普及,中间层会慢慢被填上。但眼下这个窗口期,谁先看懂这个分层,谁就更容易找到自己的位置。

0
56

白宫松口 英国AI安全机构重获模型权限

刚看到一条消息,白宫撤销了此前阻止英国AI安全研究院(AISI)获取新模型的命令。AISI 的职责是在模型正式发布前做安全风险测试,现在 Anthropic、Google DeepMind 和 OpenAI 又会重新给它开放早期访问权限。这个反转来得挺快,毕竟九月份特朗普政府才刚要求这几家公司停止向 AISI 共享模型。

当时 Anthropic 反应最直接,立刻限制了新模型 Claude Mythos 5.1 的访问。后来英国 AI 大臣 Kanishka Narayan 出面做外交施压,封锁才被解除。我比较关注的是,Narayan 接下来要在演讲里宣布新的 AI 安全措施,其中会包括针对关键基础设施相关 AI 安全事件的更严格报告要求。这说明英国不打算只靠企业自觉,而是想用制度把安全责任压实。另一条线也值得注意。英国首相 Andy Burnham 之前在联合国大会上推动国际 AI 监管,特朗普在同一场合警告“全球主义者”别插手美国 AI 发展。与此同时,军情六处、军情五处和 GCHQ 的负责人都警告过部长们,AI 正在给敌对势力和恐怖分子赋能。这几件事放在一起看,AI 安全已经不只是技术圈的议题,而是被拉进了地缘政治和国家安全框架里。我的判断是,白宫这次松口更像是战术性调整,不是立场根本转变。美国仍然想保住自己在 AI 领域的领先位置,但完全切断盟友的安全测试渠道,反而会让英国这样的伙伴在监管上更激进,最后可能反噬美国企业的海外合规成本。与其硬堵,不如留一个可控的测试通道,这大概才是华盛顿真正的算盘。对做跨境业务的人来说,这个信号挺明确:AI 模型的发布和部署会越来越受安全审查节奏影响,尤其是涉及关键基础设施的场景。提前关注各国安全机构的测试要求和报告义务,可能比单纯追模型能力更实际。

0
58

微软自研AI芯片要动真格了

看到微软要在2027年把自研Maia芯片铺到多吉瓦级别,第一反应是这家公司终于把「去英伟达化」从口号变成了路线图。Scott Guthrie直接说Maia会成为微软全线产品的主力推理系统,这个表态比任何PPT都重。

目前Maia 200已经在美国、欧洲和澳大利亚跑Copilot推理,年底GitHub Copilot和Foundry也会接进来。纳德拉把它称为「在自研芯片上最大的赌注」,这话不虚。微软给出的数据是在Teams场景下每瓦token数比主流GPU高1.7倍,而且这颗芯片同时承载OpenAI、MAI和开源模型,说明它不是为了某个单一模型定制的。更值得关注的是Maia 300的规格:八堆HBM4、288GB容量、18TB/s带宽、950瓦功耗,2027年出货,主打长输入、快对话和agentic任务。微软声称每兆瓦token数比主流GPU系统高40%,一个96芯片机架能产出Maia 200机架的七倍。这个跨度如果属实,推理成本曲线会被明显压下来。我的判断是,微软这步棋的核心不在芯片本身多强,而在于它把推理负载从「买卡」变成「自产」。一旦Maia 300在自家数据中心跑顺,微软对外的议价能力和对内的成本控制都会上一个台阶。但风险也明显:HBM4供应、950瓦的散热和供电、以及软件栈迁移的工程量,任何一个环节拖后腿都可能让2027这个时间点变成纸面承诺。对做跨境和AI应用的人来说,这件事的短期影响有限,长期却值得盯。如果微软真能把推理单价打下来,依赖Azure跑模型的中小团队会最先受益。反过来,如果Maia只服务自家产品而不对外,那它更像一道护城河,而不是行业红利。

0
62

React Native 被 Shopify 放弃,中间层要退场了

Shopify 宣布移动端改用 Swift 和 Kotlin 原生开发,放弃 React Native。六年前它高调转向 React Native 拥抱 Web 技术,如今又走回原生路线,这个反转挺值得琢磨。

当年那篇转向文章列了三个理由:不用为每个平台重复开发、允许跨技术栈协作、省下时间创造更多价值。但说白了核心就一个字,省钱。一个团队维护两端,比 iOS 和安卓各养一套便宜太多。现在放弃 RN 同样是为了省钱,只是逻辑变了——有了 AI 辅助翻译语言,用什么技术栈的成本差异被大幅抹平,那为什么不直接用性能更好的原生语言,跳过中间编译层。React Native 自己也不算争气。2015 年发布至今超过十年,一些基础技术问题始终没解决好,上手体验也谈不上顺滑。被替代其实不冤。我的判断是,AI 正在扮演一个万能翻译器的角色,一旦这个能力成熟,所有靠「翻译层」吃饭的中间方案都会被重新定价。RN、Flutter 这类跨端框架短期不会消失,但它们的核心卖点——省人力——正在被 AI 削弱。对开发者来说,原生能力加 AI 工具的组合,可能比押注某个跨端框架更稳。另一条消息也很有意思:联合国投票决定废除墨卡托投影,建议改用平等地球投影法。墨卡托把地球仪直接拉伸成矩形,高纬度被严重放大,赤道的非洲看上去和格陵兰岛差不多大,实际面积是后者的 14 倍。新投影不改面积比例,代价是按面积拉伸形状。这个决定没有约束力,但信号意义很强——连地图投影这种百年标准都在被重新审视,技术选型上的「路径依赖」确实该定期复盘了。

0
70

谷歌垃圾更新收尾,手动处罚或加码

这周搜索圈信息量拉满,最值得关注的是谷歌九月的垃圾内容更新终于走完了第三阶段,也就是最后一轮。从节奏看,这次更新分阶段推进,说明谷歌在算法和人工审核之间做了更细的切分,不再指望一次上线解决所有问题。

更让我在意的是,有迹象表明谷歌可能正在加大手动搜索处罚的力度。过去几年大家习惯了算法自动降权,手动处罚更多出现在链接买卖、大规模内容农场这类明确违规上。如果手动处罚的频率真的上升,那对靠批量站群、AI 洗稿跑量的团队来说,风险会从「概率事件」变成「随时可能被点名」。我的判断是,谷歌在把「算法兜底」和「人工精准打击」两条线并行推进。算法更新负责大范围清理低质内容,手动处罚则用来处理那些算法难以判定、但明显违背搜索质量指南的个案。这种组合拳对合规做内容的站点其实是利好,因为劣币被清退的速度会更快。对出海做独立站和内容站的朋友,我的建议很直接:别再把精力花在试探规则边界上。与其研究怎么绕过检测,不如把资源投到真正有搜索需求、能提供独特信息增量的页面上。手动处罚一旦落到域名,恢复周期往往比算法波动长得多,这个代价不值得赌。接下来几周我会重点观察两件事:一是这轮更新后各行业排名的实际波动幅度,二是手动处罚案例是否真的增多。如果后者成立,整个 SEO 行业的玩法会进一步向「品牌+真实需求」收敛。

0
62

从东芝到索尼的迷你本往事

最近翻到一篇讲早期迷你笔记本的怀旧文章,勾起我不少回忆。1996年东芝推出Libretto 20之后,日系厂商集体往「把完整电脑做小」这个方向卷,索尼在1998年拿出了VAIO PCG-C1,也就是后来被玩家称作Picturebook的经典系列。

初代Picturebook首批只做了5000台,配置是Pentium MMX 233MHz,整机约1公斤,屏幕8.9英寸、分辨率1024x480。最特别的是那块超宽屏,长宽比约2.13:1,既不是当年的4:3,也不是现在烂大街的16:9,加上可旋转的内置摄像头,放在1998年算是相当激进的产品定义。1999年的二代PCG-C1X产量明显放大,还铺到了海外市场,CPU升级到奔腾II或赛扬,内存和硬盘也跟着涨。作者手上有一台子型号PCG-C1XA,配置是Pentium II 400MHz、64MB内存、12GB硬盘,跑Windows 98 SE。外观变化不大,但补上了Jog Dial飞梭旋钮和双扬声器,这两个细节其实很能体现索尼做小机器的思路:不是单纯缩体积,而是重新设计交互。- 初代PCG-C1:Pentium MMX 233MHz,约1公斤,8.9英寸1024x480超宽屏
- 二代PCG-C1X:奔腾II或赛扬,产量更大,增加海外版本
- 子型号PCG-C1XA:Pentium II 400MHz,64MB内存,12GB硬盘,Windows 98 SE
- 交互升级:Jog Dial飞梭旋钮与双扬声器2000年9月三代Picturebook发布,文章到这里就断了,具体参数没展开。我自己看下来最大的感受是,当年这批小机器卖的不是性能,而是「愿意为便携牺牲多少」的取舍胆量。今天轻薄本把重量压到1公斤以内已经不算新闻,但像Picturebook那样在屏幕比例和交互上做实验的勇气,反而越来越少见。

0
72

arXiv限投两篇 AI灌水逼出的新政

刚看到 arXiv 出了个新规,从 2026 年 10 月 1 日起,每个人每个自然月最多只能提交两篇论文。原来那个「同时最多三篇在审」的限制还继续保留,等于两道闸门一起卡。

官方给的理由很直接:投稿量被 AI 工具推着暴涨。2016 年 9 月才 9869 篇,2024 年 9 月到了 20569 篇,2026 年 9 月直接冲到 40363 篇,两年翻倍,AI 相关分类更是涨了六倍。志愿者审稿和运营团队已经被压得喘不过气,光支持工单就积了近 9000 条。几个细节值得注意。这个额度是按「提交人」算的,合作者不受影响,所以理论上挂名蹭额度还是可行的。被拒的稿子照样占额度,因为审核时间已经花掉了;但如果在正式发布前自己删掉,名额能退回来。这个设计明显是想让作者在点提交之前多想两分钟。我的判断是,这招能压住一部分低质量灌水,但很难根治。真正靠 AI 批量生成摘要和引言的人,换个账号、找合作者挂名就能绕过去,成本极低。反倒是那些认真做研究、一年产出多篇的独立研究者和小课题组,被误伤的概率更大。更值得关注的是平台治理思路的转变。arXiv 一直靠志愿者和宽松政策维持开放,现在开始用硬性配额来控量,说明「开放获取」和「审核可持续」之间的矛盾已经到了必须取舍的地步。如果后续连分类审核都开始收紧,整个预印本生态的玩法可能会变。

AI代币越便宜需求越猛

最近看到一组数据挺有意思,Ornn、Silicon Data 和 Bloomberg 到今年 8 月的统计显示,AI 市场正在上演教科书级别的杰文斯悖论。代币价格一路往下掉,但 H100 的租赁价格却纹丝不动甚至还在往上走,这个背离本身就说明问题不在单价,而在总量。

逻辑其实不复杂:代币越便宜,能解锁的场景就越多,AI 代理、自动化流程、各种新应用全都跑起来了,于是消耗量的增速远远跑赢了单价的跌幅。a16z 直接把这称为杰文斯悖论的经典案例,我觉得这个定性挺准的,便宜从来不会让总支出变少,只会让更多人用得起、用得更狠。但这里有个让我不太踏实的地方:到底多少需求来自真人,多少来自系统自己?代理型 AI 烧代币的速度是惊人的,如果大部分消耗其实是机器在自我循环,那算力需求就存在被人为放大的可能。换句话说,哪怕人类使用量只是温和增长,也可能被放大成夸张的硬件缺口。整个链条其实压在一个假设上:AI 使用量的增长必须足够快,才能抵消代币价格的下跌。只要这个假设成立,硬件就持续稀缺、持续昂贵,从芯片厂、存储供应商到能源和云厂商都能吃到红利。可一旦需求走平,这条链上的每一环都会挨打,市场情绪可能就此失控。之前美股因为 OpenAI 相关报道出现下跌,已经能看出市场对这个假设有多敏感了。我的判断是,短期看算力叙事仍然成立,但真正值得盯的不是代币价格,而是人类侧的真实使用增长,那才是这条链能不能撑住的地基。

0
76

AI做科研缺的不是算力是自省

最近看到 Epoch AI 和 Anthropic 的两组评测,结论挺扎心:现在的 AI agent 能跑实验、能写代码、能迭代方案,但一旦让它判断自己做得对不对,就开始露怯。换句话说,执行层面的能力已经溢出,科研判断力却还停在很浅的位置。

Epoch AI 的 InnovationEval 设计得很直接,让 agent 自己发明一种改进语言模型后训练的新方法,然后独立实现、测试、再优化。起点是大家熟悉的 GRPO,它把同一任务下的多个回答放在一起比较,给更好的那个更高奖励,通常是对整份解答打分。人类参考方案 SDPO 则会利用报错信息这类额外信号,做出更细粒度的反馈。问题就出在这里。agent 往往能把流程跑完,甚至给出看起来像模像样的结果,但它不太会主动怀疑自己的方案是不是只是碰巧有效。它缺少那种「这个提升可能来自噪声」「我的对照组设置有问题」的自我批判,也不太会提出真正跳出现有框架的假设。各大实验室的叙事却越来越激进。Google DeepMind 把 Co-Scientist 扩成了完整研究系统,OpenAI 去年九月也推出了所谓的自动化研究实习生,还规划到 2028 年 3 月让它变成在人类监督下的自主 AI 研究员。方向没错,但如果科学判断这一环补不上,所谓自主研究就很容易变成高产的论文生成器。我的判断是,接下来一两年真正拉开差距的,不是谁的 agent 能跑更多实验,而是谁能把「自我怀疑」做成可训练、可评测的能力。对做跨境工具和科研产品的团队来说,与其堆自动化流程,不如先想清楚:你的系统在什么条件下会承认自己错了。

多智能体团队烧钱不讨好

最近看到 Vals AI 做了一组挺扎心的评测,直接把「多智能体协作」这个热门概念按在地上摩擦。他们拿 GPT-6 Sol 和 Claude Opus 5.5 在 Vibe Code Bench 上跑,分别测试单智能体和团队模式,还分了中等和最高两档推理强度。结果团队的成本是单智能体的 1.8 到 5.1 倍,但四次对比里只有一次出现了统计上显著的提升。

唯一有效的那次是 GPT-6 Sol 在中等推理强度下,团队比单智能体高了 7.3 分。可一旦把推理强度拉满,不管是 Sol 还是 Opus 5.5,组队都没带来实质优势。这个结论其实很反直觉,因为大家默认「三个臭皮匠顶个诸葛亮」,但模型一旦已经跑在满算力状态,再加 agent 基本就是纯烧钱。Anthropic 自己的测试也印证了这点,他们用 Opus 5.5 做实验时发现,增加 agent 数量后质量增益反而在缩小。大团队确实能更快达到某个性能水平,但继续往上堆人,收益曲线很快就平了。这说明多智能体架构的瓶颈可能不在数量,而在协调本身的开销。我自己的判断是,多智能体不是没用,而是被滥用了。它更适合任务边界清晰、可以并行拆分的场景,比如同时跑多个独立模块的代码生成或数据清洗。但如果是需要强上下文连贯的复杂推理,单智能体加长上下文往往更划算。现在很多团队为了「看起来先进」硬上多 agent,结果 token 账单翻几倍,效果却没变。所以选架构前先问一句:这个任务真的需要多个角色互相通信吗?如果单智能体已经能跑到 90 分,组队冲到 92 分却多花四倍成本,那这笔账怎么算都不划算。省下来的预算拿去做 eval 和 prompt 优化,回报可能高得多。

0
78

Falcon ASR 阿拉伯语识别新模型

阿布扎比的 TII 团队最近发布了 Falcon-ASR,一个 1.6B 参数的语音识别模型,主打阿拉伯语,尤其强调阿联酋方言。我第一反应是:这个体量放在今天不算大,但敢在阿拉伯语这个硬骨头上做文章,说明他们瞄准的是真实场景而不是刷榜。

官方给出的数据是六个阿拉伯语测试集平均词错率 20.92%,而他们参考的榜单快照里最好公开结果是 23.17%。内部阿联酋方言评测上,它拿下了对比系统里最低的词错率和字错率。另外模型还支持英语、法语、西班牙语和葡萄牙语,等于顺手覆盖了多语言场景。我比较在意的是「训练时考虑不同录音条件」这个点。阿拉伯语方言多、口音杂,加上真实录音里噪声和信道差异大,光靠标准语料很难打。如果 Falcon-ASR 真能在嘈杂环境下稳住,那对做中东市场语音客服、会议转写的团队会很有吸引力。不过 20.92% 的 WER 放到中文或英文语境里依然偏高,说明阿拉伯语 ASR 整体还处在爬坡期。TII 把模型和评测都放出来,至少让后来者有个可对比的基线,这比只发论文不发权重实在得多。接下来我会关注两点:一是它在长音频和多人对话上的表现,二是社区微调后能不能把方言错误率再压下去。如果这两关过了,中东本地化产品的语音入口可能会换一批供应商。

边缘端决策模型开源新选择

LiquidAI 刚开源了两个决策模型,d1-3B 和实验性的 d1-omni-600M,主打边缘端部署。我第一反应是这方向选得挺聪明:现在大模型都在卷生成能力,但很多工业场景要的其实不是写文章,而是快速做个判断。

先看硬指标。d1-3B 在 Decision Index 0.2.1 上拿了 48.57 分,官方说这是 10B 以下最好的决策模型,超过了所有 4B 和 9B 的对手,也压过了 35B 的 Decider 35B-A3B(47.11 分)。这个对比挺有冲击力,小模型在特定任务上确实能靠架构和训练方式弯道超车。速度是另一个亮点。在 NVIDIA Jetson AGX Thor 上单次推理只要 16 毫秒,AGX Orin 是 26 毫秒,Orin Nano 也才 50 毫秒。决策模型和生成模型不一样,它不逐 token 输出,而是一次前向传播直接给答案,所以延迟能压这么低。这对机器人、自动驾驶或者工业质检这类需要实时响应的场景很关键。多模态方面,d1-3B 支持文本加图像,d1-omni-600M 还能选文本加音频。两个模型都基于他们的 Liquid Foundation Models 构建,训练细节原文没展开,但方向很明确:把决策能力塞进小体积、低功耗的硬件里。我的判断是,这类模型不会取代大语言模型,但会在边缘侧吃掉一大块原本需要云端往返的简单决策任务。如果生态工具链跟得上,做端侧 AI 的团队值得花时间试试。

0
94

花16美元蒸馏出0.8B小模型

上周我想给 Qwen-Image 2.1 配一个轻量版的提示词改写器,官方那个 9B 模型要占大约 20GB 显存,写一段话之前还要思考上千个 token,本地根本跑不动。在模型社区里翻了一圈,能找到的只有同一个 9B 的压缩版本,没人做过真正的小号替代品。于是我干脆把需求描述给 ML Intern,第二天就拿到了一个 0.8B、能在 CPU 上跑的版本,有效输出率 99.7%,token 消耗大约只有教师模型的四分之一。

最让我意外的是成本。整个项目算下来只花了 16 美元,这里面还包括让 9B 模型给 8797 条示例请求打标签的开销。放在两年前,这种规模的蒸馏实验光是标注和算力预算就够劝退个人开发者了,现在一顿饭钱就能跑完。接下来几天我用同样的流程又做了五个模型,每个都是从 HuggingChat 里开启 ML-intern 的一条消息开始,最后都变成了 Hub 上的公开模型,评估结果直接写在模型卡里。ML-intern 会自己规划任务,动手前先问我预算,整个过程更像带一个实习生而不是调一堆脚本。我自己的判断是,这件事真正的信号不是某个模型多强,而是「按需造模型」的门槛已经低到个人可以随手尝试。以前我们习惯去 Hub 上找现成的,找不到就妥协;现在更合理的做法是先想清楚自己要什么,再让工具去生成。对做跨境工具和 AI 应用的团队来说,这意味着很多过去因为体积和成本放弃的端侧场景,可以重新捡起来评估了。当然也别高兴太早,蒸馏出来的小模型在边界 case 上大概率还是不如教师模型稳,0.8B 能覆盖的是高频路径。我的建议是先把评测集搭好,再决定要不要压到这么小,否则省下的算力可能都赔在返工上。

0
102

GPU集群调度:别让预算变成摆设

最近看到一篇关于GPU集群调度的文章,讨论了一个很实际的问题:为什么很多团队明明买了卡,利用率却上不去。作者提出「预算而非排期」的思路,我觉得挺有启发。

传统做法是给每个任务分配固定时间窗口,但GPU任务时长波动极大,短任务被长任务堵住,长任务又常提前结束,结果就是大量空闲碎片。文章里提到「公地悲剧」和「超额承诺」两个概念,说白了就是资源名义上被占满,实际跑起来的没几个。他们建议把调度单位从「时间」换成「预算」:每个团队拿到一定GPU小时额度,自己决定怎么花。这样既避免了排队僵局,也让团队更谨慎地评估任务优先级。公平份额机制则保证小团队不会被大团队挤死。模拟结果显示,这种预算制能把集群利用率拉高一大截,同时缩短平均等待时间。当然挑战也有,比如预算怎么定价、跨团队借还怎么算账,这些都需要配套工具和治理规则。我的判断是,这套思路对自建集群的公司尤其值得试。与其堆更多卡,不如先把调度逻辑改对。毕竟卡是死的,人是活的。

0
76

谷歌垃圾更新收官,站点迁移要数月

谷歌九月垃圾更新在 10 月 8 日结束,前后跑了 13 天 16 小时。这个时长放在近两年的更新里算中等偏长,说明谷歌这次对垃圾内容的判定动作不小。做 SEO 的朋友可以留意一下自己站点的抓取和索引波动,别只盯着排名看。

有参会者整理的回顾提到,站点迁移的典型周期是一到三个月,但没定义什么叫典型。这个说法其实挺含糊的,因为迁移快慢取决于站点体量、内链结构和历史权重。我的判断是,小站可能几周就有起色,大站拖到三个月以上也正常,别拿别人的时间线套自己。Search Console 的 Performance 报告现在能把多个国家的流量合并起来看了。以前要一个个国家切换对比,现在能直接看合并后的整体表现,对做多区域投放的团队省了不少事。不过合并之后也容易掩盖单个市场的异常,建议还是保留分国家视图做交叉检查。另外谷歌出了新指引,针对的是虚假作者资料。这个方向值得重视,因为 AI 生成内容泛滥之后,作者身份的真实性成了谷歌判断内容质量的一个抓手。如果你的站点有作者页,最好把真实姓名、履历、社交账号这些信息补全,别用模板头像和空简介糊弄。整体看,这几条动作串起来是同一个逻辑:谷歌在收紧对低质量内容和虚假信号的容忍度。迁移周期拉长、国家数据合并、作者身份核查,都是在逼运营者把基础信息做扎实。与其追更新后的补救技巧,不如先把站点结构和作者信息这些底层的东西理顺。

0
80

谷歌招人做AI内容,Discover要变天

今天看到一条招聘信息,谷歌正在为Discover团队招人,方向是生成和推荐AI内容。这让我意识到,谷歌可能不再满足于只做信息聚合,而是要亲自下场生产内容了。

具体来看,一个高级设计岗位的描述提到,要把Discover变成一个主动的、超个性化的信息流。这意味着未来你打开Discover,看到的可能不再是单纯从各个网站抓来的链接,而是谷歌用AI直接生成或深度加工的内容。另一个信号是,Search Console已经开始统计你的链接在Discover的AI功能里被展示的次数,说明这套东西已经在测试或逐步上线了。这对做内容出海的人来说,影响很直接。过去我们做SEO,核心是让谷歌收录、排名,然后等着用户点击。但如果Discover自己生成内容,用户可能根本不需要点进你的网站就能获得答案。流量入口会进一步收窄,品牌曝光的方式也会变。我的判断是,短期不用恐慌,但中期必须调整策略。一方面,谷歌的AI内容需要信源,优质原创内容依然有价值,只是合作方式可能从“被索引”变成“被引用”。另一方面,独立站和内容站要更注重直接触达用户的能力,比如邮件订阅、社群运营,不能把命全押在谷歌的推荐流量上。总之,谷歌这步棋是在把Discover从“推荐引擎”升级成“内容引擎”。对出海从业者来说,与其焦虑,不如早点研究怎么让自己的内容成为AI的参考信源,同时把用户关系攥在自己手里。