128GB 统一内存的 AI 怪兽来了,本地 AI 这次真要进屋了
英伟达和微软这套 AI PC 真正有意思的地方,不是本地模型更聪明,而是 agent 开始被当成有权限的进程来管。
老黄发布了新东西,英伟达和微软开始做AI PC。
发布稿还是熟悉的味道。电脑要变成队友,Windows 要进入 agent 时代,让 agent 替你干活,你来决定它什么时候、能碰什么。
有两个有意思的东西:一个是 RTX Spark 最高 128GB 统一内存,另一个是 OpenShell。
128GB 统一内存:本地模型终于有地方放了
前者解决的是个很实际的问题:本地模型终于有地方放了。以前在电脑上跑 Ollama,稍微大点的模型就把内存吃满,还得跟其他应用抢资源,跑起来很将就。128GB 统一内存当然不等于万能,但至少说明个人电脑开始认真给本地模型留位置了。
官方说法是这套芯片能在本地跑 120B 参数的模型、上百万 token 的上下文。把宣传的水分挤掉,大致是这么个意思:GPT-OSS 120B、Qwen3.5-122B 这一档,量化到 4-bit 之后能塞进去(也别指望既装满模型又拉满百万上下文,二选一),日常推理跑得动、体验大致 OK。能力上大概对标 GPT-5-mini 这一代,但终究够不着真正的开源旗舰(几百 B、上万亿参数的那些单机装不下)和云端闭源前沿。
所以本地模型从来不是来取代云端旗舰的,它的位置是"够用、贴身、私密"——这恰恰说明:智商不是唯一的事。
OpenShell:承认 agent 是有权限的进程
后者更有意思。OpenShell 不是"让 agent 更聪明"的东西。它是在承认另一个问题:本地 AI 一旦真能干活,就不能再当聊天框管了。
它的工作很朴素:你可以跑 Claude Code、Codex、OpenCode 这种 agent,但它们得进沙盒。文件能不能读、网络能不能出、凭证怎么注入、请求要不要转给本地模型,全部走一份 YAML 策略。默认不给,要用再申请,而且这层策略在 agent 进程之外执行,agent 自己改不动。
说白了就是承认了一件事:agent 不是聊天框,是一个攥着你全部权限、还能到处乱逛的进程。
智商不是唯一问题
这也是我觉得这事有点意思的地方。
过去大家讨论本地大模型,经常盯着"能不能跑 70B""token 每秒多少""离 GPT-4 还有多远"。这当然重要,但对真正能用的 personal agent 来说,智商反而不是唯一问题。
问题是它有没有身体,以及这个身体会不会乱伸手。
我自己做 hi-time、hi-money 的时候,这个矛盾很明显。时间块、任务、消费、资产、周复盘,全是特别适合喂给 AI 的数据。喂进去以后,它能讲出很多你自己不愿意承认的东西。比如你嘴上说这周在推进重要项目,时间表说你只是把焦虑切成了很多漂亮的小块。
但这些数据也很尴尬。传给云端 API 可以分析,心里总有点像把日记本交给外包公司做 BI。能做,但不优雅。
给 personal agent 补一层社会秩序
所以我更愿意把这次英伟达和微软的动作理解成:他们不是在重新发明 PC,而是在给 personal agent 补一层社会秩序。本地模型负责处理那些贴身、琐碎、隐私、需要长期在场的上下文;云端大模型负责真正困难的推理;中间有一层策略系统,决定谁能看什么、谁能出门、谁能拿钥匙。
这听起来没有"AI 重新定义生产力"那么性感。但 agent 落地到最后,拼的经常不是模型能不能写出一段漂亮回答,而是它能不能在你电脑上待一整天,还不把家拆了。
以前我们算一次 API call 要几分钱。
以后可能要算的是:为了让这个本地 AI 长期住在电脑里,我每个月愿意多交多少电费。