AI Native世界中的数字基础设施-概念版

type

Post

status

Published

date

Oct 13, 2026

slug

summary

看到AI Native 数字世界的全貌

硬件层

由于大模型的引入, 算力的重心也将由CPU转向GPU,

具体算力的需求主要划分为预训练和推理, 预训练要的是超大集群、极致互联. 推理要的是便宜、低延迟、能铺开. 在芯片方面, 我的判断是两边的芯片会越走越不一样：训练侧继续被少数通用 GPU 和大厂自研芯片主导，推理侧会更碎，有更多专用芯片和更多玩家。

随着大模型智力的成熟, 算力方面, 推理需求将会超过预训练. 推理方面的卡点有两个, 一个是搬运速度, 一个是电力. 电力这个比较好理解, 算力需要消耗巨大的电力.

搬运速度是把参数从内存搬到计算单元的速度（内存的容量和带宽）。所以这几年最紧俏的是 HBM 之类的高带宽内存，端侧芯片也都在拼统一内存和带宽。

在推理侧还可以按照模型的大小进一步拆解: 大模型与小模型.

大模型留在云端，小模型放到设备上，中间有一个路由决定"这件事谁来做"。订机票这个例子里，读你的偏好、整理行程这种轻活、涉及隐私的活，适合端侧；比价、规划、复杂推理，送云端。理由是四个：延迟、成本、隐私、断网也能用。RTX Spark 和"AI PC 2.0"，还有高通 2028 年手机跑百亿参数模型的目标，都是在把"端"这一级撑起来。

一颗芯片从设计到量产要两三年, 所以芯片层的变化相对慢一些. 主要变化的地方是内存架构、推理专用芯片、供电散热、更宽带宽的互联等.

网络层

TCP/IP 5层几乎都可以原封不动的复用,

但有一些例外场景, 大规模大模型预训练与推理场景, 会围绕体量和速度做专项的改造, 比如在物理、链路、网络三层进行专门的设计, 如InfiniBand、无损以太网、NVLink, 在传输层使用RDMA、在应用层使用专用通信库.

操作系统层

这一块可以分为上下两部分讨论, 上部分的核心抽象, 窗口、桌面、文件夹、鼠标键盘, 这些都是围绕人的眼睛和手设计的, 是最可能被颠覆掉的部分, Agent的世界里, 这些需要看、能点击的设计会转化成可动态查找、注册、调用的动作. 总结来说就是从GUI到语义动作的重构.

下部分面是面向机器的, 如进程、内存、文件系统、驱动、系统调用等, 这块预计变化很少. 现在Agent跑的那套环境，不论云端沙箱还是你的电脑，底下几乎都是 Linux、Windows、macOS 原来那套内核, 比如Claude 的任何一个会话, 背后都对应着一套Linux 沙箱环境(不管是虚拟机还是容器).

OS这块有一个重要的划分: 设备端OS、云端OS. 云端OS天然不需要屏幕, 而是"Linux 加强隔离的沙箱加工具网关",这块目前已经相对成熟, 而设备端OS, 这些是跟用户身份、数据、硬件强相关的地方, 真正的重构发生在这里, 这一定程度上可以解释10月份MicroSoft与NVIDIA的在OS方面的合作.

以往OS 内核管理CPU的调度和执行, 大模型时期, 操作系统这一层会新增GPU算力的调度, 处理模型夹在、显存管理、带宽调度等,

此外还有等待人授权的暂停和恢复, 长期记忆的记忆快应用访问, 防篡改的可信记录底座审计能力, 权限与安全等.

10月份, MicroSoft和NVIDIA联手搞的底层重构 Windows OS, 就是在这一层构建AI Native数字世界基础设施.

Agent运行时层

单独把这一层抽象出来, 主要有两个原因,

因为这一层是全新的. 这一层解决的是让大模型稳定、可靠的跑起来.

它要解决一个旧的运行时没有遇到的东西: 非确定性.

直白一点说, 2025年3月的Manus、今年1月份出来的OpenClaw、以及之后的Hermes, 还有最近DeepSeek Harness, 其本质都是在做这一层的事.

这一层要处理的是很多:

循环与编排：一步步推进，能拆任务、能并行派给子 Agent

上下文管理：上下文窗口是 Agent 的"内存"，又小又贵，要靠压缩、检索、外部记忆来腾挪

工具层：发现工具、调用工具, 在这里你会看到MCP、A2A等协议, 未来更多与Agent相关的协议大都会先工作在这一层.

执行环境：沙箱，让它能跑代码、操作文件又不会闯祸

状态与持久化：长任务能中断、恢复，能停下来等人批准

权限与护栏：它能干什么、不能干什么

观测与审计：做了什么、谁授权的、花了多少

模型路由：这件事用云端大模型还是端侧小模型

由于是新增出来的“蛋糕”, 所以各方势力都想分上一块.

操作系统厂商想把它吃进系统，模型厂商想把它做成自己的应用层的底层平台，云厂商和开源框架在做通用版本。

这个多少有点像当年的浏览器, 夹在操作系统和网页之间.

所以这一层未来变化可遇见的比较大, 模型越来越强，现在运行时里替模型"拐杖"的部分，比如怎么规划、怎么管上下文，有些会被模型自己吃掉，这一块会变薄。但另一些不会：沙箱、权限、审计、持久化、人工确认。因为它们解决的不是"模型够不够聪明"，而是"现实世界要不要信任它"。所以我的判断是：跟能力相关的部分会变薄，跟信任相关的部分会长期存在，这也是这层最值得长期盯的地方。

到这里稍微扩展下, 操作系统和Agent运行时很多能力其实是有重叠的, 比如沙长期记忆属于操作系统, 跨应用可访问, 而短期记忆(加载什么, 怎么压缩)属于运行时.

有时候这个边界又是模糊的, 这也就是我们说的操作系统厂商可能会吃掉这一层.

在这一层大厂一直动作不断.

Google联合加密厂商搞得AP2, 是让服务方能接收 Agent 发起的付款，

Cloudflare搞得Web Bot Auth 是让网站能识别"好的 Agent"。

Manus 2.0 借手机号和邮箱，则是 Agent 用人的身份去敲应用的门，属于过渡办法.

. . .

应用层

这一层其实可以拆解为四样东西: 用户界面、业务能力、数据、以及前三项整合起来想达到的目的: 获客和赚钱.

不同的层在AI Native变化也会表现的不一样.

用户界面: 会大面积缩小, 从"让人一步步操作"退到"让人复核和确认". 这也是人与Agent交互的最小的入口, 但属于面向人体验的用户界面本身就是价值, 还会继续存在, 比如内容消费、社交、娱乐、创作等. 业务能力: 夸张的说, 这块会直接被Agent接管. 变成“注册成可被调用的动作” 数据: 数据的归属和授权将会变得更敏感, 至于数据会不会像Web3世界畅想的那样属于用户, 这个还真不好说, 可预测是是, 数据将以记忆的形式存在. 所以做数据和合规的这一块会比较稳. 获客和赚钱: 这个直接关乎的是商业模式, 传统靠抢注意力赚钱的模式（广告、信息流、停留时长），对 Agent 这个访客不灵，Agent 不看广告，也不会被好看的按钮吸引。

所以应用层最后真正争夺的是什么? 不是功能，而是入口和信任。所以你要重新思考你的商业逻辑.

今天的入口是图标、搜索框、信息流，明天可能是 Agent。订机票的例子里：航司有座位和票价，这是真正的能力，会继续存在；但比价聚合平台原来的护城河是"用户先打开我"，如果用户改成对 Agent 说一句话，聚合平台要么变成 Agent 调用的能力方，要么想办法自己做入口。

GEO就是在做这个事情, GEO 是"让 AI 在回答时选中你"，放到终局，就是"让别人的 Agent 选中你的服务"。区别在于终局里不止被引用，还要被调用、被信任、被付款。

简单总结下, 向AI Native数字世界基础设施的迁移, 不是完全全新设计一套新架构,而是, 有的部分会继续保留如网络层的那些协议, 有些在已有的地基上改良而来如基于HTTP协议的MCP、A2A、AP2等, 有些事完全新长出来的如护栏(Harness Engineering)

有了以上这个认知框架, 之后再去看大厂的那些动作, 你就能很快抓住那些商业决策背后的底层思路.