谁在分配 AI:从“看不懂代码”到“看不懂权力”的二十年

2005 年前后,普通人第一次大规模触网。你会用网页,不会写 HTML;后来你会刷 App,不知道推荐算法凭什么决定你看到什么。代码在幕后,权力也在幕后——你看不懂,但你感觉得到被安排。
二十年后,AI 来了。你会用对话,不懂 transformer;你每天被模型服务、塑造、评估——而训练它的人、拥有它的人、决定它按什么规则把能力分配给谁的人,你依然一无所知。
opacity(不透明)没有消失,它升级了。
一、历史押韵:两次"看不懂"
先把两次"看不懂"并排放一下:
2005 年,网页与 App 时代。 浏览器是窗口,代码是黑箱。后来算法分发时代到来:你以为自己在"发现"内容,其实是被"投喂"内容。黑箱决定的是分发——信息已经存在,它决定你看到哪一条。
2026 年,AI 时代。 模型是黑箱中的黑箱——连开发者都无法完全解释某一次输出为什么是这样(这是严肃的可解释性难题,不是借口)。而这一次,黑箱参与的是生成:你读到的总结、翻译、代码、文案、图像,很多是被"现写"出来的。你的信息环境本身,是生成的。
关键区别就在这里:上一次,权力决定你看到什么;这一次,权力参与决定"什么存在"。从守门人(gatekeeper)到现实生成器,权力的形态往前迈了一大步。
而拥有这种权力的人是谁、他们按什么规则分配它——我们和二十年前一样,一无所知。
二、新阶层:站在模型两边的人
AI 时代的社会分层,正在沿着"离模型有多近"重新划线。大致是四层:
- 算力与模型所有者:训练一个前沿模型需要数亿美元的算力。这一层全球屈指可数,他们是"发牌的人"。
- 云与 API 分发层:把模型能力切成 API 按量出售。他们是"定价的人"——谁可以用、用多强、多少钱,由他们说了算。
- 应用构建者:调用 API 做产品。他们是"翻译的人"——把模型能力翻译成具体场景,但命脉攥在上一层手里(看看那些一夜之间被官方功能"杀死"的创业公司)。
- 终端用户与数据贡献者:用产品的人。同时,所有人的使用数据都在反哺模型——你的每一次对话、每一次点赞/点踩,都在帮它变得更聪明。
注意第四层的双重身份:第一篇说现代人是"被统计、被分类的对象",在 AI 时代升级成了"被投喂给模型的对象"。而在第一层和第四层之间,还藏着一个被遗忘的群体——数据劳工:肯尼亚、菲律宾的内容标注员,时薪 2 美元,替模型挡下最血腥、最仇恨的内容,让它在你面前彬彬有礼。AI 的"体面",是有人替它"不体面"换来的。
还有一层不平等很少被谈论:语言。训练数据的分布决定模型"更懂谁"。英文世界的模型最强,中文次之,绝大多数小语种在 AI 时代近乎"失语"。分配的第一道裂缝,沿着语言划开。
三、分配的四个黑箱
“拥有 AI 的阶层如何分配它”,具体可以拆成四个"不知道":
1. 不知道它吃了什么。 训练数据从哪来?爬了谁的书、谁的文章、谁的代码?版权官司打到今天没有定论。数据里的偏见(性别、种族、地域、政治)会原样进入模型,而你无从审计它的"食谱"。
2. 不知道它被调成了什么价值观。 “对齐”(alignment)听起来很美好——有用、无害、诚实。但谁的"有用"?RLHF 的标注指南是谁写的?拒绝回答的边界由谁划定?同一类问题,在不同地区的版本里答案可能完全不同。对齐不是中立的技术,它是价值观的再分配,而分配者从不露面。
3. 不知道它为什么这样对你。 同一个问题,换个用户、换个时间、换个地区,答案可能不一样。审核、降权、限流的规则不公开。二十年前你至少知道"热搜可能是买的",今天你连"为什么它这样回答我"都无从问起。
4. 不知道能力按什么规则卖。 API 定价说涨就涨,免费额度说收就收,最强模型只向特定地区、特定用户开放。算力像电力一样被"配给"——而配给的规则,写在你看不到的合同里。
四个黑箱叠在一起,就是你说的那种感觉:我们一无所知。 不是因为我们笨,而是因为分配机制本身被设计成了不可见。
四、从自我管理到认知外包
把这篇和前三篇连起来看,会看到一条完整的权力升级链:
- 第一篇:治理术从"你必须服从"进化到"你应该主动成为更好的自己"——自我管理。
- 第三篇:自我管理这个观念本身,是三百年制造出来的历史产品。
- 第四篇:AI 把这条链再往前推了一步——从"自我管理"到**“认知外包”**。
当模型替你写周报、替你做分析、替你表达观点,“自我"本身正在被外包。第三篇结尾说要"拿回’更好’的定义权”,而这里就是定义权争夺的主战场:当 AI 替你思考时,思考的方向是谁定的?
这不是危言耸听。想想推荐算法时代:它没有强迫你看任何东西,只是让你"自愿"地越刷越久。AI 时代如法炮制:它不禁止你思考,只是让"不思考"变得无比舒适。最精致的治理,永远是让你心甘情愿的那一种——第一篇的福柯分析,在这里依然有效,只是主角从"分类系统"换成了"生成系统"。
五、普通人怎么办:三件具体的事
不重复第二篇的通用行动系统,这里只说 AI 时代特化的三件:
1. 守住"一手验证"的能力。 模型会"一本正经地胡说八道"(幻觉)——这是它作为概率机器的本质,不是偶发 bug。对健康、法律、投资等关键信息,永远交叉验证。这是第二篇"信息系统"在 AI 时代的特化版本:信源分层之上,再加一层"生成内容默认不可信"。
2. 把 AI 当杠杆,不当大脑。 判别问题和第三篇一脉相承:“这个问题是谁在定义?” 让 AI 执行你的判断,不让 AI 替你做判断。写作先自己列提纲再让 AI 扩写,而不是反过来——顺序一反,定义权就易手了。
3. 参与"分配政治"。 这是普通人唯一能介入的分配环节:关注开源模型与开放权重( openness 是对抗黑箱的唯一杠杆);支持数据权利的讨论——你的数据被拿去训练模型,你是否有发言权、是否该有回报?分配规则不会自己变透明,透明是争取来的。
六、结语:认知免疫力的最终考场
第二篇说,每一轮技术变革都重发牌;这一次发的牌,是"认知"本身。
第一篇提出的"认知免疫力"——不被成功学驯化,也不滑向反智——它的最终考场就在这里:当世界的信息越来越由不可见的模型生成,免疫力不再只是"不被话术忽悠",而是**“知道自己正在和谁的思想打交道”**。
二十年前,我们看不懂网页背后的代码,于是把命运交给了写代码的人;看不懂 App 的算法,于是把注意力交给了做分发的人。今天,如果我们继续看不懂拥有 AI 的阶层如何分配它,我们交出去的将是更根本的东西:定义现实的能力。
好消息是,历史也押韵在另一边:每一次黑箱出现,都会催生新的"看懂"的人——当年的站长、后来的算法工程师、今天的提示词工程师和开源社区。看不懂是起点,不是终点。
问题只在于:你是想做看懂的人,还是继续做一无所知的人?
本系列四篇同源于 Notion 笔记《知识—权力—自我:现代社会如何塑造人|思想史与个人认知框架》。第一篇:知识—权力—自我:现代社会如何塑造人;第二篇:错过一个时代之后:三环境复盘与下一轮技术变革的行动系统;第三篇:“成为更好的自己”三百年:自我管理是如何被发明的。