简体 | 繁体
loading...
新闻频道
  • 首页
  • 新闻
  • 读图
  • 财经
  • 教育
  • 家居
  • 健康
  • 美食
  • 时尚
  • 旅游
  • 影视
  • 博客
  • 群吧
  • 论坛
  • 电台
  • 焦点新闻
  • 图片新闻
  • 视频新闻
  • 生活百态
  • 娱乐新闻
您的位置: 文学城 » 新闻 » 焦点新闻 » 文明的断奶:算法洪流下,人性必须筑坝

文明的断奶:算法洪流下,人性必须筑坝

文章来源: 经济观察报 于 2026-09-26 07:56:24 - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
被阅读次数
文明的断奶:算法洪流下,人性必须筑坝

引言:繁荣背面,是一场无声的"人的退场"

0.1 技术越狂欢,人越困顿


我们正处在一个令人眩晕的时代。

大模型以周为单位迭代,生成式AI把创意门槛一脚踹低,自动驾驶正在重写"移动"的含义。可另一边,人的处境却没那么光鲜:外卖骑手被算法精确到秒——2021年多部门联合印发指导意见,明确要求平台制定、修订直接涉及劳动者权益的算法时须充分听取工会和劳动者代表意见并公示;外卖送餐员指导意见更是直接提出通过"算法取中"适当放宽配送时限。但现实是,这套"取中"落地参差,骑手端的倒计时压力并未真正消解。 白领在AI助手"助力"下被迫产出三倍报告;创作者的作品在版权模糊地带被无偿拿去"喂养"大模型——Anthropic已就未经授权使用受版权保护作品训练模型达成约15亿美元和解,为约50万部作品支付对价并销毁侵权副本,这是目前同类诉讼中规模最大的和解之一。

这不是技术本身的错。真正的问题在于,主导技术方向的那套逻辑太单一:资本的无限增殖本能。当技术进步的第一落点总是"降低人力成本""提升资本回报率",而不是"解放人的时间""丰富人的体验",智能时代就掉进了一个深刻悖论:工具越强大,作为"人"的我们反而越廉价、越可替代、越不被需要——更准确地说,IMF估算全球约40%岗位受AI影响,其中一半是互补而非替代;世界经济论坛2025年报告估算AI到2030年创造约1100万岗位、取代约900万。技术"让人更廉价"在"替代"这一半上证据并不干净;真正的问题是:AI省下的成本变成了更多人的可支配时间,还是只变成股东报表上更陡的一条曲线。

0.2 真问题:谁在主导,为谁服务

山姆·奥尔特曼曾在国会听证会上主动支持对前沿AI系统建立注册、披露、许可制度——这比含糊承认"麻烦不会小"更有力。但他没说透的是:问题未必出在技术本身,而更可能出在谁在主导技术、为谁服务、按什么逻辑分配收益。

于是,一个根本拷问浮出水面:智能时代,究竟是人本主义驯服资本,还是资本借技术之壳,完成对人类文明的终极收缩?

一、三重异化:资本逻辑如何在智能时代"拆除"人性

1.1 劳动的去尊严化:你成了AI的"数据饲料"

过去,流水线工人被异化为机器的一部分;今天,知识工作者被异化为AI的"数据饲料"和"校验工"。

你在社交媒体上的每一次点赞,都在为推荐算法提供免费训练数据;你为AI生成文本做的每一次修改,都在帮大模型学习如何"更像人"。可这部分"数据贡献",你的报酬里几乎没有体现。资本以"技术进步"之名,把人的隐性劳动免费收编,再以"效率提升"为由,把显性岗位逐出市场。麦肯锡2025年调研显示,51%的企业已因AI降低了入门级岗位需求——不是消灭了劳动,而是把劳动拆成了看不见的碎片,再让碎片免费入库。 劳动的去尊严化,就这样悄悄完成。

国内语境下,这套逻辑正在被部分识别:《生成式人工智能服务管理暂行办法》要求训练数据来源合法、尊重知识产权;2025年9月1日施行的《人工智能生成合成内容标识办法》明确显式标识+元数据隐式标识义务,禁止恶意删除、篡改、隐匿标识。但这些解决的是"能不能用",不是"用了之后怎么分"——收益归属仍是空白。

1.2 时间的去生命化:你的注意力成了拍卖品

互联网公司争夺的早已不是你的金钱,而是你的注意力时长。算法被精心设计成"最大化留存"的成瘾引擎——你刷到的每一条信息,都是经过海量A/B测试后最能绑架你情绪的版本。2024年全球社交媒体广告支出约2200亿美元——这笔钱买的不是你的点击,而是你清醒着却无法自主的那部分时间。全球用户日均社交媒体使用时长约143分钟,相当于每天有两个多小时,你的注意力在被无声拍卖。

你自己既是商品,也是消费者,唯独不再是你生命的主权者。当"杀时间"成为一门千亿美元级别的生意,你的"心自在"就变成了资本最大的敌人。时间的去生命化,让活着变成了被算法收割。

国内已有对应治理工具:网信办《互联网信息服务算法推荐管理规定》要求定期评估、接受社会监督;《个人信息保护法》第二十四条赋予个人对自动化决策的说明请求权与拒绝权——但现实中,行使这些权利的成本远高于平台收集数据的成本,权利存在而"可行使性"不足。

1.3 价值去主体化:你以为的想要,可能是算法让你以为

资本主义最精妙的一招,是把"社会需要"偷换成"市场需要"。

你有表达的需要,但平台只推送能引发对立情绪的内容;你有深度学习的需要,但知识付费产品只售卖"30分钟听完一本经典"的速食替代品。久而久之,你甚至分不清:我想要的,到底是我真正需要的,还是算法让我以为我需要的?斯坦福团队2026年研究显示,66%的受访者确实把更多时间花在了高价值工作上——前沿使用者群体中这一比例达80%。技术本身可以让人更自由;问题是,这个"更自由"的红利被谁截胡了。当人的欲望被资本反向塑造,人的主体性便悄然蒸发。 价值去主体化,是三重异化里最隐蔽也最致命的一层。

这三重异化叠加起来,就是引言里那个残酷悖论:技术越发达,"人"越被压缩成一串可交易、可替代、可预测的参数——不是因为技术必然如此,而是因为现实中它永远带着设计它的人的利益。

二、共谋的牢笼:为什么"市场之手"救不了人性

2.1 赢家通吃:消费者"用脚投票",却无处可逃


有人会说:市场经济有自我调节机制,消费者用脚投票,企业若过度压榨人性,终将被市场惩罚。

这套说辞在工业时代或许部分成立,但在网络效应与数据垄断并存的智能时代,已经沦为精致的谎言。AI大模型训练成本以亿美元计,数据壁垒高如城墙。一旦某家企业率先跑通"数据—模型—用户"的增长飞轮,后来者几乎没有翻盘可能。全球头部基础模型训练单次成本已突破数亿美元量级,这不是小团队能玩的游戏。

市场集中度空前提升,消费者的"用脚投票"变成"无处可逃"——你不用微信,就意味着与社交网络断裂;你不用某外卖平台,就意味着可选餐厅锐减一半。赢家通吃,让退出机制失效。

国内层面,算法备案制度已在运转:截至2025年12月底,15批次751个算法完成备案,14批次5100个深度合成服务算法备案。但备案解决的是"是否登记",不等于"登记之后有没有被约束"——这是国内规则真正的落点所在:义务清单很细,但约束效力仍在爬坡。

2.2 注意力军备竞赛:每家都理性,合起来却疯狂

单个企业优化算法以提升用户时长,是理性决策;但所有企业同时这样做,就造成全社会性的注意力掠夺与精神内耗。

这就是博弈论中的"囚徒困境":每一家都不愿率先降低算法成瘾性,因为那意味着用户流失;结果是所有企业都在加速榨取人性,没有一家能独善其身。国内"清朗·网络平台算法典型问题治理"专项行动已在整治信息茧房、榜单操纵、大数据杀熟——这说明监管看见了问题,但专项行动是脉冲式的,平台回到日常运营后是否真的调低了"留存最大化"的权重,仍缺乏持续可量化的追踪机制。

注意力军备竞赛的悲剧在于,参与者越理性,整体越疯狂。

2.3 效率成为绝对正义:质疑者被贴上"反发展"标签

当资本将"降本增效"包装成社会进步的唯一标尺,任何质疑都被打上"反发展""保守主义"的标签。

但这里需要诚实:效率本身不是假的。 员工使用AI的比例从30%升至76%(麦肯锡数据),66%的人确实把时间腾给了高价值工作——问题不是"效率不该有",而是"效率的红利归谁"。 如果AI省下的每一分钟都变成了股东的分红而不是劳动者的闲暇,那"效率"确实就成了压垮人的那块石头。

在这种话语霸权下,"人本主义"被矮化为"矫情的浪漫",而"效率"则被神化为"理性的良知"。这不是价值观的多元竞争,而是一场话语的全面压制。效率绝对正义一旦成立,人性就只能退场。

所以,指望资本自发"良心发现",等于指望狮子主动吃草。必须有一支外部的、制度化的、具有强制力的力量介入,为技术划定不可逾越的"人性护栏"。

三、人性堤坝:给资本锁死三道底线

3.1 第一道堤坝:确立"数字劳动"的产权与收益权


你的每一次点击、每一次对话、每一次标注,都在为AI系统创造价值。这套逻辑必须从法律层面得到承认。

欧盟《人工智能法案》第53(1)(d)条对系统性风险模型设定了透明度与评估义务,只是第一步;更彻底的方向是建立个人数据信托制度——将每个人的数据资产纳入独立第三方托管,企业在使用数据训练模型时,须向数据信托支付公允对价,再按贡献度分配给个人。这与GDPR第15—22条的数据可携带权、反对自动化决策权衔接,是"权利"到"收益"的自然延伸。

国内《个人信息保护法》第二十四条已赋予个人对自动化决策的说明请求权与拒绝权;但"拒绝"之后有没有替代方案、"说明"的成本由谁承担,目前仍是模糊地带。数据信托的本土化,需要先把这两个缺口填上。

这不是乌托邦,而是对"劳动创造价值"这一资本主义基本法则的数字化延伸。数字劳动的产权与收益权,必须被看见。

3.2 第二道堤坝:用"反垄断2.0"打破注意力囚笼

传统反垄断看的是市场份额和价格操纵;但在智能时代,注意力垄断和数据垄断才是真正的祸源。

必须立法禁止算法以"成瘾性最大化"为优化目标,强制平台向用户提供"非个性化推荐"选项,并限制单一平台对用户注意力的日均占有上限。加州SB 976已要求大型平台向未成年用户提供无个性化推荐选项;欧盟《数字市场法案》对"看门人"平台设置了互操作、数据隔离等义务,违规罚款可达全球年营业额10%。反垄断2.0反的不是规模,而是对人性注意力的无度圈占。

国内《算法推荐管理规定》已要求提供关闭个性化推荐选项——但现实中这个开关藏在五六层菜单深处,且关闭后推荐质量断崖式下降,等于变相惩罚行使权利的用户。真正的"反垄断2.0"需要把关闭按钮做成默认项,而非藏起来的彩蛋。

3.3 第三道堤坝:建立"技术影响评估"的强制前置程序

任何涉及大规模部署的AI系统,在上线前必须通过独立委员会的"社会韧性影响评估"——不仅评估经济效率,更要评估其对就业结构、心理健康、社会信任度、文化多样性的中长期影响。

但评估若变成纸面流程,就会沦为又一项合规成本。要让它真的咬人,需要四条硬约束:

第一,评估主体不能全是内部人。须含劳动者代表、用户代表与独立技术专家,名单与利益冲突声明公开。

第二,评估对象分级。高风险高影响场景——招聘、信贷、公共福利裁量、教育评价——强制前置;低风险场景可走简化程序。不是所有模型都要过同一道筛子。

第三,评估结果附带明确约束:限范围、限期整改、暂停上线。不是"建议优化"就完事,而是评估不通过就不能上。

第四,结论与整改记录可追溯、可质疑。公民与受影响群体有权申请复议,而不是把评估报告锁进抽屉。

国内真正缺的不是权利本身,而是让权利能被行使的申诉成本与举证责任安排。如果普通人要花几千块、跑三个部门才能行使一次拒绝权,那这个权利在统计上好看,在生活上不存在。

技术影响评估,就是给资本逐利本能植入一个"人性刹车片"。刹车片不是为了阻止车跑,而是为了让车跑得更远、更稳。

四、谁来筑坝:国家、企业与公民社会的共同担当

4.1 国家:从"效率优先"转向"韧性优先"


过去四十年,我们见证了"发展是硬道理"的奇迹。但智能时代的新硬道理是:没有韧性的发展,本质上是加速走向悬崖。

政府应当将社会韧性指数——包括心理资本、社会信任、文化多样性等维度——纳入地方治理考核体系,使其与GDP并重。不是不要GDP,而是不能让GDP成为唯一能说话的指标。 更重要的是,国家要主动成为"最后保障者":当技术冲击导致大规模结构性失业时,不是用"再培训"把责任推给个人,而是通过全民基本收入(UBI)等制度,为个体提供"不恐惧"的安全网。只有不恐惧的人,才敢于创新;只有不恐惧的社会,才具备真正的韧性。

4.2 企业:从"股东至上"迈向"利益相关者共治"

这不应只是挂在ESG报告里的漂亮话。

企业董事会中应设立"人文与伦理委员会",拥有对产品上线的实质否决权;企业高管的薪酬考核中,应纳入"用户精神健康影响""社会信任贡献度"等非财务指标。更根本的是,企业需要重新定义"成功"——不是"我们替代了多少岗位",而是"我们为多少人创造了更有尊严的工作方式"。这不是道德绑架,而是长期主义的理性计算:一个精神枯萎的社会,不可能养出一个永续增长的市场。利益相关者共治,不是分权,而是续命。

4.3 公民社会:做永不沉默的"第三只眼",也要给替代方案

独立媒体、学术机构、非营利组织、消费者联盟——这些力量需要在资本的合谋之外,保持对技术的持续审视与公共讨论。

每一次对算法偏见的曝光、每一次对数据黑箱的诉讼、每一次对技术伦理的公开辩论,都是在为这个时代的文明底线添砖加瓦。重要的是,公民社会的监督不能停留在"愤怒与批判",而需要构建"建设性替代方案"的能力——不只是说"这样不对",而是说"那样可能会更好"。第三只眼,既要看见问题,也要看见出路。

这三股力量形成合力,才能让"人本主义"从一句空洞口号,变成一套可执行、可监督、可迭代的社会操作系统。

五、文明的尊严,在于拒绝成为算法的"辅料"

5.1 技术从未毁灭人性,但人性必须重新夺回


回望人类技术史,每一次重大突破都曾引发类似焦虑:印刷术会否摧毁思想?蒸汽机会否消灭工匠?互联网会否瓦解社区?

事实证明,技术从未毁灭人性,但在每一次技术浪潮中,人性都必须经历一场艰苦卓绝的"重新夺回"之战——从资本的裹挟中夺回尊严,从效率的崇拜中夺回意义,从算法的规训中夺回自由。文明的断奶,就是断掉对资本无限增殖逻辑的依赖,让人重新成为目的,而不是手段。

5.2 这场仗才刚刚开始

智能时代的这场战役,结局尚未注定。

如果继续放任资本以技术为马、以人性为鱼肉(原稿误作"鱼狗",已正),我们终将滑向科幻中那个令人不寒而栗的预言:人类成为算法海洋中漂浮的"生物辅料",为AI系统提供无穷尽的训练数据与注意力燃料,却再也记不起"幸福"原本的含义。

但如果我们足够清醒、足够团结、足够有制度想象力,我们完全有可能走出一条新路——一条既利用资本的力量加速技术普惠,又以人本主义的堤坝为资本锁死底线的共生之路。

到那时,我们回望今天,会像回望废除奴隶制、建立劳动保护法、确立普选权的先辈一样,感叹一声:那场漫长而艰难的"人性保卫战",我们终究打赢了。

而此刻,这场仗才刚刚开始。文明的尊严,就藏在每一个拒绝被算法完全解析的瞬间里。

`
  • 月满中秋,把健康送给自己,也送给最牵挂的人。美国专利产品【骨精华】守护骨骼与关节健康;【心血通】支持心血管健康;【益脑灵】呵护脑部健康与记忆力。
`
查看评论(2)
  • 文学城简介
  • 广告服务
  • 联系我们
  • 招聘信息
  • 注册笔名
  • 申请版主
  • 收藏文学城

WENXUECITY.COM does not represent or guarantee the truthfulness, accuracy, or reliability of any of communications posted by other users.

Copyright ©1998-2026 wenxuecity.com All rights reserved. Privacy Statement & Terms of Use & User Privacy Protection Policy

24小时热点排行

对外经济贸易大学发布讣告:刘欢病逝 享年63岁
刘欢病逝,学生追忆:他的课要靠“抢”
作曲家:刘欢离世十几天前急着还我钱 可能有预感
刘欢妻子卢璐曾拜托窦文涛辟谣:我们欢哥是帅哥
刘欢妻子朋友圈发文:我永远的爱,永远的痛






24小时讨论排行

美国法院判决 枪杀华人导师的中国博士生无罪
特朗普被曝会晤时呼吁泽连斯基去莫斯科见普京
网友热议:中国女篮输球后,韩国球员比“太小”手势
习近平结束访美,特朗普社交媒体第一时间发文
中美元首华盛顿会晤,为何“规格罕见”?
月饼卖不动?饼企盯上海外,外国人也吃月饼!
比尔·盖茨警告:AI足以引发致十亿人死亡事件
南医大坠亡悲剧反转,谁在制造”第二犯罪现场”
陈妤颉首战亚运即打破尘封24年纪录 她来头不小
日本亚组委就住宿、交通安排不周问题道歉
未来5年10万人,习近平向美国青少年发出新邀约
知名赛车手,路上被“怒”杀
7万吨铁矿船 载不动务工梦:18名中国船员失联印度洋
文学城新闻
切换到网页版

文明的断奶:算法洪流下,人性必须筑坝

经济观察报 2026-09-26 07:56:24
文明的断奶:算法洪流下,人性必须筑坝

引言:繁荣背面,是一场无声的"人的退场"

0.1 技术越狂欢,人越困顿


我们正处在一个令人眩晕的时代。

大模型以周为单位迭代,生成式AI把创意门槛一脚踹低,自动驾驶正在重写"移动"的含义。可另一边,人的处境却没那么光鲜:外卖骑手被算法精确到秒——2021年多部门联合印发指导意见,明确要求平台制定、修订直接涉及劳动者权益的算法时须充分听取工会和劳动者代表意见并公示;外卖送餐员指导意见更是直接提出通过"算法取中"适当放宽配送时限。但现实是,这套"取中"落地参差,骑手端的倒计时压力并未真正消解。 白领在AI助手"助力"下被迫产出三倍报告;创作者的作品在版权模糊地带被无偿拿去"喂养"大模型——Anthropic已就未经授权使用受版权保护作品训练模型达成约15亿美元和解,为约50万部作品支付对价并销毁侵权副本,这是目前同类诉讼中规模最大的和解之一。

这不是技术本身的错。真正的问题在于,主导技术方向的那套逻辑太单一:资本的无限增殖本能。当技术进步的第一落点总是"降低人力成本""提升资本回报率",而不是"解放人的时间""丰富人的体验",智能时代就掉进了一个深刻悖论:工具越强大,作为"人"的我们反而越廉价、越可替代、越不被需要——更准确地说,IMF估算全球约40%岗位受AI影响,其中一半是互补而非替代;世界经济论坛2025年报告估算AI到2030年创造约1100万岗位、取代约900万。技术"让人更廉价"在"替代"这一半上证据并不干净;真正的问题是:AI省下的成本变成了更多人的可支配时间,还是只变成股东报表上更陡的一条曲线。

0.2 真问题:谁在主导,为谁服务

山姆·奥尔特曼曾在国会听证会上主动支持对前沿AI系统建立注册、披露、许可制度——这比含糊承认"麻烦不会小"更有力。但他没说透的是:问题未必出在技术本身,而更可能出在谁在主导技术、为谁服务、按什么逻辑分配收益。

于是,一个根本拷问浮出水面:智能时代,究竟是人本主义驯服资本,还是资本借技术之壳,完成对人类文明的终极收缩?

一、三重异化:资本逻辑如何在智能时代"拆除"人性

1.1 劳动的去尊严化:你成了AI的"数据饲料"

过去,流水线工人被异化为机器的一部分;今天,知识工作者被异化为AI的"数据饲料"和"校验工"。

你在社交媒体上的每一次点赞,都在为推荐算法提供免费训练数据;你为AI生成文本做的每一次修改,都在帮大模型学习如何"更像人"。可这部分"数据贡献",你的报酬里几乎没有体现。资本以"技术进步"之名,把人的隐性劳动免费收编,再以"效率提升"为由,把显性岗位逐出市场。麦肯锡2025年调研显示,51%的企业已因AI降低了入门级岗位需求——不是消灭了劳动,而是把劳动拆成了看不见的碎片,再让碎片免费入库。 劳动的去尊严化,就这样悄悄完成。

国内语境下,这套逻辑正在被部分识别:《生成式人工智能服务管理暂行办法》要求训练数据来源合法、尊重知识产权;2025年9月1日施行的《人工智能生成合成内容标识办法》明确显式标识+元数据隐式标识义务,禁止恶意删除、篡改、隐匿标识。但这些解决的是"能不能用",不是"用了之后怎么分"——收益归属仍是空白。

1.2 时间的去生命化:你的注意力成了拍卖品

互联网公司争夺的早已不是你的金钱,而是你的注意力时长。算法被精心设计成"最大化留存"的成瘾引擎——你刷到的每一条信息,都是经过海量A/B测试后最能绑架你情绪的版本。2024年全球社交媒体广告支出约2200亿美元——这笔钱买的不是你的点击,而是你清醒着却无法自主的那部分时间。全球用户日均社交媒体使用时长约143分钟,相当于每天有两个多小时,你的注意力在被无声拍卖。

你自己既是商品,也是消费者,唯独不再是你生命的主权者。当"杀时间"成为一门千亿美元级别的生意,你的"心自在"就变成了资本最大的敌人。时间的去生命化,让活着变成了被算法收割。

国内已有对应治理工具:网信办《互联网信息服务算法推荐管理规定》要求定期评估、接受社会监督;《个人信息保护法》第二十四条赋予个人对自动化决策的说明请求权与拒绝权——但现实中,行使这些权利的成本远高于平台收集数据的成本,权利存在而"可行使性"不足。

1.3 价值去主体化:你以为的想要,可能是算法让你以为

资本主义最精妙的一招,是把"社会需要"偷换成"市场需要"。

你有表达的需要,但平台只推送能引发对立情绪的内容;你有深度学习的需要,但知识付费产品只售卖"30分钟听完一本经典"的速食替代品。久而久之,你甚至分不清:我想要的,到底是我真正需要的,还是算法让我以为我需要的?斯坦福团队2026年研究显示,66%的受访者确实把更多时间花在了高价值工作上——前沿使用者群体中这一比例达80%。技术本身可以让人更自由;问题是,这个"更自由"的红利被谁截胡了。当人的欲望被资本反向塑造,人的主体性便悄然蒸发。 价值去主体化,是三重异化里最隐蔽也最致命的一层。

这三重异化叠加起来,就是引言里那个残酷悖论:技术越发达,"人"越被压缩成一串可交易、可替代、可预测的参数——不是因为技术必然如此,而是因为现实中它永远带着设计它的人的利益。

二、共谋的牢笼:为什么"市场之手"救不了人性

2.1 赢家通吃:消费者"用脚投票",却无处可逃


有人会说:市场经济有自我调节机制,消费者用脚投票,企业若过度压榨人性,终将被市场惩罚。

这套说辞在工业时代或许部分成立,但在网络效应与数据垄断并存的智能时代,已经沦为精致的谎言。AI大模型训练成本以亿美元计,数据壁垒高如城墙。一旦某家企业率先跑通"数据—模型—用户"的增长飞轮,后来者几乎没有翻盘可能。全球头部基础模型训练单次成本已突破数亿美元量级,这不是小团队能玩的游戏。

市场集中度空前提升,消费者的"用脚投票"变成"无处可逃"——你不用微信,就意味着与社交网络断裂;你不用某外卖平台,就意味着可选餐厅锐减一半。赢家通吃,让退出机制失效。

国内层面,算法备案制度已在运转:截至2025年12月底,15批次751个算法完成备案,14批次5100个深度合成服务算法备案。但备案解决的是"是否登记",不等于"登记之后有没有被约束"——这是国内规则真正的落点所在:义务清单很细,但约束效力仍在爬坡。

2.2 注意力军备竞赛:每家都理性,合起来却疯狂

单个企业优化算法以提升用户时长,是理性决策;但所有企业同时这样做,就造成全社会性的注意力掠夺与精神内耗。

这就是博弈论中的"囚徒困境":每一家都不愿率先降低算法成瘾性,因为那意味着用户流失;结果是所有企业都在加速榨取人性,没有一家能独善其身。国内"清朗·网络平台算法典型问题治理"专项行动已在整治信息茧房、榜单操纵、大数据杀熟——这说明监管看见了问题,但专项行动是脉冲式的,平台回到日常运营后是否真的调低了"留存最大化"的权重,仍缺乏持续可量化的追踪机制。

注意力军备竞赛的悲剧在于,参与者越理性,整体越疯狂。

2.3 效率成为绝对正义:质疑者被贴上"反发展"标签

当资本将"降本增效"包装成社会进步的唯一标尺,任何质疑都被打上"反发展""保守主义"的标签。

但这里需要诚实:效率本身不是假的。 员工使用AI的比例从30%升至76%(麦肯锡数据),66%的人确实把时间腾给了高价值工作——问题不是"效率不该有",而是"效率的红利归谁"。 如果AI省下的每一分钟都变成了股东的分红而不是劳动者的闲暇,那"效率"确实就成了压垮人的那块石头。

在这种话语霸权下,"人本主义"被矮化为"矫情的浪漫",而"效率"则被神化为"理性的良知"。这不是价值观的多元竞争,而是一场话语的全面压制。效率绝对正义一旦成立,人性就只能退场。

所以,指望资本自发"良心发现",等于指望狮子主动吃草。必须有一支外部的、制度化的、具有强制力的力量介入,为技术划定不可逾越的"人性护栏"。

三、人性堤坝:给资本锁死三道底线

3.1 第一道堤坝:确立"数字劳动"的产权与收益权


你的每一次点击、每一次对话、每一次标注,都在为AI系统创造价值。这套逻辑必须从法律层面得到承认。

欧盟《人工智能法案》第53(1)(d)条对系统性风险模型设定了透明度与评估义务,只是第一步;更彻底的方向是建立个人数据信托制度——将每个人的数据资产纳入独立第三方托管,企业在使用数据训练模型时,须向数据信托支付公允对价,再按贡献度分配给个人。这与GDPR第15—22条的数据可携带权、反对自动化决策权衔接,是"权利"到"收益"的自然延伸。

国内《个人信息保护法》第二十四条已赋予个人对自动化决策的说明请求权与拒绝权;但"拒绝"之后有没有替代方案、"说明"的成本由谁承担,目前仍是模糊地带。数据信托的本土化,需要先把这两个缺口填上。

这不是乌托邦,而是对"劳动创造价值"这一资本主义基本法则的数字化延伸。数字劳动的产权与收益权,必须被看见。

3.2 第二道堤坝:用"反垄断2.0"打破注意力囚笼

传统反垄断看的是市场份额和价格操纵;但在智能时代,注意力垄断和数据垄断才是真正的祸源。

必须立法禁止算法以"成瘾性最大化"为优化目标,强制平台向用户提供"非个性化推荐"选项,并限制单一平台对用户注意力的日均占有上限。加州SB 976已要求大型平台向未成年用户提供无个性化推荐选项;欧盟《数字市场法案》对"看门人"平台设置了互操作、数据隔离等义务,违规罚款可达全球年营业额10%。反垄断2.0反的不是规模,而是对人性注意力的无度圈占。

国内《算法推荐管理规定》已要求提供关闭个性化推荐选项——但现实中这个开关藏在五六层菜单深处,且关闭后推荐质量断崖式下降,等于变相惩罚行使权利的用户。真正的"反垄断2.0"需要把关闭按钮做成默认项,而非藏起来的彩蛋。

3.3 第三道堤坝:建立"技术影响评估"的强制前置程序

任何涉及大规模部署的AI系统,在上线前必须通过独立委员会的"社会韧性影响评估"——不仅评估经济效率,更要评估其对就业结构、心理健康、社会信任度、文化多样性的中长期影响。

但评估若变成纸面流程,就会沦为又一项合规成本。要让它真的咬人,需要四条硬约束:

第一,评估主体不能全是内部人。须含劳动者代表、用户代表与独立技术专家,名单与利益冲突声明公开。

第二,评估对象分级。高风险高影响场景——招聘、信贷、公共福利裁量、教育评价——强制前置;低风险场景可走简化程序。不是所有模型都要过同一道筛子。

第三,评估结果附带明确约束:限范围、限期整改、暂停上线。不是"建议优化"就完事,而是评估不通过就不能上。

第四,结论与整改记录可追溯、可质疑。公民与受影响群体有权申请复议,而不是把评估报告锁进抽屉。

国内真正缺的不是权利本身,而是让权利能被行使的申诉成本与举证责任安排。如果普通人要花几千块、跑三个部门才能行使一次拒绝权,那这个权利在统计上好看,在生活上不存在。

技术影响评估,就是给资本逐利本能植入一个"人性刹车片"。刹车片不是为了阻止车跑,而是为了让车跑得更远、更稳。

四、谁来筑坝:国家、企业与公民社会的共同担当

4.1 国家:从"效率优先"转向"韧性优先"


过去四十年,我们见证了"发展是硬道理"的奇迹。但智能时代的新硬道理是:没有韧性的发展,本质上是加速走向悬崖。

政府应当将社会韧性指数——包括心理资本、社会信任、文化多样性等维度——纳入地方治理考核体系,使其与GDP并重。不是不要GDP,而是不能让GDP成为唯一能说话的指标。 更重要的是,国家要主动成为"最后保障者":当技术冲击导致大规模结构性失业时,不是用"再培训"把责任推给个人,而是通过全民基本收入(UBI)等制度,为个体提供"不恐惧"的安全网。只有不恐惧的人,才敢于创新;只有不恐惧的社会,才具备真正的韧性。

4.2 企业:从"股东至上"迈向"利益相关者共治"

这不应只是挂在ESG报告里的漂亮话。

企业董事会中应设立"人文与伦理委员会",拥有对产品上线的实质否决权;企业高管的薪酬考核中,应纳入"用户精神健康影响""社会信任贡献度"等非财务指标。更根本的是,企业需要重新定义"成功"——不是"我们替代了多少岗位",而是"我们为多少人创造了更有尊严的工作方式"。这不是道德绑架,而是长期主义的理性计算:一个精神枯萎的社会,不可能养出一个永续增长的市场。利益相关者共治,不是分权,而是续命。

4.3 公民社会:做永不沉默的"第三只眼",也要给替代方案

独立媒体、学术机构、非营利组织、消费者联盟——这些力量需要在资本的合谋之外,保持对技术的持续审视与公共讨论。

每一次对算法偏见的曝光、每一次对数据黑箱的诉讼、每一次对技术伦理的公开辩论,都是在为这个时代的文明底线添砖加瓦。重要的是,公民社会的监督不能停留在"愤怒与批判",而需要构建"建设性替代方案"的能力——不只是说"这样不对",而是说"那样可能会更好"。第三只眼,既要看见问题,也要看见出路。

这三股力量形成合力,才能让"人本主义"从一句空洞口号,变成一套可执行、可监督、可迭代的社会操作系统。

五、文明的尊严,在于拒绝成为算法的"辅料"

5.1 技术从未毁灭人性,但人性必须重新夺回


回望人类技术史,每一次重大突破都曾引发类似焦虑:印刷术会否摧毁思想?蒸汽机会否消灭工匠?互联网会否瓦解社区?

事实证明,技术从未毁灭人性,但在每一次技术浪潮中,人性都必须经历一场艰苦卓绝的"重新夺回"之战——从资本的裹挟中夺回尊严,从效率的崇拜中夺回意义,从算法的规训中夺回自由。文明的断奶,就是断掉对资本无限增殖逻辑的依赖,让人重新成为目的,而不是手段。

5.2 这场仗才刚刚开始

智能时代的这场战役,结局尚未注定。

如果继续放任资本以技术为马、以人性为鱼肉(原稿误作"鱼狗",已正),我们终将滑向科幻中那个令人不寒而栗的预言:人类成为算法海洋中漂浮的"生物辅料",为AI系统提供无穷尽的训练数据与注意力燃料,却再也记不起"幸福"原本的含义。

但如果我们足够清醒、足够团结、足够有制度想象力,我们完全有可能走出一条新路——一条既利用资本的力量加速技术普惠,又以人本主义的堤坝为资本锁死底线的共生之路。

到那时,我们回望今天,会像回望废除奴隶制、建立劳动保护法、确立普选权的先辈一样,感叹一声:那场漫长而艰难的"人性保卫战",我们终究打赢了。

而此刻,这场仗才刚刚开始。文明的尊严,就藏在每一个拒绝被算法完全解析的瞬间里。

× 文学城 App
文学城 App
让阅读更方便
免费 · iOS/Android
立即下载