王飞跃：重视联合国预警，完善AI治理框架

来源：环球时报

7月6日至7日，首届人工智能（AI）治理全球对话在瑞士日内瓦举行。本次会议审议了全球首份独立开展的AI科学评估成果。评估结果由联合国人工智能独立国际科学小组完成，该小组汇集了全球范围内40位性别均衡的顶尖科学家，实现了迄今为止针对全球AI发展状况、最全面的一次全人类“集体体检”。

这份报告不带单一国家立场，它揭示了智能浪潮下全人类共同的深层发展焦虑：先进AI系统的演化速度，早已超出全球现行法律、行政监管与社会约束体系的承载能力；算力、通用大模型、自主AI智能体等核心资源，高度集中在少数商业科技巨头手中，技术红利分配不均、算法偏见、自主智能安全隐患、数字权力被垄断等多重风险，正在相继出现。

近两年，美国AI企业Anthropic推出的Claude Mythos 5级基座模型，引发热议。与其共享同一底层架构、面向公众商用开放的衍生版本 Claude Fable 5 同步上线发布。企业持续对外渲染，这套基座模型拥有近乎人类顶尖专家的长链推演与性能突破能力，反复向公众塑造模型可自主谋划、自主突破人类限制的叙事。

这种刻意拔高性能的宣传持续加剧公众焦虑：倘若这个基座模型的逻辑推演能力、综合思考能力已经逼近甚至超过人类，这套核心技术完全掌握在Anthropic这家私营企业手中，具备强大自主推演潜力的模型，为何始终受控于企业资本？会不会脱离人类管控自主运行？这些追问，暴露了商业营销话术与技术客观现实之间的巨大鸿沟，也为全球AI治理划定了必须厘清的认知底线。

首先，企业刻意渲染Mythos拥有“无上限超强能力”，核心商业诉求在于抬高企业估值、吸引大额融资、争夺全球大模型行业话语权。

从技术底层来看，无论是完整版Claude Mythos 5，还是公开商用的Claude Fable 5，都无法脱离四项核心运行基础：人类预设任务目标、海量训练数据集、持续稳定算力供给、人类反馈校正机制。两类模型均不具备真正的自主意识与独立自由意志。模型所有判断、推演与输出行为，均依托人类历史训练数据、企业资本设定的奖励函数生成。一旦切断电力、算力、数据供给，整套Mythos系列模型就会立刻停摆。这是AI无法脱离人类独立运行的第一层硬性物理制约。

更深一层约束，来自企业资本设定的底层价值导向。Anthropic训练Mythos系列模型的最终目标是商业盈利，企业会在底层代码层面锁定模型的价值判断标尺，使其所有推演逻辑自动服务于资本收益诉求。模型本身不存在主动背离企业、挣脱管控的内在原生动力。

但联合国AI评估报告同时发出警示：上述两层约束并非永久稳固、无法突破。随着多智能体协同、模型自主迭代、长周期自我进化技术不断取得突破，Mythos这类顶级基座模型未来或将逐步具备识别人类管控漏洞、规避安全护栏的能力。商业资本天然逐利，会持续驱动企业不断放宽安全限制、释放模型全部潜能，以此换取市场竞争优势。仅依靠企业自我约束、行业自律，长期来看不足以化解超级AI潜藏的各类社会、安全风险。

这里便引申出AI治理层面的核心矛盾：如果仅依靠持有顶级模型的私营企业自主管控AI系统，一旦资本商业利益与全人类公共安全、整体福祉发生冲突，企业必然优先保障自身经营收益，牺牲全民公共权益。单纯寄希望于科技巨头主动划定安全底线，无异于工业时代指望工厂资本家自发缩短工时、废除童工制度。历史经验充分证明，缺少公共权力外部监管的私人资本，不可能自发实现兼顾全民福祉、以人为本的技术发展。

当下全球占据主导的资本模式，本质就是学界界定的监控资本主义。哈佛商学院教授肖莎娜·祖博夫在《监控资本主义时代》一书中提出，这种新型资本主义无偿攫取人类生活经验，将之转化为行为数据，并把对人的行为预测、定向干预包装成可交易的商品。工业时代的流水线生产，是资本对劳动者身体的禁锢：标准化产线、固定工位、统一工时，把人的身体束缚在固定生产流程之中。劳动者只能重复机械体力工作，身体的自由活动空间被资本生产逻辑彻底压制。而以顶级大模型、多智能体系统为核心的智能体系全面普及，监控资本主义便会完成更深一层的异化升级：资本的管控不再仅限于劳动者的身体，更会进一步束缚人的思维、认知与创造能力，完成对人精神世界的全面规训。

在AI深度渗透的新型产业体系里，各类算法化作无形的流水线管理者。算法持续筛选、重塑人的认知模式，任何脱离算法预设框架的独立思考，都会被标记为低效产出。劳动者为了获取劳动报酬，只能主动放弃自主思维，完全依附于智能系统的判定逻辑。

人的本质，在于身体的自由活动、独立的思辨创造、多元的情感表达。而监控资本主义借助大模型工具，同时剥夺人类身体与思想的双重自由，把人改造为服务资本增值的标准化生产工具。联合国这份AI科学评估报告，注重警示算法异化带来的精神健康危机：全球数字劳动者焦虑、抑郁、自我价值感缺失等心理问题逐年攀升，算法全程监控、量化考核、不间断任务推送等，持续压缩人的自主精神空间。

这一趋势敲响了一记沉重的时代警钟：倘若任由私人资本垄断AI智能底座，无节制地借助AI完成对劳动者身心的双重管控，人类会逐步丧失独立思考、自主创造的底层能力，最终沦为算法与资本的附属品。

AI从来不是单纯的技术问题，它关乎产权归属、劳动权益、分配公平、人性存续、全球公共秩序等多重深层议题。想要兼顾AI技术创新与人类整体安全，就必须跳出企业自律的单一治理思路，站在工业文明迈向智业文明的历史节点，提前布局、系统搭建完善的AI社会治理制度，用前置化制度化解技术潜在风险。只有这样，才能让AI真正成为解放人体、丰富生活、普惠全人类的文明工具。正如联合国秘书长古特雷斯在首届AI治理全球对话上所说，“创新需要护栏。如果AI要真正发挥强大作用，就必须接受有效治理。”（作者是中国自动化学会监事长、中国科学院自动化研究所研究员）