八月初，Meta 首席执行官马克・扎克伯格发表了一篇长达六千五百字的公开信，描绘了一幅由个人超级智能主导的未来图景。他主张将人工智能打造为覆盖科研、医疗、商业与个人生活的全能工具，强调其核心价值在于创造新知识的发明而非简单的自动化，并通过极力倡导开源与技术分发来防止技术垄断。这篇公开信迅速引发全球科技界的广泛讨论。

值得注意的是，这并非孤立事件。就在不久前，OpenAI 首席执行官萨姆・奥特曼与 Anthropic 首席执行官达里奥・阿莫代伊等行业领袖还在反复警告 AI 对人类生存的潜在威胁。而随着企业上市进程推进，行业巨头们集体从末日警告转向积极叙事，大肆探讨 AI 推动社会变革的潜力。这一转向被不少评论者认为折射出各大科技公司在 AI 监管博弈与产业布局中的深层商业考量。

面对这场愈演愈烈的叙事之争，瑞典于默奥大学人工智能政策实验室负责人、联合国人工智能高级别咨询机构成员弗吉尼亚・迪格纳姆提出了不同的看法。这位研究人工智能长达四十年的学者在新书《人工智能悖论》中系统梳理了 AI 领域的八大悖论，试图拨开围绕 AI 的炒作与恐慌迷雾。她的核心观点十分明确，技术并非单纯降临于人类社会，而是反映了人类在构建什么、谁将从中受益以及希望创造怎样的未来等问题上作出的选择，是人类价值选择与权力博弈的结果。

学者 弗吉尼亚・迪格纳姆（Virginia Dignum ）出席公开论坛演讲的现场瞬间

当下公众对人工智能的情绪普遍呈现两极分化的状态。一部分人对技术抱有极高期待，相信 AI 能够解决人类社会的诸多难题。另一部分人则充满焦虑，担心技术失控会带来难以预料的风险。迪格纳姆写作新书的初衷，正是试图在这两种极端情绪之间找到一个中间立场。她认为，AI 既不该让人极度焦虑，也不该被期待解决所有问题。

这一立场的根基在于一个最基本的判断，AI 不是降临在人类身上的事情，而是人类主动创造的产物。人们可以选择让 AI 以有利于人类、环境和后代福祉的方式发展，也可能选择让 AI 只惠及少数群体、危害环境。如何构建 AI 是人类自己的选择，不是外在于人类、强加给人类的东西。这个判断看似简单，却直接挑战了当下盛行的“不可避免性”迷思。

在欧洲以及世界许多地方，人们被引导着相信 AI 是不可避免的，就像天气一样只能适应无法改变。但 AI 与天气根本不同，它是人类创造的技术。无论是个人、组织、公司还是国家，在建造这些系统的时候，都可以决定如何建造、为了什么目的建造，它应该是什么样子，应该做什么，不应该做什么。承认这一点，也就意味着人类对技术发展负有不可推卸的责任。

“不可避免性” 叙事带来的另一个问题是，如果人们只从 AI 能做什么出发思考，而不充分思考 AI 应该做什么，就会把社会推向未必真正符合世界当下需求的方向。迪格纳姆因此提出了一个被她称为“问题零”的概念，在采用任何 AI 系统之前，首先要回答的问题是，AI 真的是最合适的方案吗。使用它能得到什么，又会失去什么，有没有其他选项。她观察到很多政府正在争相把 AI 应用到各个领域，却没有认真思考过为什么要这样做。

关于技术发展的必然性，另一种视角也值得参考。有评论者指出，人工智能的底层原理广为人知，经济利益巨大，工具基于软件且可全球扩展，多个国家和数千个组织都有能力构建这些工具。从供应链逻辑来看，技术本身的发展确实具备某种结构性的必然。但这种必然不等于技术的具体形态和影响也是必然的。就像房子建在洪泛区，河水还会再涨是客观事实，但这不等于人们只能被动接受洪水。人们可以修建堤坝、规划区域、购买保险、制定疏散计划。否认洪水的威胁并不会让人更勇敢，只会让人更容易受灾。

图片来目 www.vpnsrus.com

历史上类似的例子并不少见。社交媒体最初承诺连接彼此，最终却带来了社会分裂。全球化承诺共同繁荣，结果既带来了财富集中，也带来了社会动荡。胜利者往往制定了规则的最初版本。但这并不意味着技术的最终形态只能由少数人决定。人工智能并非一颗冲向地球的小行星，也不是可以一劳永逸切除的肿瘤。它更像是干旱中的野火，滋生它的条件早已存在。野火的爆发或许不可避免，但社会不会通过宣布火不应该存在来应对，而是制定规范、设置防火隔离带、建立应急响应系统和责任机制。

当前人工智能领域一个值得警惕的现象是，行业似乎被通用大模型的路线所垄断。巨额投资源源不断地涌入扩大算力规模的方向，甚至在技术能力边界尚未被证实之前就已如此。这些投资基于一个前提，改进 AI 需要更多数据、更多算力。如果所有的投资和努力都投入到扩大算力规模上，那些在这项技术上重金投入的人就很难考虑其他替代方案，因为他们赌的是改进 AI 的方式就是不断扩大规模。

在迪格纳姆看来，规模扩张是一个危险的赌注。如果这是唯一路径，它将永无止境，而人类不可能超越地球和环境所能承受的极限。任何专注于扩大规模的领域，到某个时刻都会变成金字塔骗局，人们在其中下注，只有塔尖的人获益，其余的人承担后果。她更倾向于把 AI 看作一个工具箱，里面有许多不同的工具，而不是只有一把越造越大的螺丝刀。如果想锯木头，就该用锯子，而不是螺丝刀。不同的方法适合解决不同的问题，人们不应该被单一技术路径限制了想象。

通用人工智能是当下 AI 领域最热门也最具争议的概念之一。但迪格纳姆认为，AGI 本身是个定义糟糕的概念。它容易让事情变得模糊，谁都不知道彼此究竟在谈什么，所有人却都会因此感到恐惧。从最基本的意义上说，AGI 指的是人类将创造出一种在认知能力和智能上超过人类的系统。但这个定义本身就存在很多值得推敲的地方。

迪格纳姆用一个生动的比喻说明了其中的逻辑偏差。提升飞机的飞行能力，最终也不会让它下蛋。人工智能确实很擅长发现数据模式、做相关性分析，但这些技能究竟意味着什么，需要放到现实世界的具体问题中去理解。人类面临的很多问题，需要的不是更多数据，而是常识、沟通意愿、合作意愿，这些都不是 AI 能替人类做的事。

事实上，所有技术都在某方面比人强。比如汽车跑得比人快，这并不奇怪。AI 作为一种技术，提升人类理解和分析海量数据、从数据中提取模式的能力，这是件好事。但如果所说的 AGI 只是比一个人更聪明，那么当把系统的概念扩展到不仅仅是一台电脑，两个人协作就已经是 AGI 了。各自掌握不同的语言和专业背景，协作起来比单独一人更聪明。

图自unsplash

如果试图把所有不同能力都塞进一台机器里，某种意义上就是放弃了人类协作的价值，而把决定权交给了一台机器，交给了某个特定组织构建的特定方式。无论创造者的意图多好，他们都有自己的利益考量。所以真正有价值的方向，是把 AI 的能力与人类协作的能力结合起来，这才是比期待机器替人类解决一切更有用的超级智能。

大语言模型的训练数据压缩了大量人类知识，同时也保留了性别、种族和文化偏见。如果人们在某领域的知识水平低于 AI，该如何评估其输出，这是一个非常现实的问题。迪格纳姆认为这需要人们共同解决。单独一人可能无法识别所有偏见，但不同文化背景的人协作时，能更快看清全局。推动透明度也很重要，尤其是关于已做出选择的透明度。哪些数据被输入系统，来源是否恰当，是否遵守版权规则，数据标注工作由谁完成，这些都应该公开透明。

AI 能力的提升反而凸显了人类特质的独特性。迪格纳姆从事 AI 研究近四十年，给 AI 下定义一直很难。有个说法虽然像玩笑却很中肯，AI 就是 AI 还做不到的事情。每当 AI 解决一个问题，人们就发现还有很多事它做不到。从基于规则的系统，到专家系统，再到今天基于数据模式的系统，人们不断发现 AI 尚不具备的人类能力，比如共情、社会互动、语言之外的感知方式等等。这正说明，构成人之为人的东西，远比能装进机器里的更多。机器可以帮助人类，但无法完全取代人类。

现实中确实有企业在用 AI 替代人力。这在整个工业革命历程中都发生过，从农业机械到打字机被电脑取代，每次转型都给一些人带来痛苦。保持社会团结、建立转型期的安全网非常重要，历史上许多社会问题正源于这类转型。但劳动力替代从未真正消除人的重要性，农业和办公室依然需要人，因为机器不能做所有事。企业应该更多地关注如何把人的能力与机器的能力结合起来，而不是急于用机器取代人。那样做只会带来一堆问题。

关于 AI 与人类福祉的关系，迪格纳姆提出了一个值得深思的观察。几百年来，人们被困在效率这一观念中，追求更快、更多、不断增加产出。但归根结底要问一句为什么。如果所有人都像老鼠赛跑一样不停地冲刺去做更多事，却没有时间享受创造的成果，享受世界和彼此的陪伴，那这一切效率究竟为了什么。

停下来审视自己在做什么的能力，在当今发达世界是一种被严重低估的能力。生活不应该只是不停地赶路，人们需要有目标。而目标未必总关乎数量，也关乎质量。社群的重要性，花时间彼此相处、欣赏周围环境，同样是生活的重要部分。拥有的数量未必等于生活的质量，这正是 AI 悖论之一。当然，人们也需要更公平地在全球分配机会，但同时不能只看拥有多少，还要关注人们体验的质量。这两者并不总是朝着同一方向发展，也不一定能够通过提高效率实现。

还有一个容易被忽视的风险是，当人们习惯于从 AI 那里获得即时答案、与 AI 互动时，思考能力、提出批判性问题的能力、深入探究问题的能力，会不会逐渐萎缩。迪格纳姆认为这非常重要。人们与技术互动越多，技能就会随之改变。重要的是要意识到，也需要理解哪些技能是真正不可或缺的，哪些技能是可以放弃的。

去技能化确实令人担忧，尤其涉及决策能力时。有研究显示，世界上许多青少年已经无法独立作出决定，甚至连上学穿什么衣服都要依靠 AI。他们依赖 AI 告诉自己应该穿什么、应该和什么人交朋友，甚至如何作出人生决定。这些是令人担忧的问题，因为人类不能真正失去独立思考、从错误中学习、并有勇气去做决定的能力。是否使用 AI 本身就是一种选择，而这种选择塑造着人类自身。人们迫切需要提高 AI 素养，否则可能像对药物上瘾一样，再也无法摆脱依赖。

画面聚焦一尊青铜雕塑的头部特写，青铜表面带着岁月留下的裂纹与斑驳质感，雕塑人物神态凝重深沉。背景做虚化处理，隐约可见浅色宏伟建筑与澄澈蓝天，景深效果将视觉重心完全集中在雕像面部，肃穆的氛围传递出历史厚重感，适合用来隐喻技术伦理层面的反思与思辨

关于人工智能的治理与监管，一个常见的误区是认为监管会损害创新。迪格纳姆并不认同这个观点。她用汽车作了一个类比，汽车能开到三百公里每小时，但学校门前限速三十公里，这不限制技术能力，只是确保特定场景下的安全使用。对 AI 也是同理，针对具体场景监管，不代表限制技术进步。开发技术的人未必是决定监管的最合适人选，人们需要让其他利益相关方参与进来。

对于虚假信息等当下可见的风险，监管永远无法杜绝所有滥用，但有法律存在，就可以处罚违规者，让他们为此付出代价。欧盟出台规定要求 AI 生成图像必须标注，这只是一个开始。监管的意义不在于彻底消除风险，而在于建立规则和责任机制，让滥用行为付出成本。

无论技术多么先进，有些根本性的判断必须严格掌握在人类手中。迪格纳姆的答案很简单，必须始终保留在人类手中的，是是否使用 AI 这个选择权。无论是战争还是面向儿童的场景，这个决定必须始终是人类的决定，并要承担相应问责。在任何高风险领域，使用 AI 前都要经过问题零的审视，为什么要用 AI，想实现什么，谁在决定，考虑了哪些选项。这需要是一个反复进行的过程，而这些问题本身与技术无关，只需要政治意愿去面对。

这是 Virginia Dignum 著作《The AI Paradox》的图书封面。封面标题字体醒目，中央使用彭罗斯三角这一不可能图形作为视觉符号，三角镂空内部是浩瀚星空。副标题点明书籍主旨：帮助读者理解纷繁复杂的 AI 未来。利用悖论图形呼应书名，暗示人工智能发展中充满矛盾与两难的现实处境

大型科技公司的角色和权力是 AI 治理中绕不开的话题。一小部分私营企业没有政府监督或民主问责机制，却拥有比许多国家更大的权力。权力集中在以盈利为主要动机的组织手中，这有点像中世纪的封建领主。它们主导着与主要经济体决策者的对话，问题不在于它们参与讨论，而在于它们成了政府唯一倾听的声音。政府必须同时倾听公民社会等其他声音，而不能只听大型科技企业的意见。

为了帮助组织在采用人工智能之前进行更审慎的思考，迪格纳姆带领的于默奥大学人工智能政策实验室开发了一套名为问题零的负责任人工智能自评估工具。这套工具的核心理念是，负责任的 AI 治理始于采购、开发或部署之前。它首先要问的是，人工智能是否是解决当前问题的最佳方案，如果是，那么在什么条件下才是最佳方案。

当前公共和私营机构都面临着越来越大的压力，需要采用人工智能。各国政府都在投入大量公共资源来加速人工智能的发展。无论规模大小，各机构都感到必须将人工智能融入到运营中，以免被认为落后于时代。这种紧迫感从根本上扰乱了合理的决策过程。与其从问题出发探究有哪些解决方案，人工智能优先的逻辑却从技术本身出发，探究其应用场景。结果就是，人工智能在特定情境下是否适用这一问题几乎从未得到恰当的提出。

跳过这一步的后果并非抽象。荷兰儿童保育福利丑闻中，算法系统错误地将数万名家长标记为欺诈，对少数族裔和低收入家庭的影响尤为严重。英国 A-level 成绩算法加剧了现有的不平等，它依赖历史数据来决定成绩，使来自规模较小学校和低收入家庭的学生处于不利地位。在美国，COMPAS 累犯算法被揭示存在严重的种族偏见，黑人被告被错误标记为高风险的可能性几乎是白人被告的两倍。澳大利亚的机器人债务丑闻则暴露了大规模部署有缺陷的自动化决策系统的危险性。这些案例有一个共同特征，技术的引入并未充分解决必要性、适当性、问责制和社会影响的问题。

问题零自我评估工具分为五个部分，分别对应为什么、谁、什么、如何以及在哪里五个维度。动机部分要求组织阐明试图解决的问题、考虑人工智能的原因、考虑过的替代方案，以及人工智能是否是解决现有问题的最佳方案。这是整个工具的核心，鼓励在对人工智能的采购和部署投入任何进一步资源之前，进行明确的理由说明。

该图表来自于于默奥大学 AI 政策实验室，展示 “零号问题 (Q0)”AI 决策评估模型，核心命题为是否应当采用 AI 系统。围绕迭代反思，分别拆解 Why、Who、What、How、Where 五大评估维度，循环审视动机、利益相关方、系统风险、落地流程与部署环境，最终输出具备问责、透明特质的负责任 AI 决策

利益相关者分析部分要求组织识别可能直接或间接受到人工智能系统采用影响的群体。这包括同事、员工、客户以及边缘化或代表性不足的群体成员。这部分还促使组织思考，目前由谁执行人工智能系统计划执行的任务，谁可能受益，谁可能受到损害，是否存在有效的退出机制。通过绘制完整的利益相关者图谱，组织可以评估不同群体在采用人工智能系统后可能面临的情况。

人工智能系统类型部分要求各机构定义并描述正在考虑的具体人工智能系统、方法或工具，以及该系统是现成采购、内部开发还是根据机构的特定需求定制。这部分旨在鼓励各机构确保所选系统能够解决其想要解决的问题，并且系统的复杂性、开发方法和灵活性与其预期用途相匹配。

采用流程部分要求组织考虑如何部署人工智能系统、如何改变现有工作流程、如何监控输出和性能、如何确保数据安全，以及受影响的用户如何理解系统结论的依据。此外，这部分还促使组织明确如何处理投诉和错误，以及谁将负责在系统整个生命周期内进行监督。问责制必须从一开始就融入其中，而不是事后添加。可解释性应被视为一种持续的组织实践，而不仅仅是一项合规要求。

基础设施和控制部分要求各组织考虑人工智能系统的运行地点、数据存储地点、服务提供商所在地以及训练数据的来源。这些问题涉及数字主权、数据管辖权以及组织对其采用的人工智能系统能够保持有效控制的程度。有效的治理和问责制取决于对系统运行地点、控制方以及数据收集、存储和管理方式的理解。

每个部分最后都以五分制信心评级作结，使组织能够反思自身对该维度问题的回答信心程度。这些评级并非用于衡量合规性或确定人工智能成熟度级别，而是旨在激发讨论、识别不确定领域，并指出哪些方面可能需要更多信息、利益相关者参与或组织准备。

这套工具与现有人工智能治理框架的最大区别在于提问的时机。现有的评估工具通常假定组织已经决定开发、采购或部署人工智能系统，目的是评估该系统是否值得信赖、是否合法合规或是否符合伦理规范。而问题零工具的起点更早一步，它会询问是否应该采用人工智能，如果应该，则应在哪些条件下采用。它鼓励组织首先明确问题，考虑非人工智能的替代方案，并在投入资源或开始采购之前，审视治理结构、利益相关者的影响以及组织的准备情况。

当然，这套工具也存在局限性。它是一种自我评估工具，其价值取决于组织员工是否积极参与问卷调查并纳入多元化的视角。它无法消除组织偏见，也无法保证所有相关利益攸关方都得到代表。它无法确保建议得到落实，也不能替代法律、技术或人权评估。它应被视为一种治理辅助工具，而非决策机制。它有助于做出更明智的判断，但最终决策的责任始终在于组织的领导层和员工。

关于全球 AI 治理，迪格纳姆对中国的角色持积极态度。她认为中国比世界其他很多地方更积极地支持全球治理倡议，这非常令人鼓舞。中国在某些问题上的观点与欧美不同，但这不完全是坏事，世界需要倾听多元的声音。中国在开源发展方面的努力也值得肯定。开源固然有风险，但也带来机会，了解系统运作方式，才能构建更好的系统。治理没有放之四海而皆准的方案，人们需要持续对话。

站在人工智能加速发展的今天，回头看这场关于技术必然性的争论，最危险的词或许不是不可避免，而是无能为力。一旦无能为力的信念根深蒂固，胜利就将拱手让给行动最快、抱怨最少的人。人们完全可以对人工智能采取严肃的应对措施，对强大的模型进行严格的部署前测试，对合成媒体制定可追溯性和标准，严格限制监控用途，对高风险领域中可预见的损害追究责任，采取反垄断措施防止权力过度集中，为劳动者制定强有力的过渡政策。

这一切并不意味着要假装人工智能可以被抹去。而是要像对待人类曾经面临的其他任何变革性、潜在危险的能力一样对待它，睁大眼睛，让相关机构积极参与。科技很少会彻底摧毁社会。更多时候，它以远超制度适应速度的速度重塑社会地位、尊严和权力格局。随之而来的政治博弈决定了最终结果是社会分裂还是社会复兴。

高空航拍展现荒漠地带的大型 AI 算力数据中心。场地坐落于开阔干旱荒野，拥有多座巨型白色厂房建筑，配套大面积高压变电设施、输电塔与完善厂区道路。这类设施承载大模型训练所需的海量算力，也凸显 AI 产业对土地、电力资源的巨大消耗，折射人工智能高速发展背后的基础设施现实约束

真正的选择从来不在于阻止人工智能还是拥抱它，而在于现在就塑造它，还是将来才发现它的默认设置是由那些先入为主、从未请求原谅的人设定的。每一代人都认为自己正经历着前所未有的变革，而每一代人也都在某种程度上是对的。新奇之处的确存在，但其背后的人性驱动力却是古老的。工业革命、全球化和数字时代都遵循着类似的轨迹，它们从未停止过，它们都经历了塑造，有时是糟糕的塑造，有时是迟来的塑造，但无论如何，它们都经历了塑造。

变革是不可避免的，但变革的速度和形式取决于政治决策。这个区别至关重要。童工法、工作场所安全规则、公共教育、失业保险和周末并非工业社会必然的特征。它们是经过斗争才得以确立的，曾遭到强大利益集团的阻挠，最终才根深蒂固，以至于现在的人们认为它们是理所当然的。进步往往只是把昨天的愤怒情绪包裹在监管框架之外。

人工智能的未来同样如此。它不会自己变好，也不会自己变坏。它会变成什么样子，取决于每一个参与其中的人如何选择，如何行动，如何为自己所相信的未来去争取。这或许就是这场技术变革留给人类最重要的启示，技术从来不是命运，选择才是。

【本文中包含的图片均来源于网络，仅用于信息传播和新闻报道目的。我们尊重并保护所有版权拥有者的权利。若有任何版权问题，或版权拥有者不希望图片被使用，请与我们联系，我们将在收到通知后立即处理并删除相关图片。】