教皇方济各十四世首道通谕：AI必须服务于全人类，而非少数权力者

梵蒂冈城（RNS）——教皇方济各十四世周一（5月25日）在其首道通谕中直接抨击大型科技公司的权力，警告人工智能可能加剧不平等、削弱民主并损害人之为人的意义。这份83页的教皇训导文件题为《卓越人性》（Magnifica Humanitas），将AI视为新的工业革命，并呼吁通过剥离军事和经济利益、对AI公司实施更严格的国家和国际监管，以及邀请个人和社区广泛参与来“解除AI武装”。

“解除AI武装意味着将其从‘武装’竞争的思维中解放出来，这种竞争如今不仅限于军事领域，也是一种经济与认知现象。”方济各写道。“解除武装并不意味着放弃技术，而是防止它支配人类。”他补充道。“因此，仅仅监管是不够的；它必须被解除武装，变得受欢迎且可及。”

方济各在文件中还抨击了大型科技公司，指出极少数富人影响人类未来和生计的危险，这加剧了“那些能够参与数字革命的人与那些被边缘化的人”之间的差距。“AI往往会放大那些已经拥有经济资源、专业知识和数据获取渠道的人的力量。”他写道。“小而极具影响力的群体可以塑造信息和消费模式，影响民主进程，操纵经济动态以谋取私利，从而破坏社会正义和人民之间的团结。”

教皇周一在梵蒂冈主教会议厅发布了这道通谕，并提及了以其同名教皇良十三世于1891年发布的通谕《新事》（Rerum Novarum），该通谕旨在应对19世纪工业革命带来的挑战。“我感到受托以信仰之眼、理性之明、对神圣奥秘的开放之心，以及心中回响的穷人与大地的呼声，来监督另一场伟大变革。”方济各表示，这道通谕是深入倾听那些深切关心子孙后代未来的科学家、工程师、政治领袖、公职人员、家长和教师的结果。“解除武装还不够，我们必须建设。”他补充道，呼吁广泛参与AI的编程、监管和利益分享。

教皇与梵蒂冈高级主教、天主教神学家以及Anthropic联合创始人克里斯·奥拉一同发布了这份文件。Anthropic是Claude背后的美国AI公司，一直致力于将自己定位为以安全为导向且合乎道德的公司。奥拉在会上表示，AI开发“运行在一套激励和约束机制中，这些机制有时会与做正确的事发生冲突”，并提到了商业利益、地缘政治压力以及骄傲与野心。因此，他表示，“我们需要世界上更多的人——宗教团体、公民社会、学者、政府——像教皇陛下所做的那样：认真对待此事，仔细审视，并推动事态朝着更好的方向发展。”

通谕的核心是坚持人类应优先于人工智能。通谕认为，人的尊严“不取决于一个人的能力、财富或社会地位，也不取决于其做出的对或错的选择”，而仅仅是因为其存在。在AI聊天机器人的时代，方济各写道，风险不仅在于与AI代理互动的人可能相信自己在与人交谈，更在于他们可能完全失去寻找他人的欲望。将决策权交给机器可能会“鼓励过度依赖和寻求现成答案，并削弱个人创造力和判断力。”

在文件中，教皇承认AI创新可以为人类社会和环境关怀带来积极影响，同时也警告了其危险。“技术从来不是中立的。”方济各写道，并补充说技术是其背后利益和利益攸关方的表达。“当这种权力集中在少数人手中时，它往往会变得不透明，逃避公众监督，增加发展扭曲的风险，从而产生新的依赖、排斥、操纵和不平等。”

方济各认为，等到AI对社会造成严重破坏后再应用道德伦理原则是不可能的——这些价值观必须在构建阶段就被应用。“为了使AI尊重人类尊严并真正服务于共同利益，必须在每个阶段明确责任：从设计和开发这些系统的人，到使用它们并依赖它们做出具体决策的人。”他写道。

针对那些抵制AI开发限制的高管，方济各解释道：“呼吁谨慎、严格评估，甚至有时放慢AI采用的速度，并不等于反对进步；相反，这是对人类家庭负责任关怀的一种实践。”在认可那些采用道德宪章的AI模型（如Anthropic）时，教皇表示，这样的框架仍需经过讨论，并接受共享社会正义标准的检验。“如果道德是由少数人决定的，那么更道德的AI是不够的。”他写道。

该文件还针对流行的硅谷哲学、超人类主义和后人类主义，教皇将其定义为一系列“将进步解释为超越人类境况”的假设。方济各写道，这些哲学将包括疾病、残疾、衰老和脆弱性在内的限制视为需要克服的东西，但“我们必须记住，人类繁荣并非不受限制，而往往是因限制而繁荣”，并补充说，没有限制的生活最终将意味着不成为人类。

梵蒂冈教义部部长维克托·曼努埃尔·费尔南德斯在文件发布会上表示，与这些声称“人类已到保质期，必须被简单取代”的哲学不同，天主教教义相信“每个人拥有无限的尊严。”

在对比AI的危险时，方济各指出真相是“民主的基本要素”，并敦促人民，特别是年轻人，接受AI教育。虽然AI有望减轻工作负担，但方济各警告说，“它经常迫使工人适应机器的速度和需求，而不是机器被设计来支持那些工作的人。”在这第四次工业革命中，首要任务必须是“保护就业机会和个人不可替代的角色。”方济各写道。

随着全球经济差距扩大，教皇警告“技术进步将不可避免地产生结构性不平等。”方济各呼吁税收制度减轻最脆弱群体的负担，并向拥有更多资源的人征收更多税，同时创新的利益应该透明并与整个社区分享。

教皇警告“新形式的奴隶制”，强调了AI背后的人类和环境剥削痕迹——从模型训练使用受版权保护的材料，到提取用于AI硬件的稀有矿物。方济各还反思了教会历史上对奴隶制的态度，直到19世纪才由良十三世完全谴责，凸显了天主教教义随时间的缓慢演变。“为此，我以教会的名义真诚请求宽恕。”方济各写道。

方济各认为存在一种“新面貌的殖民主义”，它不仅支配身体，还侵占数据：健康流、流行病学概况、基因图谱和人口统计数据。“这些已经成为权力的新稀土。”方济各说，并补充说，掌握在少数以利润为导向的个人或群体手中的AI技术代表着一种新的殖民统治形式。“这是我们时代最紧迫的道德挑战之一：确保共享知识成为真正的共同利益，而不是统治的工具。这需要不仅归还描述个人的数据，还要归还决定数据如何被使用、由谁使用以及为谁利益而用的能力。”他写道。

文件中有很大篇幅反思战争问题，教皇在他任职的第一年多次谴责战争。军事用途的AI“必须受到最严格的伦理约束”，他写道，并补充说军事行动，尤其是致命行动的责任，应保留给人类，而不是机器。他呼吁在战争决策过程中实现可追溯性、人类监督，并制定国际法来解决自动武器使用增加及其后果。

该文件基于从良十三世开始的历任教皇的贡献，并借鉴了天主教社会训导，即教会将道德原则应用于社会、经济和政治生活的传统，以人的尊严和共同利益为核心。团结和关心“邻人”是方济各反思的关键方面，尤其关注子孙后代。社会正义“不仅仅涉及资源的更公平分配或纠正当前的不公正，还具有恢复性维度。”方济各写道。

将同样的原则应用于数字领域，教皇警告“新形式的排斥和剥夺自由”，例如侵入性监控、被剥夺基本技术访问权的社区，以及受到 perpetuate discriminative 的不透明算法伤害的群体。在此背景下，他还将移民视为“当今社会正义的试金石。”

在引言中，方济各引用圣经，将追求权力和自足的巴别城与以祷告和家庭社区参与为导向的尼希米重建耶路撒冷并列。这反映了他所属修会的教义，该修会基于圣奥古斯丁的原则，将对以权力和统治概念构建的地上之城的爱，与对天上之城的渴望进行对比。“正如整个历史一样，这两种爱今天继续在我们的心中争夺支配地位。AI时代也不例外：巴别城的建造或耶路撒冷的重建从我们每个人内心开始。”他写道。

该文件已获得天主教徒和科技专家的强烈支持。“这是一个里程碑式的机会，让世界审视一项新技术，并真正思考它的用途。”圣克拉拉大学马库拉应用伦理中心技术伦理主任布莱恩·帕特里克·格林说。“这项技术的目的是什么？它在世界上应该做什么？它如何帮助人们？我们需要做什么才能确保这项技术为世界上最多的人做到最好？”