搜索
查看: 860|回复: 1

教宗利奥三世敦促世界“放慢”人工智能发展步伐

[复制链接]
发表于 4 天前 | 显示全部楼层 |阅读模式

教宗利奥三世在首份热情洋溢的宣言中敦促世界“放慢”人工智能发展的步伐

2026年5月25日,在梵蒂冈新礼堂(Aula Nuova del Sinodo),梵蒂冈皮埃特罗·帕罗林枢机主教在教宗良十四世 ...

2026年5月25日,在梵蒂冈新礼堂(Aula Nuova del Sinodo),梵蒂冈皮埃特罗·帕罗林枢机主教在教宗良十四世 ...

2026年5月25日,在梵蒂冈新礼堂(Aula Nuova del Sinodo),梵蒂冈皮埃特罗·帕罗林枢机主教在教宗良十四世发布其首部通谕《人类的伟大》(Magnifica humanitas)时发表讲话。该通谕聚焦人工智能的兴起。(路透社/Yara Nardi)

概要:
教宗利奥警告人工智能可能将世界引向无休止的战争之路
利奥在第一篇通谕中发表了一系列热情洋溢的呼吁
美国首位教皇呼吁人工智能公司缓和竞争
教宗谴责冲突,驳斥“正义战争”理论
利奥为历史上教会曾参与跨大西洋奴隶贸易的行为道歉

梵蒂冈城,5月25日(路透社)——教皇利奥三世周一发布了他的第一份重要文件,敦促各国政府放慢人工智能系统的发展速度并对其进行严格监管。他警告说,人工智能系统会传播错误信息,将冲突置于优先地位,并有可能将世界引向无休止的战争。

近几个月来,利奥的语气变得更加强硬,在批评伊朗战争后激怒了美国总统唐纳德·特朗普。他在这篇被称为通谕的长篇文本中,向世界各国领导人发出了一系列热情洋溢的呼吁。

首位美国籍教皇呼吁不要将人工智能数据的所有权完全交给私人,呼吁政策制定者保护工人的权利,保护儿童免受该技术的影响,并敦促减少人工智能公司之间的竞争。

“我们需要的是更积极的政治参与,能够在一切加速发展的时候放慢速度,”利奥在题为《伟大的人类》(Magnifica Humanitas)的文章中写道。

教宗呼吁建立“健全的法律框架、独立的监督机制、知情的用户以及不推卸责任的政治体系”。

通谕是教宗向教会14亿信徒传达的最高形式的教导之一。

周一发布的这份备受期待的文本长达近 43,000 字,自利奥一年多前当选教皇以来,就一直在酝酿之中。

教皇驳斥“正义战争”理论

该文件以人工智能为主要主题,谴责了席卷全球的战争数量,感叹多边组织的衰落,并警告说军火工业的利润是冲突背后的驱动力。

“过去 60 年充满了令人震惊的残酷冲突,这些冲突往往大规模地影响到平民人口,”利奥在英文文本中写道。

他说:“人类正在滑向一种暴力的权力文化,和平不再被视为需要承担的责任,而只是冲突之间脆弱的间歇期。”

周一,在梵蒂冈举办的一场活动上,全球顶尖人工智能公司之一Anthropic的联合创始人出席了此次活动并发表了相关声明。他感谢Leo关注这项颠覆性新技术带来的问题。他表示,像Anthropic这样的公司面临着巨大的商业压力,需要接受外部监督。

“包括Anthropic在内的所有前沿人工智能实验室,都受到一系列激励机制和限制的制约,而这些机制和限制有时会与做正确的事情相冲突,”克里斯·奥拉说道。Anthropic是Claude人工智能工具的开发商。

在利奥的通谕中,他还发表了教皇迄今为止最明确的声明之一,驳斥了正义战争理论。自至少五世纪以来,教会一直使用正义战争理论来评估全球冲突。

该理论通常认为,战争只能为了抵御侵略而发动,特朗普政府官员,包括身为天主教徒的副总统 JD Vance,也曾援引该理论为伊朗战争辩护。

“‘正义战争’理论经常被用来为任何形式的战争辩护,但现在已经过时了,”利奥写道。

“使用武力、暴力和武器反映了一种关系上的贫困,这种贫困总是会给平民百姓带来灾难性的后果。”

利奥还表达了担忧,认为领导人可能会发动战争,以转移民众对国内问题的注意力。

“我们不能排除某些领导人可能将武装冲突视为转移人们对国内问题注意力的一种有效方式,以及一种应对困境的卑鄙手段,”他表示。

教皇就历史上教会曾参与奴隶制一事道歉

教宗表示,在战争中使用人工智能“必须受到最严格的伦理约束”,并称将致命决策委托给人工智能系统是“不可接受的”。

选择这个名字的第 14 位教皇利奥,在谈到人工智能系统的伦理问题之前,引用了几个世纪以来教皇们关于社会正义问题的教导。

他特别提到了他的前任利奥十三世,利奥十三世于 1891 年发表了一篇著名的通谕,呼吁在工业革命期间提高工人的工资和改善其工作条件。

利奥十四世谴责他所谓的“新型奴役”,即照看人工智能系统的人员和生产人工智能所应用的技术设备(如计算机和智能手机)的工厂工人所遭受的奴役。

教皇写道:“在世界某些地区,儿童和青少年在危险的环境下工作,碾碎用于提取稀土元素的材料。”

“这些人的身体伤痕累累、疲惫不堪,只为了保证计算流程能够不间断地运行,”他说。“这种现实深刻地挑战着我们这个时代的道德良知。”

教宗还承认,天主教会直到 19 世纪才强烈谴责跨大西洋奴隶贸易,并为此亲自道歉。

“这在基督教信仰史上留下了伤痕,”他写道。“为此,我以教会的名义,真诚地请求宽恕。”

教宗敦促世界各国应对人工智能风险

利奥在信的开头表示,他想向天主教徒和所有善良的人们讲话,并表示社会必须面对关于人工智能如何发展以及全球领导地位的总体方向的“关键问题”。

教皇援引圣经中巴别塔的故事——一个人类部落因骄傲自大而试图建造一座足以通天的塔,结果触怒了上帝——说,这个故事表明任何“未经上帝祝福就妄图通天”的事业都存在风险。

教宗表示:“我以牧羊人和父亲的心,呼吁大家放弃建造另一座巴别塔,携手共建共同福祉。”

利奥呼吁世界各国不要放弃应对人工智能系统可能带来的风险。

他写道:“一种微妙的诱惑可能会出现,那就是认为问题太大,我们太渺小,因此我们的选择无法产生任何影响。”

“当然,并非每个人都拥有同样的影响力,”利奥说。“然而,没有人可以置身事外。我们每个人都有自己可以采取行动的领域。”



发表于 前天 07:34 | 显示全部楼层

教皇为何强烈呼吁解除人工智能的武装

在帝国重归,人工智能(AI)是否支配人类的疑惧日盛之际,教皇良十四世周一亲自发布首份『通谕』---『伟大的人类』,提出人工智能必须被解除武装,防止其统治人类、强烈呼吁对不透明算法进行规范和监管,并揭露其迅猛发展背后存在的“新形式奴役”。

2026年5月25日,教皇良十四世在梵蒂冈新主教会议厅出席了其首份通谕《Magnifica humanitas》的发布仪式 ...

2026年5月25日,教皇良十四世在梵蒂冈新主教会议厅出席了其首份通谕《Magnifica humanitas》的发布仪式 ...

2026年5月25日,教皇良十四世在梵蒂冈新主教会议厅出席了其首份通谕《Magnifica humanitas》的发布仪式。 REUTERS - Yara Nardi

不少分析认为,教皇良十四世通过选择自己的教名,追随着19世纪末发表著名的旨在维护工人阶级在工业社会权益的『新事』通谕的良十三世的脚步,他的首份通谕也清晰地呈现了这一思想脉路。聚焦于人工智能,教皇的言辞坚定有力,论据充分,评估了人工智能可能的威胁:既非像纳粹和共产主义那样属于意识形态,也非属于军事范畴,而是来自技术层面。

面对这一惊人的发明,人类陷入了狂喜与眩晕之中——它在记忆与思考的领域中与人类抗衡,甚至更快、更全面、更高效?然而人类只是一颗聪慧的大脑吗?人工智能无视情感、想象力、惊叹与感恩。更糟糕的是,在教皇眼中:人工智能无法产生同情、怜悯与宽恕。恰恰正是这些心灵的特质,才奠定了人类的伟大,证明其尊严。华尔街日报分析称,这封通谕的灵感源于教会对“何为人类”的深刻思考,并汲取了2000年来的道德与社会教义。

教皇以为人工智能的存在意义仅在于服务于人类。然而,人类的智慧所创造的这一系统,尽管在知识、信息乃至日常生活中引发了革命,却极有可能将贫困者和弱势群体排除在外:这种数字智能绝非中立。教皇洞察到了其中的弊端,沉着地谈论起权势者所实施的“奴役”与“殖民主义”,这些行径将使世界其他地区陷入奴役状态。

生态问题、多边主义危机、经济垄断:《伟大的人类》是一部长达130页、具有深刻社会关怀的著作。在这部著作中,教皇以数字革命时代人类尊严捍卫者的身份,回应了当今时代的诸多挑战。

教皇在这份致全体信徒的信函中呼吁必须摈弃特朗普政府等所援引的“正义战争”概念,并谴责将致命的权力移交给高技术。“没有任何算法能使战争在道德上变得可以接受。” 他尖锐地指出,“人类正滑向一种以暴力为特征的权力文化”,这种文化将战争视为“国际政治的工具”并使其常态化。

故此,教皇强调,由于人工智能“不能被视为道德中立”,因此有必要对其“解除武装”,以“防止其支配人类”;他指出,必须制定一套关于人工智能的共同伦理准则。

让教皇遗憾的是,如今,“对平台、基础设施、数据和计算能力的控制权并不掌握在国家手中,而是掌握在大型经济和科技企业手中”,这些企业“制定了访问条件、可见性规则和参与机会”。

联合国预测,到2033年,人工智能产业规模可能达到4.8万亿美元,十年间增长25倍,而其利润却集中在少数几家企业的手中。2025年,联合国曾就监管方面的“危险真空”发出过警告。

这位美国籍教皇援引柏拉图、J.R.R.托尔金、毕加索乃至贝多芬在抵制非人化进程中的贡献,对“非人化”的风险表示担忧,并警告不要将人类简化为单纯的绩效指标或被机器利用的数据。同时严厉谴责为开采人工智能所需资源而产生的“新型奴役形式”: “在世界某些地区,青少年和儿童在危险的环境中工作,砸碎用于提取稀土的矿石。他们的身体被折磨得残缺、精力被耗尽,只为让计算流不中断。”他呼吁采用“更可持续的技术解决方案以减轻对环境的影响”。

良十四世敲响的警钟在全球回荡,费加罗报社评表示,良十四世发出了警世之声,尤其针对政治领导人。这些人曾一度软弱,以繁荣之名,将世界局势的调控完全交由市场主导。如今,他们有责任直面硅谷巨头,并对人工智能进行监管——用他的话说,就是要“解除其武装”。

世界报社评认为,教皇呼吁“解除人工智能的武装”并“让人类重新成为核心”,是因为这场宏大的技术革命正威胁着催生“新的非人化形式”。当然,“解除AI武装”并非意味着放弃技术,而是要防止其支配人类。教皇强调,将数据和技术的应用置于“公共监管”之下,并彰显“人的不可替代的作用”。

自一年前当选以来,这位历史上首位北美教皇多次就人工智能的危险发出警告,并强调了“数字素养”的必要性。他在周一的新闻发布会上解释说,这份文件源于“倾听”,此前他与科学家、工程师、政界人士、家长以及对年轻一代“深感忧虑”的教师们进行了交流。

而教皇的信念使其坚信:面对歌利亚,人类从未束手无策。

RFI

您需要登录后才可以回帖 登录 | 点击注册

本版积分规则

QQ|Archiver|SiXiang.com 思乡思想

GMT+8, 2026-5-29 06:55

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表