梵蒂冈 - 常驻联合国及日内瓦国际组织的圣座观察员埃托雷·巴莱斯特罗总主教在政府专家组讨论期间表示,人工智能控制的武器“绝不应决定人类生命的存亡”。

亚历山德罗·迪布索洛 - 梵蒂冈

对圣座而言,确保“具有法律约束力的有力工具”以禁止使用所谓“致命自主武器”是“极为紧迫”的,同时应“立即对其研发和使用实施暂停”。埃托雷·巴莱斯特罗总主教,圣座常驻联合国及日内瓦国际组织的观察员,在 8 月 26 日至 30 日于瑞士举行的 2024 年政府专家组(GGE)第二次会议关于致命自主武器系统(LAWS)新技术的会议上发表了讲话,强调了这一点。

教皇在 G7 人工智能会议上的讲话

援引教皇方济各于 6 月 14 日在意大利博尔戈·埃尼亚齐亚向 G7 集团领导人发表的关于人工智能的讲话,巴莱斯特罗提醒称,教皇呼吁“重新考虑所谓致命自主武器等设备的研发和使用,并最终禁止其使用”。这应从采取果断和具体的承诺以建立更大且更适当的人为控制开始。“没有任何机器应决定剥夺人类生命”。根据该主教的说法,然而今天的战场“也变成了测试越来越复杂的武器的试验场”。

自主武器并非道德责任主体

圣座,该主教继续说道,批准并支持专家组“分析自主武器系统的潜在功能和技術方面”的方法,因为识别“与国际人道主义法及其他现有国际义务不相容”的系统,对于在考虑更广泛的道德方面时制定禁令和限制将非常有用。根据圣座,常驻观察员澄清,“不能将自主武器系统视为道德责任主体”。拥有理性的人类,“确实具备独特的道德判断和伦理决策能力,这是任何算法集合,无论多么复杂,都无法模仿的”。因此,圣座代表团赞赏“持续文本”中提到的“适当控制”和“人类判断”,该文本作为会议讨论的基础起草,尽管也呼吁“对这些概念有更大的清晰度和统一理解”。

机器选择,人心裁决

巴莱斯特雷罗先生首先指出了“选择”与“决断”之间的区别。他在博尔戈埃尼亚齐亚举行的七国集团会议上发表的讲话中强调,机器仅执行算法技术选择,并指出“人不仅进行选择,而且在内心深处能够做出决断”。决断比选择更具战略意义,因为它需要实际的评估。此外,教皇方济各继续说道,“伦理决断是那种不仅考虑活动结果,而且考虑所涉价值以及由此产生的义务的决断”。因此,大主教引用教皇的讲话再次强调,对于圣座而言,“确保和保护适当的人为控制人工智能程序所进行的选择的空间”是不可或缺的,“因为这直接关系到人的尊严”。

技术进步应服务于共同利益

梵蒂冈代表进一步强调,在世界上,“对使用人工智能作为武器所引发的伦理担忧”的意识正在增长。这一点也体现在 2024 年 4 月 29 日至 30 日在维也纳举行的“人类在十字路口:自主武器系统与监管挑战”会议上,伦理考量被赋予了重要角色。最后,他提醒道,“不断发展的更复杂武器绝非解决方案”。正如方济各在《愿祢受赞颂》(Laudato si')通谕中所写,人类从当前技术进步中获得的益处,将取决于“在多大程度上这种进步伴随着适当的责任和价值观的发展,使技术进步服务于人的整体发展和共同利益”。

vaticannews.va / gnews.cz-roz_07