教皇宣称人工智能是我们未来“最高风险的赌注”

教皇方济各今天表示，他正在为数字技术引起的“深刻变革”在社会中祈祷，并希望在使用这些技术之前能考虑到人类的“固有尊严”，再次特别提到了人工智能。

梵蒂冈于1月1日发布了教皇在2024年世界和平日的布道，其中部分内容呼吁道德发展人工智能以服务于人类，减少伤害，并促进和平与正义。在秋季，教皇方济各在联合国国际和平日的布道中讨论了人工智能。

教皇的请求正值人工智能几乎渗透到不同行业的现代生活的各个方面，并且其他世界领导人和政策制定者正努力应对如何管理这项技术。

教皇方济各说：“信息技术的进步和数字技术的发展在过去几十年已经开始在全球社会及其各种动态中引起深刻变革。”“新的数字工具正在改变通讯、公共管理、教育、消费、个人互动以及我们日常生活的无数其他方面。”

方济各和其他世界领导人，包括美国总统乔·拜登和前总统唐纳德·特朗普，成为许多由人工智能生成的深度伪造视频的对象。

人工智能生成的深度伪造视频的泛滥导致了受欢迎的图像生成器Midjourney——该生成器被用来制作教皇穿着蓬松的白色羽绒服和银色宝石十字架的病毒式深度伪造视频——在今年早些时候该图像传播后取消了其免费服务。

方济各说：“每个人的固有尊严和将我们作为一个人类大家庭成员联系在一起的兄弟情谊必须成为新技术发展的基础，并且必须作为评估它们的无可争辩的标准，以便数字进步能够在尊重正义的情况下发生，并有助于和平事业。”

教皇承认了人工智能在负责任地使用时在全球范围内的潜在益处，包括达成多边协议并协调其应用和执行。

“在这方面，我敦促世界各国共同努力，以制定一项约束性的国际条约，规范人工智能在其各种形式中的发展和使用，”方济各说。“规范的目标自然不仅应该是防止有害做法，还应该通过激发新的创造性方法和鼓励个人或团体的倡议来鼓励最佳做法。”

7月，联合国秘书长安东尼奥·古特雷斯就人工智能生成的深度伪造视频在全球冲突地区引发仇恨和误导的潜在用途发出警告。

“科学家和专家们呼吁世界采取行动，宣称人工智能与核战争风险一样，对人类构成了生存威胁，”古特雷斯在新闻发布会上说。

9月，拜登政府签署了更多的人工智能开发者，包括英伟达、IBM和Adobe，承诺负责任地开发人工智能。OpenAI、谷歌和微软今年早些时候就签署了政府的承诺。

11月，来自29个国家和欧盟的世界领导人在英国的布莱切利公园举行会议，讨论如何监管人工智能。人工智能安全峰会最终以与会者签署声明告终，共同努力构建安全的以人为本的人工智能，并为这一新兴技术带来更多透明度。

“在新年开始之际，我祈祷人工智能形式的快速发展不会加剧当今世界中普遍存在的不平等和不公正案例，而是将有助于结束战争和冲突，并减轻困扰我们人类家庭的许多形式的苦难，”教皇总结道。