教宗谈人工智能

教宗良十四世于5月25日颁布首道通谕《伟大的人类》（Magnifica humanitas），呼吁世人不可用人工智能来作恶。

科技的发展，正在彻底改写人类对战争的认知与定义，因此教宗不得不更慎重和严肃地提醒人们提高警惕。

过去人们所理解的战争，往往是坦克推进、军队对垒和领土争夺；然而今天，无人机、人工智能、网络攻击、卫星侦察以及精准打击技术的广泛应用，已经让战争突破了传统战场的界限，呈现出前所未有的面貌。

我们是通过历史资料和影像，包括软性的影剧以及严肃的纪录片，来了解过去的战争。然而，当俄罗斯入侵乌克兰的战事，以及美国和以色列攻击伊朗的战事，已经陷入持久的泥沼战中，这些在在显示现代战争已进入全新的阶段。

没有改变的是，战争依旧会带来死亡、流离失所与人道灾难；改变的是，科技的深度介入，让战争变得更加复杂、更难预测，也更难控制。

这就是教宗通过通谕要提醒我们的重点之一。

新科技彻底改变了“目标锁定”与打击方式。借助人工智能的软件系统，军队如今能够以前所未有的速度与规模，发现并摧毁目标。

因此良十四世警告说，如果没有充分的监管和透明度，“控制人工智能的人将强加他们自己的道德图景，而这会成为这些系统的隐形基础设施。”

教宗的担忧不是杞人忧天：特朗普总统早前险些签署一项法案，该法案原本将赋予联邦政府在人工智能模型公开发布前，对其进行评估的权力——但他随后取消了签署。

从最早期的电脑面世的时候，有人就开始做着一个梦，认为电脑有一天将主导人类，并且以科技取代宗教，科技将自诩为救世主。电脑界有一个笑话，一个程序员问电脑：“上帝存在吗？”电脑回答道：“现在存在了。”

曾对苹果的乔布斯产生深远影响的黑客工具指南雏形《全球目录》(Whole Earth Catalog)曾宣称：“我们与神无异，既然如此，不妨让自己变得擅长于此。”

现在随着人工智能的发达，再看看那些试图利用科技来主导世界的人的思维，我们担心的早已不只是人工智能会不会变得更聪明，而是当人工智能逐渐渗透至战争决策、社会治理和经济运作等关键领域时，究竟由谁来决定它遵循什么价值观，以及这些价值观是否能够接受公众监督。

教宗不是要我们放弃和拒绝发展科技，更不是完全否定人工智能，教宗在谈话中有肯定了人工智能可以成为一种宝贵的工具，他担心的是如果道德仅由少数人决定，那么一个更具道德感的人工智能也是不够的。

而且，我们可以发现，这不仅是首次有教宗亲自出席其训导文件的发布会，也开创了梵蒂冈与科技界对话的新里程碑。

过去，类似发布会的主角往往是枢机主教、神学家或学术界人士；然而这一次，良十四世与高科技领域专家同台交流，席上我们可以看到美国人工智能公司Anthropic联合创始人、长期从事人工智能可解释性研究的克里斯托弗·奥拉（Christopher Olah）。

教廷通过这个场面的安排告诉天主教徒，乃至全世界，包括科技业界和政界，面对人工智能革命带来的巨大冲击，教宗并没有选择站在科技发展的对立面，也没有试图以宗教权威凌驾于科技之上，而是主张建立一场跨越宗教、学术与科技领域的对话。因为人工智能最终影响的，不只是技术本身，而是人类社会的价值选择。

对于我们天主教徒来说，通谕是一项重要的训导文件，代表教会对时代议题的正式回应。因此我们必须充分去理解教宗所要表达的核心精神。我们要善用人工智能来帮助我们提高一些工作和学习的效率，而不是依赖人工智能为我们完成任务，更不能把重大的决定完全交给人工智能。

最近我换了一辆新车。相比旧车，新车搭载了更多先进科技与智能配备，例如能够自动侦测与前车的距离、提醒驾驶者偏离车道，以及提供各种主动安全辅助系统。这些功能确实让驾驶变得更加便利，也提升了行车安全。

然而，再先进的科技都只是辅助工具，而不是驾驶者的替代品。开车时，我们不能因为有了这些系统就完全放松警惕，反而更需要保持十二分精神，时刻关注路况、掌握方向盘，并对自己的每一个决定负责。因为一旦发生意外，承担后果的终究是驾驶者，而不是车上的电脑系统。

人工智能也是同样的道理。它能够帮助我们搜集资料、分析数据、提高效率，甚至协助做出判断，但它始终只是工具，而非主人。人们可以借助人工智能提升能力，却不能把思考、判断和责任完全交给人工智能。否则，当错误发生时，人类便可能在不知不觉中失去对科技的控制权。

因此，真正重要的从来不是人工智能有多聪明，而是人类是否始终保持清醒与理性，确保科技服务于人，而不是让人逐渐依赖甚至受制于科技。

福音探意