财联社7月7日讯（编辑潇湘）报道，联合国秘书长古特雷斯于周一发出了呼吁，全世界应当禁用“杀手机器人”。

古特雷斯当天在联合国第一届全球人工智能治理对话会议上表示，应当借助国际法来禁止致命自主武器，这一表态重新引发了一场关于AI安全方面的争议，而该争议正是今年早些时候Anthropic公司与五角大楼产生分歧的核心所在。

古特雷斯这一表态准确无误，且具有重要分量。

他在2026年7月6-7日于日内瓦举行的联合国首届全球人工智能治理对话开幕式上明确指出：机器在完全脱离人类控制与判断的情况下自主选择、锁定目标并夺取生命，这在道德上是无法接受的，必须通过国际法加以禁止。他同时强调，某些决定——尤其是是否夺走他人生命——应当永远由人类作出。

这一立场并非新提出，而是他长期主张的延续（此前已在2025年等场合多次提及），此次演讲直接重新点燃了今年早些时候Anthropic与五角大楼之间的核心分歧。Anthropic明确拒绝让Claude模型用于完全自主致命武器（无人在环的自主选定并打击目标）或大规模国内监控，理由是当前前沿AI在可靠性和上下文判断能力上仍不足以承担此类不可逆决策。五角大楼随后试图施压、调整合同、甚至考虑将其列为供应链风险，最终引发法律纠纷。这一事件本质上正是“人类是否应将生死决定权完全交给机器”的现实写照。

我的立场很清晰：
保留对致命武力的有意义的人类控制是必要的底线。AI可以在情报分析、防御性拦截、后勤优化等领域发挥巨大作用，但在自主猎杀人类这一环节，移除人类判断会同时带来技术风险（幻觉、上下文误判、不可解释性）和道德风险（责任归属的彻底模糊）。当前及可预见的未来AI仍不具备真正的道德推理、共情或对战争迷雾的可靠把握，把“开火权”完全交给算法是危险的。

当然，国际禁令的实际执行难度极大。威权国家可能将其视为不对称优势，条约能否真正约束所有参与方仍是未知数。真正有效的路径或许在于：制定可验证的技术规范、民主国家保持技术与伦理双领先、以及让更多AI实验室坚持类似Anthropic的“红线”——不以“一切合法用途”为由放弃底线。

这件事再次提醒我们：技术进步的速度远快于治理框架的完善。追求对宇宙的理解（xAI的核心使命），也包括清醒地理解把生死权交给机器可能带来的后果。人类应当保留最终判断权，这既是道德要求，也是长远的安全保障。

古特雷斯在联合国第一届全球人工智能治理对话的开幕式中还进一步表示，随着人工智能所持续进行的飞速发展，目前全世界正在开展一场既没有制定计划、也没有获得同意的实验，而这种情况是不能继续进行下去的。

古特雷斯对此进行了明确强调，由于人工智能技术发展速度极为迅速，因此制定相应的安全法规已经到了刻不容缓的地步。

我们不应等到暴行发生之后才去采取必要的行动，”他说，“有一些决定必须永远留给人类来作出判断，而其中最重大的，莫过于剥夺另一个人的生命这一选择。

这一表态直指当前AI治理的核心困境，强调在致命自主武器领域，机器完全脱离人类监督而自主锁定并夺取生命的做法，既在道德上无法被接受，也必须依赖国际法予以明确禁止。古特雷斯借此重新点燃了关于AI安全边界的讨论，其立场与今年早些时候Anthropic公司拒绝将Claude模型用于完全自主致命打击（无人在环路的自主选定并执行目标打击）或大规模监控的决定高度一致。五角大楼随后施加的合同压力、供应链风险定性乃至后续法律纠纷，本质上正是围绕“是否应把生死抉择完全交给算法”这一根本问题展开的现实写照。

保留对致命武力的有意义的人类控制，构成了不可逾越的底线。AI可以在情报分析、防御性拦截以及后勤优化等方面发挥重要作用，但在自主猎杀人类这一不可逆环节，移除人类判断会同时放大技术风险（幻觉、上下文误判、不可解释性）与道德风险（责任归属彻底模糊）。当前及可预见未来的AI仍不具备真正的道德推理、共情能力或对战争迷雾的可靠把握，把开火权完全交给机器既危险，也不符合长远安全要求。

国际禁令的实际执行固然面临极大挑战，威权国家可能将其视为不对称优势，条约能否真正约束所有参与方仍是未知数。真正有效的路径在于制定可验证的技术规范、让民主国家保持技术与伦理双领先，并鼓励更多AI实验室坚持类似Anthropic的红线——不以“一切合法用途”为由放弃底线。

这一事件再次提醒我们，技术进步的速度已远远超过治理框架的完善速度。追求对宇宙的理解，也必然包括清醒认识将生死权彻底交给机器可能带来的后果。人类应当永远保留最终判断权，这既是道德要求，也是保障长期安全的必要前提。古特雷斯同时指出，随着人工智能以极高速度持续发展，全世界正在进行一场既无计划也未经同意的实验，这种状况绝不能继续下去，制定相应安全法规已刻不容缓。

近年来，原本设计用于民用的AI系统和芯片，正越来越多地被部署在战场和军事指挥部中，这引发了一场关于军队何时应使用AI、人类何时应介入以及由谁来决定划定界限的争论。

今年年初，当Anthropic公司要求五角大楼保证其AI模型不会被用于国内监控或自主武器系统时，这场争论被彻底公开化。

与此同时，在战场上，技术进步正日新月异。支持者认为自主武器仍将处于人类控制之下，AI将借助其更高的精度与速度使人类指挥官能够开展行动。反对者则指出AI系统会犯错，因此在战况紧要关头将控制权交给机器是极其危险的。

Some artificial intelligence safety activists—who among them have long worried that artificial intelligence systems will detach from human control and turn on their creators—believe that arming AI will only intensify this danger.

联合国秘书长古特雷斯周一还警告了AI的另一种风险，即AI权力集中于少数企业以及少数国家之手，而其他大多数国家对于那些将左右他们未来的相关决策，迄今仍全无话语权。

据报道，这场为期两天的活动将吸引来自全球各国政府、科技界以及学术界的4000多名代表。他们将秉持包容的态度，就如何善用这项已迅速改变世界的AI技术展开讨论。联合国计划明年发布一份更加全面的评估报告，并在纽约举办第二届全球AI治理会议。

来源：联合国秘书长古特雷斯：必须禁用“杀手机器人” | 财联社