此次对话会最令人警醒的主题之一,是确认了那些在无有效人类监管下运作的自主武器,并非理论产物——它们正存在于当今的战场上。当香格里拉对话会在防务会议上传递这一信息时,新加坡外交部长维文医生在联合国安理会一场关于人工智能与国际和平的相关辩论中,也发出了同样的警告。他直接指出,致命性自主武器“已非潜在可能”,并指出在当下正在进行的激烈战争中,“事实是,由于识别并处置多个目标的紧迫性,即便在今天,人类的手指也常常不在扳机上。我们不得不将决策权外包给AI系统” 。
正如对话会中所框定的,危险是双重的。在战术层面,不受人类控制的自主系统做出生死决策,可能在瞬息万变的战场上产生不可预测的后果。在战略层面,从打击决策中移除人类判断,会带来快速且不可逆转的冲突升级风险——即机器可能在人类介入之前,已将小规模冲突升级为更大规模的战争 。这一担忧直接汇入了主导此次峰会的、更广泛的核升级恐惧之中。
韩国国防部长官安圭伯利用此次峰会,将首尔定位为AI赋能防务的主要力量,概述了一个雄心勃勃的“智能军队”概念,该概念围绕基于人工智能的系统、无人机与反无人机防御以及自主平台构建 。这一愿景远非口号,背后有韩国举国之力将AI融入其部队结构的详细计划:
韩国还扮演了外交领导角色,在首尔主办了一场旨在制定“军事领域负责任使用AI蓝图”的国际峰会。包括美国和中国在内的90多个国家参加了会议。然而,任何由此产生的框架预计都不具约束力,且目前尚不清楚最终有多少国家会同意哪怕是建立最低限度的护栏 。
对话会上出现的最令人震惊的评估,并非直接关于AI——但AI加速冲突至核层面的能力,正是IISS最严峻警告的核心。一份在对话会期间发布的专项研究得出结论,中美两国因台湾问题发生的任何军事冲突,都将可能面临快速的核升级风险。分析认为,双方都可能发起大规模行动,瞄准对方的指挥、控制和通信枢纽——这将在失去协调能力之前,产生强大的、升级至使用核武器的破坏性压力 。
IISS的评估直白地警告,围绕台湾的一场常规冲突可能“迅速滑向核危机”,世界“正处于一场新核军备竞赛的风口浪尖”,而其核心就在亚太地区 。美国国防部长皮特·海格塞斯在对话会上也呼应了这一警告,称中国大陆对台湾的攻击“可能迫在眉睫”,并强化了美国的威慑态势 。北京方面随即发出严厉警告,据报道,中国代表对此类论调感到“愤怒” 。核层面问题也与AI线索相关:将自主系统与核能力整合,意味着传统的军备控制框架正被超越,却没有任何既定的控制方法来替代它 。
此次对话会描绘了一幅比以往峰会都更为紧迫的图景。其核心结论是,人工智能不再是未来战争的隐忧——它正在主动重塑冲突的时间线,将人类判断剥离出生死决策,并侵蚀着常规战争与核升级之间的防火墙。韩国的“智能军队”推动表明,地区中等强国正抢在治理框架出现之前竞相将AI融入军力,而对台湾核风险的评估则凸显出,该地区的主要冲突燃点所蕴含的升级动力,是现有任何军控架构都无力应对的。
对于防务界和公众而言,本次对话会传递了明确的信息:战争中的人工智能正将治理和战略学说甩在身后,而设立边界的最佳时机,早已在后视镜中远去。
此次对话会最令人警醒的主题之一,是确认了那些在无有效人类监管下运作的自主武器,并非理论产物——它们正存在于当今的战场上。当香格里拉对话会在防务会议上传递这一信息时,新加坡外交部长维文医生在联合国安理会一场关于人工智能与国际和平的相关辩论中,也发出了同样的警告。他直接指出,致命性自主武器“已非潜在可能”,并指出在当下正在进行的激烈战争中,“事实是,由于识别并处置多个目标的紧迫性,即便在今天,人类的手指也常常不在扳机上。我们不得不将决策权外包给AI系统” 。
正如对话会中所框定的,危险是双重的。在战术层面,不受人类控制的自主系统做出生死决策,可能在瞬息万变的战场上产生不可预测的后果。在战略层面,从打击决策中移除人类判断,会带来快速且不可逆转的冲突升级风险——即机器可能在人类介入之前,已将小规模冲突升级为更大规模的战争 。这一担忧直接汇入了主导此次峰会的、更广泛的核升级恐惧之中。
韩国国防部长官安圭伯利用此次峰会,将首尔定位为AI赋能防务的主要力量,概述了一个雄心勃勃的“智能军队”概念,该概念围绕基于人工智能的系统、无人机与反无人机防御以及自主平台构建 。这一愿景远非口号,背后有韩国举国之力将AI融入其部队结构的详细计划:
韩国还扮演了外交领导角色,在首尔主办了一场旨在制定“军事领域负责任使用AI蓝图”的国际峰会。包括美国和中国在内的90多个国家参加了会议。然而,任何由此产生的框架预计都不具约束力,且目前尚不清楚最终有多少国家会同意哪怕是建立最低限度的护栏 。
对话会上出现的最令人震惊的评估,并非直接关于AI——但AI加速冲突至核层面的能力,正是IISS最严峻警告的核心。一份在对话会期间发布的专项研究得出结论,中美两国因台湾问题发生的任何军事冲突,都将可能面临快速的核升级风险。分析认为,双方都可能发起大规模行动,瞄准对方的指挥、控制和通信枢纽——这将在失去协调能力之前,产生强大的、升级至使用核武器的破坏性压力 。
IISS的评估直白地警告,围绕台湾的一场常规冲突可能“迅速滑向核危机”,世界“正处于一场新核军备竞赛的风口浪尖”,而其核心就在亚太地区 。美国国防部长皮特·海格塞斯在对话会上也呼应了这一警告,称中国大陆对台湾的攻击“可能迫在眉睫”,并强化了美国的威慑态势 。北京方面随即发出严厉警告,据报道,中国代表对此类论调感到“愤怒” 。核层面问题也与AI线索相关:将自主系统与核能力整合,意味着传统的军备控制框架正被超越,却没有任何既定的控制方法来替代它 。
此次对话会描绘了一幅比以往峰会都更为紧迫的图景。其核心结论是,人工智能不再是未来战争的隐忧——它正在主动重塑冲突的时间线,将人类判断剥离出生死决策,并侵蚀着常规战争与核升级之间的防火墙。韩国的“智能军队”推动表明,地区中等强国正抢在治理框架出现之前竞相将AI融入军力,而对台湾核风险的评估则凸显出,该地区的主要冲突燃点所蕴含的升级动力,是现有任何军控架构都无力应对的。
对于防务界和公众而言,本次对话会传递了明确的信息:战争中的人工智能正将治理和战略学说甩在身后,而设立边界的最佳时机,早已在后视镜中远去。