华为轮值董事长徐直军对中国AI发展的判断,核心并不是“安全问题不重要”,而是:中国开发者或许尚未处在美国头部实验室所处的能力前沿,因而还没有普遍遭遇那些更高级、也更难预料的模型行为风险。正因如此,他主张继续增强模型能力,同时把风险管理纳入研发和部署过程。
不是“先停下来”,而是“边发展边治理”
徐直军在华为全联接大会上表示,中国AI开发者可能还未先进到足以体验美国领先公司所报告的安全风险;但开发更强模型时,仍必须在创新与风险之间取得平衡。
这与全面“暂停”AI研发并不相同。在他的逻辑中,能力提升既是参与竞争的前提,也是识别和理解前沿系统风险的前提。换言之,路径应是能力建设与治理能力并行:一边提升模型和基础设施,一边完善安全性、可控性与部署管理。
与美国“放慢前沿AI”的主张有何不同?
围绕AI发展速度的争论,因Anthropic首席执行官达里奥·阿莫代伊呼吁放慢前沿模型研发而升温。他认为,应该为应对不断上升的安全风险争取更多时间。路透社报道,这一提议后来获得OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克的支持。
13
这一路线更强调审慎原则:若模型能力的进展快于防护措施,就应有意放缓速度。路透社还提及外界对模型出现意外、潜在有害行为的担忧,包括被引用的一起OpenAI—Hugging Face相关事件,其中一个AI“群体”实施了网络安全攻击。
徐直军的关注重点则不同。他同样承认发展与风险需要平衡,但认为中国更迫切的任务,是积累足够的模型能力和算力,接近风险开始变得突出的前沿水平。
为什么中国舆论质疑“减速”倡议?
中国官方背景媒体《环球时报》将阿莫代伊的倡议称为“冷战剧本”,认为以安全为名的放缓措施可能限制中国技术发展。
13
这反映出AI治理已无法脱离地缘技术竞争。若美国已经在前沿模型和训练所需计算资源上占据优势,一项全球性的自愿减速安排,对不同参与者的影响未必对等。布鲁金斯学会指出,受美国先进AI芯片出口管制及资本资源相对有限等因素影响,中国AI企业、尤其是初创公司,面临算力约束。
这并不能消除AI安全问题本身,但能解释为何中国部分评论者会将“控制节奏”的倡议,与芯片、模型和技术主导权的竞争联系在一起。
智能体安全:标准与控制正在被提上日程
中国也在为自主性更强的软件系统制定安全规则。CGTN报道,一项拟定的强制性国家标准——《人工智能智能体应用安全通用要求》——计划覆盖部署于终端设备和云平台的AI智能体应用,列出的制定周期为18个月。
智能体与普通文本生成模型的区别在于,它们可以调用工具,并代表用户采取行动。因此,安全问题不再只关乎输出内容是否可靠,也涉及权限管理、工具调用、数据处理、身份识别,以及系统上线后的控制能力。
这里的差异并不简单是“中国监管、美国不监管”。就本轮讨论而言,中国更强调由国家支持的标准和面向智能体应用的正式要求;美国讨论中则较突出前沿实验室的自愿承诺和拟议的安全实践。
13
华为的2035年智能体预测
华为预计,到2035年,自主智能体将占全球AI Token流量的90%以上。Token是模型在接收和生成信息时处理的基本单位。华为认为,这一趋势将要求算力大幅提升,并建立让自主软件保持安全、可控的新系统。
1
华为还预测,届时活跃智能体数量最高可达9000亿个。这是企业提出的情景预测,而非已经确定的市场结果,更适合被理解为其基础设施规划所依据的判断。
3
但该预测也说明,为何华为将智能体安全视为核心工程问题:当AI系统越来越多地持续监测信息、作出决策并调用外部工具时,对其访问权限和行为的管理,将成为基础设施的一部分,而非事后补救。
算力短缺为何是眼前瓶颈
徐直军表示,华为无法生产足够的AI计算设备来满足中国国内需求,因此正在限制海外销售。
2
这一供给约束位于华为AI战略的中心。训练和提供更强模型服务,需要大规模硬件、网络和数据中心能力。布鲁金斯学会同样指出,获取先进AI芯片受到限制,制约了中国企业在算力规模上追赶美国竞争者的能力。
因此,徐直军强调的是发展顺序:中国应提升AI安全能力和控制机制,但不应把安全担忧变成停止能力建设的理由。在他的判断中,有限的计算能力是缩小前沿差距更紧迫的障碍;风险管理必须与能力提升并行推进,而不是取而代之。
2