用心打造
VPS知识分享网站

阿里巴巴的人工智能编码工具引发西方安全担忧

阿里巴巴发布了名为 Qwen3-Coder 的全新 AI 编码模型,该模型基于大型开源模型构建,旨在处理复杂的软件任务。该工具是阿里巴巴 Qwen3 系列的一部分,并被誉为该公司迄今为止最先进的编码代理。

阿里巴巴的人工智能编码工具引发西方安全担忧

该模型采用混合专家 (MoE) 方法,在总共 4800 亿个参数中激活了 350 亿个参数,并支持多达 256,000 个上下文标记。据报道,使用特殊的外推技术,这个数字可以扩展到 100 万。该公司声称 Qwen3-Coder 在代理任务中的表现优于其他开放模型,包括 Moonshot AI 和 DeepSeek 的版本。

但并非所有人都认为这是好消息。Cybernews 主编 Jurgita Lapienyė 警告称,Qwen3-Coder 可能不仅仅是一个实用的编程助手——如果被西方开发者广泛采用,它可能对全球科技系统构成真正的威胁。

披着开源外衣的特洛伊木马?

阿里巴巴围绕 Qwen3-Coder 的宣传主要集中在其技术实力上,并将其与 OpenAI 和 Anthropic 的顶级工具进行比较。然而,尽管基准测试分数和功能引人注目,但 Lapienyė 认为,这些也可能分散人们对真正问题——安全性——的注意力。

这并不是说中国在人工智能领域正在迎头赶上——这已是众所周知的事实。更深层次的担忧在于,使用难以检查或完全理解的人工智能系统生成的软件存在着潜在的风险。

正如 Lapienyė 所说,开发人员可能会“梦游般地走进一个未来”,核心系统会在不知不觉中被漏洞代码构建。像 Qwen3-Coder 这样的工具或许能让生活更轻松,但它们也可能引入一些不易察觉的细微漏洞。

这种风险并非假设。Cybernews的研究人员最近审查了美国主要公司的人工智能使用情况,发现标准普尔 500 指数公司中已有 327 家公开报告使用人工智能工具。仅在这些公司中,研究人员就发现了近 1000 个与人工智能相关的漏洞。

添加另一种人工智能模型(尤其是在中国严格的国家安全法下开发的模型)可能会增加另一层风险,而且这种风险更难控制。

当代码成为后门

如今,开发人员严重依赖 AI 工具来编写代码、修复错误以及塑造应用程序的构建方式。这些系统速度快、功能强大,并且每天都在不断改进。

但如果同样的系统被训练成注入缺陷呢?不是明显的漏洞,而是一些难以察觉的小问题,不会触发警报。一个看似无害的设计决策漏洞,可能多年都无法被发现。

供应链攻击通常就是这样开始的。过去的例子,例如 SolarWinds 事件,表明长期渗透可以悄无声息地进行。有了足够的访问权限和上下文,人工智能模型就可以学习如何植入类似的漏洞——尤其是在它接触了数百万个代码库的情况下。

这不仅仅是理论。根据中国《国家情报法》,像阿里巴巴这样的公司必须配合政府的要求,包括涉及数据和人工智能模型的要求。这将讨论的焦点从技术性能转移到国家安全。

您的代码发生了什么?

另一个主要问题是数据泄露。当开发人员使用 Qwen3-Coder 等工具编写或调试代码时,每一次交互都可能泄露敏感信息。

这可能包括专有算法、安全逻辑或基础设施设计——正是对外国有用的细节。

即使该模型是开源的,用户仍然有很多信息无法查看。后端基础设施、遥测系统和使用情况跟踪方法可能并不透明。这使得用户很难知道数据的去向,也很难知道模型会随着时间的推移记住哪些信息。

不受监督的自治

阿里巴巴还专注于自主人工智能(Agentic AI),即比标准助手更能独立行动的模型。这些工具不仅仅是提供代码建议,它们还可以被分配完整的任务,以最少的输入运行,并自主做出决策。

这听起来可能很高效,但也引发了一些危险。一个能够扫描整个代码库并进行修改的完全自主的编码代理,如果落入不法之徒之手,可能会变得非常危险。

想象一下,一个代理能够理解公司系统的防御机制,并制定针对性的攻击来利用这些防御机制。同样的技能组合可以帮助开发人员更快地行动,但攻击者可能会利用这些技能,使其行动速度更快。

监管尚未准备就绪

尽管存在这些风险,但现行法规并未对 Qwen3-Coder 等工具进行有效监管。美国政府多年来一直在讨论与 TikTok 等应用程序相关的数据隐私问题,但公众对外国开发的人工智能工具的监督却很少。

美国外国投资委员会 (CFIUS) 等机构负责审查公司收购,但没有类似的程序来审查可能带来国家安全风险的人工智能模型。

拜登总统关于人工智能的行政命令主要关注自主研发的模型和一般安全实践。但它忽略了对可能嵌入医疗保健、金融或国家基础设施等敏感环境的进口工具的担忧。

能够编写或修改代码的人工智能工具应该像对待软件供应链威胁一样受到重视。这意味着需要制定明确的指导方针,明确规定这些工具的使用范围和使用方式。

接下来会发生什么?

为了降低风险,处理敏感系统的组织在将 Qwen3-Coder 或任何外国开发的代理型 AI 集成到其工作流程之前,应该三思而后行。如果你不愿邀请不信任的人查看你的源代码,那又何必让他们的 AI 重写呢?

安全工具也需要跟上时代的步伐。静态分析软件可能无法检测到人工智能制造的复杂后门或微妙的逻辑问题。业界需要专门设计的新工具,用于标记和测试人工智能生成的代码中是否存在可疑模式。

最后,开发者、技术领导者和监管者必须明白,代码生成型人工智能并非中立。这些系统拥有强大的力量——既是有用的工具,也是潜在的威胁。使它们有用的特性,也可能使它们变得危险。

Lapienyė 称 Qwen3-Coder 为“潜在的特洛伊木马”,这个比喻非常贴切。这不仅仅关乎生产力,还关乎谁在门内。

并非所有人都认同什么是重要的

阿里云创始人王建对此有不同的看法。在接受彭博社采访时,他表示,创新并非在于聘请最昂贵的人才,而在于挑选能够创造未知的人。他批评了硅谷的人工智能招聘方式,如今科技巨头们争相争夺顶尖研究人员,就像体育团队竞相争夺运动员一样。

“你唯一需要做的就是找到合适的人,”王先生说,“不一定是那种收费高昂的人。”

他还认为,中国的人工智能竞赛是健康的,而非敌对的。汪滔表示,各家公司轮流领先,这有助于整个生态系统更快地发展。

“正是因为有这种竞争,技术才能快速迭代,”他说,“我不认为这很残酷,反而非常健康。”

然而,开源竞争并不能保证信任。西方开发者需要仔细思考他们使用的工具以及开发者是谁。

底线

Qwen3-Coder 的性能或许令人印象深刻,并且开放访问,但其使用也存在着超越基准测试和编码速度的风险。在人工智能工具正在塑造关键系统构建方式的时代,值得思考的不仅仅是这些工具能做什么,还有它们在执行这些操作时会给谁带来好处。

赞(0)
未经允许不得转载;国外VPS测评网 » 阿里巴巴的人工智能编码工具引发西方安全担忧
分享到