谷歌内部掀起新一轮员工抗议浪潮。数百名人工智能研究人员联署公开信,要求CEO Sundar Pichai拒绝将公司AI系统用于美国国防部的涉密任务。

据彭博,组织者称已征集到逾580个签名,签署者涵盖超过20名总监、高级总监及副总裁级别的高管,以及谷歌旗下AI研究机构DeepMind的多名高级员工。组织者表示,该信将于本周一送达Pichai。

公开信明确要求谷歌拒绝一切涉密工作负载,理由是一旦AI工具部署于与公共互联网物理隔离的涉密系统,公司将无从监控其实际用途。

这封信的发出恰逢谷歌与五角大楼之间的合作谈判持续推进。据报道,双方就将谷歌AI工具用于"一切合法用途"展开磋商。批评者认为,这一表述在实践中可能涵盖全自主武器系统及国内大规模监控。

对市场而言,此次员工行动令谷歌未来国防业务的扩张节奏及合规边界再添不确定性。

员工忧虑:合同边界模糊,涉密系统失控风险高

公开信的核心诉求,在于员工认为谷歌未能就AI在涉密网络上的使用划定具体且可执行的红线。

谷歌DeepMind英国分部AI研究工程师Sofia Liguori表示,她签署该信,是因为谷歌未能就AI在涉密领域的使用与员工讨论。她指出,一旦AI工具部署于涉密系统,公司在技术层面将无法追踪和限制这些工具的实际使用方式。

"公司一直以来给出的回应,是让员工相信领导层会签订好的合同,"Liguori说,"但这些表述都非常宽泛。"她特别点名"智能体AI"(Agentic AI)的风险:

"它所能达到的自主程度令人担忧。这就像在交出一件极其强大的工具的同时,也放弃了对其使用的任何掌控。"

公开信写道:"目前,确保谷歌不与此类危害产生关联的唯一方式,是拒绝任何涉密工作负载。否则,此类用途可能在我们不知情、且无力阻止的情况下发生。"

历史重演:从Maven到当下的边界之争

此次员工行动并非首次。2018年,谷歌员工对公司参与五角大楼"Maven项目"一事发出强烈抗议,该项目旨在利用AI分析无人机视频画面中的目标物体。

面对员工的反对和辞职浪潮,谷歌最终制定了新的AI原则,并决定不再续签Maven合同。

然而,谷歌此后逐步重建与国防工业的关系,并于去年删除了其AI原则中承诺避免将技术用于武器等潜在有害应用的相关表述。

此次联署信的组织者在声明中直言:"Maven尚未结束。"他们表示,"工人将持续就谷歌AI技术武器化问题展开组织行动,直到公司划定清晰、可执行的边界。"

谷歌与五角大楼:合作加速,边界存疑

与此同时,谷歌与五角大楼的合作已实质性推进。今年3月,谷歌向五角大楼逾300万名员工开放了其Gemini AI智能体,供非涉密级别使用;此前已于去年12月开放Gemini聊天机器人。

负责研究与工程事务的国防部副部长Emil Michael在3月告诉彭博,五角大楼将从非涉密层级的Gemini智能体用途起步,"然后我们将进入涉密和绝密级别",并透露谷歌AI智能体在涉密云端的使用谈判已在进行中。

谷歌与五角大楼就AI工具"一切合法用途"的授权谈判正在推进。这一表述被批评者认为可能涵盖武器系统。对此,五角大楼强烈反驳上述定性,并主张商业公司不应在战时或备战期间拥有对使用政策的否决权。

这场争议还与Anthropic近期的处境形成对照——据报道,五角大楼正寻求将Anthropic及其Claude AI工具从美国国防供应链中排除,并积极物色新的科技巨头合作伙伴,谷歌因而成为潜在替代选项之一。