转载

谷歌员工对抗美国五角大楼：拒绝为军方研发人工智能

编者按：最近几个月，Google员工发起了一项运动，要求公司终止与五角大楼Maven项目的合约，因为这个项目的目标是利用机器学习来改进无人机打击的精度。将近5000名Google员工在取消该项目的内部请愿书上签了名，还有10几个人辞职了。6月1日，这帮人终于胜利了。在员工压力下，Google宣布明年3月本期合同到期后将不再续约。而且Google随后也发布了AI应用指导原则。这个态度的大转变是Google员工的一大胜利，反映出了自特朗普当选美国总统以来技术圈形成的一股新气象。《Logic》杂志的创始主编Ben Tarnoff最近对Google抗议活动的发起人之一进行了访谈，他们讨论了活动是如何发起，如何发展的，并且总结了技术圈将来发起相关活动的经验教训。随着FAAG、BAT等平台公司的影响力堪比国家，这帮人的行动具有深远的启迪意义。

你能否解释一下这场活动的缘起，事情是怎么开始的？

Google刚签完Maven项目的合同在内部就引起了争议。事情大概是2017年9月开始的，10月开始加速。到了2018年1月，至少已经有12支团队知道了Maven项目的事情。来自公司的云、AI、通信、Google Brain、DeepMind等几个不同部门的一群Google人强烈反对此事。他们聚在一起试图通过官方渠道以及向Google Cloud负责人Diane Greene提出自己的关切。

但是公司的人力资源和道德合规团队对这些关切不予理睬。Google人几个月的努力显然收效甚微。公司开始全力推进项目。于是他们决定换种做法。他们在公司内部的社交媒体平台发帖，披露了项目的情况并列举了他们的担心。

文章引起了大量回应。员工普遍强烈反对Maven项目。Diane Greene被迫接入进来，试图平息代价的担心，她坚称Maven项目严格用于非攻击性的目的。但这个理由未能说服大家，其中的许多人在评论中对Diane发起了直接挑战。

其他员工这种压倒性的反响是不是令你们感到吃惊？

绝对的。但在看到这样的反应之后，写那篇文章的Google人深受鼓舞。他们看到了内部有大量的支持。于是他们给Google CEO Sundar Pichai写了一封公开信，请求他取消Maven的合同，并在内部分享出来。

大家反应如何？

那天晚上只得到了100份签名。但次日开始爆发。不到24小时内得到了1000份签名。

那一天是全员大会举行的日子。Diane Greene发布了一份特别公告作为对员工对Maven项目指责的响应。但她显然没有准备好，其回应并不能令人信服。

然后在问答环节期间，有几个问题是跟Maven项目有关的。领导层挨了一记闷棍。这完全是在计划之外的，我想任何人都没料到会有如此强烈的员工反应。一位女性站起来说了类似这样的话，“嘿，我离开国防部就是为了不想再碰这样的东西。除了这场答问以外我们还有什么样的声音去解释为什么这个项目是不行的？”

第一个出来回答的是Google联合创始人之一的Sergey Brin。他的话的确也是事实。“让你们提出这个问题本身就是你们能发出的声音。很少有公司会允许你们做这件事。”

的确，Google的内部文化是比其他公司更开放点。质疑公司决策是一个既有的传统。但在每一个听见他说话的Google人看来这完全是不了解情况的回应。

全员大会是不是这场运动的转折点？

这当然有帮助。我认为这表明了在这个问题上有很多的支持在继续对公司施加压力。

在那次会议之后，签名数量开始激增。光是那一天我们就收集到了500到600份签名。次日，签名又增加了1000。公开信就像野火一样蔓延开来。

运动开始有了自己的生命。从山景城到西雅图到纽约、蒙特利尔、都柏林、苏黎世，大家开始在全球各地的办事处组织自己的活动。

那些都是什么样的行动？

有很多不同的形式。一个小组开始跟踪因为反对Maven项目而辞职的员工清单。另一个小组则跟踪所有有关Maven项目的媒体报道——主要是因为Gizmodo的Kate Conger的推动，这方面的文章开始增多。还有一个小组让员工在每次全员大会上提交有关Maven的问题，然后让其他员工投赞成票好让这些问题能被提出。

还有一个小组记录了Maven项目公司领导层与美国国防部之间召开的启动会的时间表。有个小组征询愿意分享的每个人对Maven项目的个人声明，还有一个建立了支持行动的档案相片，员工可以用来发布到公司内部的社交媒体上。

一个小组就是为了制造迷因（meme）。Google有一个流行的内部meme生成器叫做Memegen。每天这个小组都会利用Memegen来制造有关Maven项目的迷因并且进行广泛的分享。这些meme很有趣很暗黑，而且往往直接呼吁领导层。我们知道这些meme产生了巨大影响，因为Google领导层开始用它们作为衡量内部关于该项目讨论热度的指标。

这些不同的行动之间有什么协调吗？还是说大部分都是自发形成的？

大部分都是自发的，但关于策略问题一直都有对话进行。我们还有一份关于谁已经签名的公告清单。在这份清单上，所有不同的行动都会更新，以便鼓励大家参与到其中。

在Google外面你们也得到了支持。

是的，今年4月，Tech Workers Coalition在Coworker.org上发起了一项请愿活动，活动得到了其他技术公司如Amazon、IBM和微软的员工的签名支持，他们也呼吁Google1要取消Maven项目，并且呼吁整个业界拒绝跟五角大楼合作。

然后到了5月，为了对我们反对Maven项目表示支持，International Committee for Robot Arms Control（ICRAC，国际机器人军备控制委员会）发表了一封由Peter Asaro、Lilly Irani以及Lucy Suchman等学者撰写的公开信。这封新得到了一些AI和计算接科学界的知名学者的签名，其中就有Terry Winograd，他可是Larry Page当年在斯坦福读博士时候的导师。

这产生了大规模的影响，那些学者给我们带来了公信力。我们有了真正的专家发出告警，说“嘿，这个有点更像是在造原子弹而不是开发Gmail。”我知道那封信给Google AI负责人，同时也是斯坦福大学教授以及AI实验室负责人的李飞飞造成了很大压力。

在压力增加的情况下领导层是如何做出反应的？

他们的主要策略是开更多的会议。

在那次全员大会几周之后，他们决定做点更加激烈的事情。他们宣布要召开3长时长2小时的会议讨论Maven项目——分别在美国、欧洲以及亚洲分支机构举行——公司的所有人都要参与。

这个阵仗够大。我们从来没见过这种情况：对每一位Google人发出公开邀请，就最高层做出的一项决定发表意见。

会议首先把我们分成了若干小组。他们说，“我们希望能倾听到每个人的观点——哪怕是那些非主流的观点。”这种口吻显然他们知道自己的观点才是非主流的一方，但是他们希望能得到一些员工的支持。

但这种情况并没有出现。根本就没有发生！大家都非常焦虑。会议的后半场是问答环节，任何人都可以提出问题。领导层被穷追猛打。

有一位提问的女性在Google已经呆了13年。她说：“我已经替你们工作了这么久了。但说实话这是我第一次说我不信任你们。为什么你们不征求我们员工的意见？为什么你们不问问我们是怎么想的？”

领导层对这类批评是如何响应的？

他们会说，“道德是很复杂的。道德是很难的。”他们经常会这么讲。他们说会制订一套道德原则来指导跟军方的合作。他们说：“这是个灰色地带。我们仍然在设法找出道德的界限在哪里——但在此之前我们不能搁置业务。”

他们还试图将项目的范围和牵涉的内容轻描淡写。但在我们发现领导层撒谎之后这套说辞已经没有用了。

他们撒了什么谎？

一开始他们告诉我们Maven项目是个小合同，纯粹用于非攻击目的。他们说我们不做任何定制的东西。他们说这只是一次性的项目，价值只有900万美元，而且跟五角大楼没有任何进一步的合作。

结果表明这全都是谎言。4月12日，DefenseOne 发表了一篇文章在公司内部掀起了轩然大波。文章援引了跟五角大楼官员的谈话，披露Maven项目其实是未来Google与军方合作的试点项目。而且Maven项目还是Google争取赢得Joint Enterprise Defense Infrastructure（JEDI，联合企业国防基础设施计划）这个大单的一部分。

JEDI是军方的下一代云设施，其计划是将美军在全球的力量通过AI整合到一起。这基本上就是天网。而所有的大型云提供商都想赢下这个合同，因为它价值100亿美元。

当我们发现Maven项目是JEDI的敲门砖时，大家开始变得极其担忧。而随着媒体对这件事情的关注度在增加，我们了解到了更多的情况。比方说，Diane Greene曾经告诉我们Maven项目的合同只有900万美元，但内部他们预计会增加到每年2.5亿美元。而且他们不仅允许五角大楼访问开源软件——他们还打算开发大规模的监控系统让军方在类似Google Earth风格的界面上分析人员、车辆以及建筑的实时信息。

这些谎言的被拆穿令我们很受伤，我们丧失了对领导层的信任。