300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

735℃ 565评论
300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

对 Alphabet 或 Google 管理层来说,不得不考虑的严重问题是:该如何处理已与美国国防部在 Project Maven 达成的合作关係。

Google 食言了?

Project Maven 是美国军方 2017 年 4 月主导建立的专案,也称为演算法战跨职能团队(AWCFT)。Maven 的工作是「加速国防部整合大数据和机器学习技术」。据该中心助理研究员 Greg Allen 介绍,首要工作是帮助军方有效处理空中无人机每天收集的大量影片。

300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

按照美国国防部的计画,Project Maven 成立 6 个月就可以执行;为了满足迫切时间要求,国防部依靠自身显然不够,于是转而寻求学界和业界的人工智慧专家合作,以弥补军方和硅谷之间的技术差距。根据总监 John Shanahan 的说法,Maven 将为整个国防部点燃「人工智慧的火焰前线」。

据报导,自 2017 年 12 月以来,Maven 已部署至与伊斯兰国的对抗。

外界普遍认为,身为 TensorFlow 开发者,Google 有参与合作,不仅为国防部提供机器学习应用的 TensorFlow API 介面,还动用工程师资源提供帮助。这合作今年稍早候曝光之后,引起大量争议,许多 Google 员工表达抗议。

300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

2017 年秋天,还担任 Alphabet 董事长的 Eric Schmidt 在一次谈话说起科技圈与军方合作的担忧。「技术社群普遍担心军事和产业结合,会用做不正当杀人武器。」同样也是国防创新委员会成员的他补充,「我不会在军队提供 Alphabet 的东西」。

不过随着 Eric Schmidt 在 2018 年初卸任 Alphabet 董事长,Google 似乎食言了。不少媒体认为,为了争取国防部云计算业务的订单,Google 参与了国防部 Project Maven;儘管 Google 已宣称与军方的合作和战争没有关係,但还是引起员工和业界关注。

这事件持续发酵,目前最新动向是:大约有 12 名 Google 员工要离职,以表达抗议。

Google 员工联名信和辞职

据外媒 Gizmodo 报导,让这些离职 Google 员工感到沮丧的,不仅是人工智慧在战争无人机使用的伦理问题,还有 Google 的政治选择及对用户信任的影响。许多人已在一份内部档案表达了将离职的决定,这份档案也在 Google 内部分享。

不过,究竟这些人辞职会不会对 Google 管理层造成影响,是值得讨论的问题。

早在 2018 年 4 月初,大约有 3,100 多名 Google 员工签名,向 CEO Sundar Pichai 提交一封信,要求立即取消参与 Project Maven,并要求 Google 起草并公开清楚的政策:Google 和合作方不会开发用于战争的技术。

300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

这些员工在信中表示:

这些员工的痛心疾首似乎没能对 Google 的决定造成什幺影响。Gizmodo 报导称,Google 并没有停止 Project Maven 的工作,并被外界认为是美国国防部的云端计算工程──The Joint Enterprise Defense Infrastructure──竞标者之一。也就是说,Google 之所以坚持参与国防部计画,可能是为了争取云端计算方面的相关利益。

不过,这事件的複杂之处在于:Google 之前声明只是为 Project Maven 提供一些开源软体。既然是开源软体,那幺即使 Google 不参与,国防部照样可以自行下载使用,并用于军事。

另外,Google 参与 Project Maven 的消息曝光初期,Google 一位发言人曾表示公司正在起草一份关于机器学习使用政策和防护安全措施,但据知情人士了解,起草还未开始。

更大的舆论压力

如果说,内部员工的联名信和辞职抗议不足以让 Google 管理层考虑改变决定,Google 本次还面临更大的外界舆论压力。

2018 年 4 月 19 日,就在 Google 员工发出联名信半个月之后,来自 Google、Amazon、Microsoft 和 IBM 等科技公司的员工发表一封联合请愿信,称科技公司不应该参与与战争有关的商业,因此 Google 应该中止与美国国防部的合作。

300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

不仅如此,Google、Amazon、IBM 和 Microsoft 等科技公司尝试与美国国防部达成的商业协定将失去用户信任,科技公司拥有大量用户敏感资料,不应该参与某国的军事活动。虽然并不完全是指 Google,但考虑到 Google 在人工智慧领域的地位及争议,毫无疑问首当其冲。

这还不够,Google 员工的抗议和上述科技公司员工的请愿得到人工智慧学界、电脑学界和伦理学界专家学者的支持。

5 月 15 日,国际机器人武器控制委员会(ICRAC)向 Alphabet CEO Larry Page、Google CEO Sundar Pichai、Google Cloud CEO Diane Greene 及 Google Cloud 首席科学家李飞飞发出一封公开信,再次要求 Google 停止与国防部的 Project Maven 合作,承诺不开发军事科技,并保证不将搜集的个人资料用于军事行动。

另外,这封信还呼吁 Google 宣誓不会参与或支持自动武器开发、製造、贸易和使用,并支持禁止自动武器。

到目前为止,已有 364 名专家学者联署,且数量还在不断增加。

300 多位学者联名上书、多名员工离职,会让 Google 停止与美国国防部合作

随着内部和外部舆论压力增加,Google 和 Alphabet 陷入某种腹背受敌的道德和舆论困境,这可能是比失去国防部订单后果更严重的困境,甚至会引发严重的信任危机。可以想见,Google 将不得不回应;但这并不意味着 Google 会完全听从舆论,停止与美国国防部 Project Maven 的合作。

至于人工智慧技术在道德和伦理面临的困境,恐怕不是 Google 一家公司的问题,也不仅是 IBM、Amazon、Microsoft 等相关厂商的问题,这将无可避免地成为整个人工智慧时代的长期性争议。