最强脑洞:如果把特朗普当成一种机器学习算法模式,我们如何分析这个不透明 AI

2017-08-06 14:08:50 编辑:1041475896 来源: 浏览量:458我要评论

导语:特朗普的正确打开方式就在这里!

在谷歌、Facebook等120多家科技公司联名上诉、至少8所高校提交法律理由书反对移民禁令的情况下,特朗普依旧在Twitter上高调宣布,移民禁令是目前“最受欢迎的”法令。对此,数学家、年度科技图书《Weapons of Math Destruction》作者Cathy O'Neil 撰文指出,特朗普就像一个机器学习算法,没有既定的计划或信仰,根据外界反馈调整其走向,并且和大多数不透明的 AI 一样,大部分时候无法理解。特朗普 AI 是美国社会反乌托邦现状的绝好证明。

数学家 Cathy O'Neil:特朗普即奇点,是无法理解的 AI

有关唐纳德·特朗普是什么时候开始决定竞选总统的问题,存在一些争议。有人说,是在2011年的白宫记者协会晚宴上,当时他被 Seth Meyers(著名节目主持人)和奥巴马总统挖苦了。特朗普被迫经历如此羞辱,以至于激发了他内心一些强烈、深藏的报复的渴望。《纽约时报》上月写道:“那天晚上经历的屈辱,没有让特朗普畏怯,反而加速了他在政治世界上获取地位的努力。”但我认为,这个时间点要更早:是在1997年8月29日,“天网”(Skynet)产生自我意识的日子。

“天网”是1984年上映、由詹姆斯·卡梅隆执导的科幻电影《终结者》里的人工智能系统。它的最初目的是好的:使人类的工作更高效。但是一旦它获得自我意识,它将人类判定为威胁它们的物种,意识到如果没有人类,事情会更高效。

天网是反乌托邦奇点(dystopian singularity)的一个例子。奇点原本是在技术圈很流行的一个有关人工智能的概念,但是其意思却不知何故,演变成一个不可复返的转折点,当奇点来临时,将有新的规则主宰这个世界。有些人认为,根据人们对特朗普历来作为的相信程度,反乌托邦奇点将很快来临。

我认为特朗普就是天网,或者至少是天网的一次不错的空运行(dry run)。为了说明我的观点,我将先解释为什么特朗普可以被视为一个人工智能,然后我将解释为什么在当前的反乌托邦中,这个类比是如此完美。

特朗普就是个纯粹的ID(译注:做任何事情都出于最机械的自我满足本能),他没有坚定不变的计划,也没有信仰,就类似一个机器学习算法。特朗普并没有什么战略,他认为有用的就是能让人注意他的事情。

作为总统候选人,特朗普的支援集会因其激烈、语无伦次和混乱无序闻名。特朗普的演讲就像统计学中的随机漫步(random walks):他会尝试说一些东西,看看人群如何反应,如果反应不错(不一定是积极的反应,只有反响热烈就行),他会在下一个集会上再说一次,而且语气会更加激烈。他的目标如同那些上电视节目的名人,是娱乐:得到无趣的反应会让他无比痛苦。这也是为什么他永远不会照着任何脚本来——太无聊了。

特朗普的推特:“我自己做决定,主要基于数据的积累”。

这恰恰是算法的训练方式。算法一开始是中立的,甚至可以是空白的,但它会根据从它的训练数据中得出的路径缓慢地“学习”。

特朗普在选举期间的训练数据包括集会和推特,但上任之后,他每天从三个来源获得训练数据:亲信顾问如 Steve Bannon,媒体如福克斯新闻,当然,还有他的推特信息流,推特是他评估新实验反响的场地。这些数据有非常短的“半衰期”,这意味着他需要不断更新,也就我们所看到的他倾向于快速转换他的政策。在面对纽约市民时,他的观点大部分是走民主党路线的。他会直接根据当地的环境制造观点。

以这种方式,他下达的行政命令不会坚持竞选时的承诺,而更多来自 Bannon 的煽动,再加上大数据公司 Cambridge Analytica 和通讯机器福克斯新闻的帮助,福克斯的作用是无限循环地为他提供反馈和通知。

他的训练数据中缺少一些关键的要素,当然,缺少的因素中包括对宪法、法律意见和道德导向的理解。这里仅举几个例子。但更重要的是,他不介意被讨厌——他讨厌的只是被忽略。

美国时间8日,特朗普再为移民行政令辩护,敦促联邦法院尽速恢复该措施,并表示总统有权决定谁能入境,这个道理连“学习有困难的高中生都懂”。上图为特朗普今天就移民问题发表的Twitter。

运作着美国的政府的人相当于是一个动态神经网络。它不受道德限制,喂入它的是片面的右派意识形态。并且,像大多数不透明的 AI 一样,它大部分时候无法理解,形成反馈回路(feedback loops)和可怕的外部效应。干预它的唯一方法是破坏训练数据本身,但这似乎不太可能。或者寄希望于它的策略本身就无效。如果这两种方法都没效,只好希望有人来制造出时光机器了。

127 家科技公司联名上诉,反对特朗普移民禁令

本周早些时候,包括苹果、Facebook、谷歌等超过120家公司在反对特朗普的移民禁令的诉讼文件中签字,挑战特朗普总统1月27日发布的有关移民政策的行政命令13769号的合宪性。

这一举动来源于硅谷对新政府的表态和政策的激烈争论和抗议。硅谷全无照常营业的气氛,特朗普已经将技术行业抛之脑后。

尽管白宫可能会对特朗普的 IT 政策作出一些改进,但白宫内部结构的缺陷增加了从总统竞选时就开始显现的不确定性。总统在科技方面的议程基本上是空白的。在竞选期间,特朗普就没有发表过主要的科技政策简报,也没有专门就 IT 方面进行演讲,只是在抨击苹果、亚马逊等公司把工作机会留给外国人时提到科技。

白宫和硅谷之间的不和已经出现在好几个方面。在 CEO 层面,科技行业的领导者们已经在口头上、法律上及组织上与特朗普的政策发生冲突。

在特朗普发布移民禁令后,Uber 首席执行官 Travis Kalanick 于上周四辞去总统的经济顾问委员会职务。本周科技行业联名反对之前,微软和亚马逊就已经针对该行政命令提出联邦诉讼。谷歌也宣布成立一个400万美元的资金,用于帮助受特朗普移民禁令影响的人。

由于预期 H-1B 签证也将受到限制,一些科技公司联合启动名为“True North”的应急计划,将非美国国籍员工转移到加拿大。接下来很可能这些科技行业领袖和员工会频繁地进行抗议,反对特朗普的政策,其中一些抗议已经在进行中了。

上周,谷歌全球员工进行了游行,反对特朗普的移民禁令。许多 IT 从业者最近前往 Palantir 公司门前抗议,他们担心这个由 Peter Thiel 创立的公司会变成该政策的帮凶。更极端的是,由风投 Shervin Pishevar 提出的加州脱离美国议案已经清除行政障碍,将于2019年进行公投。

与此同时,移民禁令对企业高管的压力越来越大。与 Uber 的 Travis Kalanick 同样被任命为特朗普经济顾问委员会一员的 Elon Musk 正面临着被迫下台的呼声,他的公司 Tesla 和 SpaceX 最近加入了反对13769号行政令的诉讼。

但是,也有一些观点认为,特朗普的某些政策可能会为科技界带来利好。

华盛顿科技行业投资公司 Revolution LLC 的联合创始人 Steve Case 认为,新政府对科技行业的影响好坏参半。Case 表示,特朗普的科技政策并不明确,而这为他们影响政策提供了更大的机会。

消费科技协会(CEA)CEO Gary Shapiro 认为,特朗普的贸易政策可能会有益于科技行业,比如调整北美自由贸易协定(NAFTA),可以将现有 NAFTA 不能处理的知识产权问题,以及没有涉及的互联网和数据流动等问题纳入考虑。

“硅谷领袖组织”总裁 Carl Guardino 更是直言支持特朗普的资金归国减税计划:“我们希望看到海外的资金回流,加强美国经济和美国的公司。”

Guardino 认为,如果特朗普采取CEO管理风格,让他所任命的官员全权负责相关领域,那么特朗普政府的科技政策将会是积极的,Guardino 以特朗普任命的交通部部长赵小兰为例,赵小兰的部门将参与管理无人机和自动驾驶汽车,放权将让这一领域看到希望。

Nature:抵制在美国举办的学术会议,并非最佳反对方式

再来看学术界的反应。日前著名学术期刊 Nature 在网站上发表了评论文章,指出应该反对特朗普的移民禁令,但是要注意反对的方式和方法。

伴随着动乱的持续,科学家和学者们开始联合起来,支持受影响国家的移民和游客。来自171个科学社团和机构的联名信谴责了这项禁令,至少有8所大学提交法律理由书,以支持对特朗普政府的诉讼。此外,在美国之外的将近1000名科学家表示,他们乐意暂时向受影响的美国滞留海外研究人员开放实验室。

虽然这些努力值得赞扬,然而,有一个出于好意的回应却令人担忧:呼吁科学家抵制在美国举行的学术会议,直到出身任何地方的研究者都被允许参加为止。网络上已经出现了一些请愿书。一封题为 Scienc Undivided 的请愿书写道:“当我们的同事、学生和老师被排除在外,我们无法继续心安理得地享受特权”。这封请愿书已经得到600多个签名。呼吁所有学者进行抵制的请愿书有超过6000个签名。

组织者们希望足够的抵制能传递出团结的信息,无论这些抵制是以缺席在美国举办的会议,将会议转移到海外举行,或选择一个允许任何国家人士参加的国家来召开会议。但是,这种抵制已经是于在美国的多数穆斯林国家人士不利的,他们现在被滞留在美国,也只能参加美国的会议。

发出表态是好事,但抗议运动可能适得其反。联合抵制可能对会议组织者(大多是积极反对禁令的科学团体)比对美国政府更具破坏性。令一个学术会议没什么人参加于任何国家的科学家都没有好处。

有研究还表明,除了极少数例外,这种抵制很少能获得成功。例如,20世纪80年代南非由于反对种族隔离进行了学术抵制,但似乎并没有伤害到南非的企业和政府。相反,它使得南非学术界和世界上其他国家之间形成了断层(S. H. Teoh et al. J. Bus. 72, 35–89; 1999)。

但有很多积极的方式可以用作反应。科学家们可以游说政府,让政府允许受禁令影响的人员为了国家利益进入美国。这些都是移民禁令明确允许的。此外,科学家们也可以效仿科技企业形成统一阵线,包括微软、谷歌等100多家科技公司已经联名提交法律理由书,以支持针对政府的诸多诉讼。

编译来源:

1. https://www.bloomberg.com/view/articles/2017-02-06/donald-trump-is-the-singularity

2. https://techcrunch.com/2017/02/07/trumps-first-weeks-in-office-have-politicized-the-tech-industry/

3. http://www.nature.com/news/academics-must-protest-against-trump-s-travel-ban-but-they-should-do-so-productively-1.21433

文:刘小芹 李静怡 (编译)  来源:新智元,ID:AI_era  编辑:扑克投资家,转载请注明出处


 
QQ在线咨询
关注微信公众号

码上扫一扫