当前位置:首页 > 消费与科技

图灵奖得主:人工智能在被滥用 自我监管行不通

网络8年前 (2019-04-06)消费与科技1694

深度学习三巨头之一、图灵奖得主Yoshua Bengio

从深度学习的寒冬走入爆发期,今年三位图灵奖得主跋涉过了数十年岁月。

当图灵奖把荣耀颁予深度学习,奠基人之一、加拿大计算机科学家Yoshua Bengio却日渐感受到滥用AI的危险,比如威胁场景的监控和无人机杀手。在三位深度学习奠基人之中,唯有Bengio全职留在学界。他在加拿大蒙特利尔大学任教,并带领由Google资助的蒙特利尔算法学习人工智能实验室(MILA)。

Bengio认为,在军事实验室、安全组织、为政府或警察提供服务的私营公司中,人工智能正在被滥用。技术本无善恶,但日渐强大的人工智能如同一柄双刃剑,终将同时拥有推动科学进步和破坏人类社会的力量。

因此,2018年12月,在人工智能和机器学习的盛会NeurIPS上,Bengio提出了人工智能的一系列道德准则,被称为《蒙特利尔宣言》。

最近,这位深度学习奠基人与《Nature》(《自然》)进行了一场对话,谈及人工智能的方方面面,Bengio也重申了滥用人工智能的危险和应对措施。或许这位在人工智能方面的先行者,会启发我们有一些不一样的思考。

《Nature》:你是否看到很多公司或者国家不负责任地使用AI?

Yoshua Bengio:已经有很多这样的事情,而且可能会有更多。所以我们必须在坏事发生之前警醒世人。许多最令人担忧的事情并非在光天化日之下发生。它发生在军事实验室、安全组织、为政府或警察提供服务的私营公司中。

《Nature》:能举一些例子吗?

Yoshua Bengio:无人机杀手很让人担忧。这既有道德问题,也有安全问题。另一个例子是监控。你可以说它具有潜在的积极作用。但滥用的风险,特别就威胁场府而言,是非常真实存在的。从本质上讲,人工智能是一种工具,可以被掌权者用来巩固权力,并且加强权力。另一个问题是,人工智能可以放大歧视和偏见,例如性别歧视或种族歧视。因为用来训练AI的数据中就存在偏见,这受到人为影响。

《Nature》:什么使蒙特利尔宣言与类似举措有所不同?

Yoshua Bengio:我认为这个宣言最先纳入了广泛的群体,不局限于人工智能研究人员,而是广泛引入社会科学、人文学科方面的学者,乃至公众,并且是以深度参与的方式。这带来了变化:由于与专家和公众进行讨论,我们将原则从7条改为10条。组织可以遵循这些原则。

《Nature》:什么是最适合人工智能道德讨论的平台?

Yoshua Bengio:我们正试图在蒙特利尔建立能够实现这个目标的组织:人工智能和数字技术社会影响的国际观察站(The International Observatory on the Societal Impacts of Artificial Intelligence and Digital Technologies)。它应该纳入以下所有行动者:政府,因为他们是可以采取行动的主体;民间-社会专家,既有人工智能技术专家,又有社会科学、医疗保健和政治科学专家;以及正在制造这些产品的公司。

但我们必须谨慎行事。因为当然,公司可能会把规则向他们的最低水平压低。

《Nature》:你是否认为这一行动会推动出台人工智能的政府或国际法规?

Yoshua Bengio:是。自我监管不会起作用。你认为自愿征税有效吗?它没有。与不遵守道德准则的公司相比,遵守道德准则的公司反而将处于不利地位。这就像开车一样。无论是左侧还是右侧,每个人都需要以同样的方式驾驶;否则,我们就会有麻烦。

《Nature》:你曾表达担忧公司从学术界偷走了人才。这还是个问题吗?

Yoshua Bengio:这还在继续。但也有一些好事发生。我们在蒙特利尔取得了成功,因为人工智能的生态不断发展,并且出现了一种人才逆向流动。人们从境外来到加拿大从事人工智能研究。

蒙特利尔正在发生另一件事,我认为世界其他地方也有这样的情况。在业界工作的学术研究人员,正在承担兼职教师的角色,他们辅导或帮助辅导大学离的研究生。MILA就有这样的情况。

我们也在努力培养学生。我们在蒙特利尔的机器学习教授人数翻了一番。这部分要归功于加拿大政府的人工智能投资策略。

《Nature》:你认为欧洲在人工智能方面落后于中国和美国吗?

Yoshua Bengio:没错。但我不认为欧洲应该接受这一点。欧洲有巨大的潜力成为领导者。欧洲有优秀的大学。事实上,我们在MILA的许多学生来自欧洲。欧洲还有一个建立不久但是充满活力的初创公司技术社群,分布在几个地方。欧洲政府开始意识到人工智能的重要性。法国政府可能是第一个朝这个方向迈出重要一步的欧洲政府。

《Nature》:人工智能的下一件大事是什么?

Yoshua Bengio:深度学习。目前深度学习在感知方面取得了巨大进步,但它在能够理解高等级表征的系统方面,尚未有所突破——就是那些人类在语言中使用的概念。人类能够使用这些高级概念,进行有力的归纳。甚至婴儿都能做到这一点,但机器学习却做的非常糟糕。

我们有能力推断数据中实际没有发生的东西。例如,我们在生成式对抗网络方面取得了一些进展(这种技术是设置一个生成式网络与图像识别网络竞争,以帮助二者改善表现)。但人类比机器要出色得多,我猜测,重要因素之一是人类对因果关系的理解。

访问无忧岛网站,请使用谷歌和苹果浏览器!部分浏览器访问本站可能会造成内容页面的缺失

分享给朋友:

相关文章

“黑五”海淘战升级|亚马逊还是舍不得中国

“黑五”海淘战升级|亚马逊还是舍不得中国

视觉中国这个“黑五”(即黑色星期五,指的是每年11月第4个星期四感恩节的后一天),跨境电商市场的火药味儿异常浓烈。在宣布电商业务退出中国7个月后,不甘心的亚马逊又回来了。就在&…

这个就是iphone X,大家来看看

这个就是iphone X,大家来看看

iPhone X可能并不适合所有人,但它绝对称得上是目前最棒的智能手机,没有之一。 和此前的历代iPhone相比,人们对于苹果iPhone X的评价可能是最不一致的——这款刚刚发售一周的新品,因为新…

小米最新全面屏,上手三天后的六点感受,有好有坏吧

小米最新全面屏,上手三天后的六点感受,有好有坏吧

小米最新全面屏手机红米5系列也于双十二开始发售,我也入手了一台红米5 Plus 4+64G版本的,1299,也算是第一批的用户,在双十二当天下午就收到货了,差不多也用了三天,就我个人而言,以下是我个人…

摩拜单车的原理是什么?多久需要充一次电?

摩拜单车的原理是什么?多久需要充一次电?

很多城市到处可见路边停靠的摩拜单车,随时扫码,随时骑走。这么方便的产品,他的原理到底是什么样的?因为要电动定位、开锁,那么它多久需要充一次电呢?今天我们就为大家简单介绍下。摩拜单车原理摩拜单车的原理简…

为啥要实现中国制造?80年代从日本进口个硬盘就得上千块

为啥要实现中国制造?80年代从日本进口个硬盘就得上千块

近几年很多人都在说“中国制造”这个词,以往我们比较熟悉的德国制造,那是世界制造业发展的祖师爷。而现在中国的制造业已经打破传统制造业强国的垄断,中国制造已经开始得到全世界的认可。中国的高铁技术已经成熟到…

比汽车尾气更恐怖的 是废电池无处回收?

比汽车尾气更恐怖的 是废电池无处回收?

[电动邦 用车 原创] 去年,全球电动汽车数量超过了200万辆。国际能源机构估计,如果各国能够达到在巴黎达成的“气候协议目标”,那么到2030年时,全球将有1.4亿辆电动汽车。加拿大电池回收公司Li-…

为什么说安卓的人脸识别都是玩具

为什么说安卓的人脸识别都是玩具

什么?你说我标题党?不不不,安卓手机的人脸识别功能确实都等同于玩具,能解锁、解锁快并不能说明些什么,在安全性和实现方法的技术层面上而言,安卓手机的人脸识别基本都不太可靠。至少,比起成熟的电容式指纹解锁…

毫無預警 Google 突然停售 Pixel C 平板

毫無預警 Google 突然停售 Pixel C 平板

   Google 的 Pixel C 無法衝擊被 Apple iPad 主宰著的平板市場,日前終於黯然退場,Google 正式在官方商店將之停售。這款 2015 年底上市,擁有…

因苹果电池降频门事件,引进第三方 29美元电池以旧换新套餐

因苹果电池降频门事件,引进第三方 29美元电池以旧换新套餐

 面对减速门丑闻在全球发酵,苹果被迫公开道歉,并宣布降低更换电池的费用。据外媒最新消息,一些第三方手机服务商,也降低了iPhone更换电池的费用,覆盖机型范围甚至更广。苹果之前宣布,从现在到…

電池又出問題 三星Note 8電量耗盡後無法充電

據科技網站 Android Authority 12月28日報導,多位用戶在三星論壇上反映,Galaxy Note8在電池電量耗盡並關機後,無法充電和開機。另外,多位用戶反映 Galaxy S8 Pl…

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。