人工智能会“作恶”吗？
一场抢劫案后，格雷的妻子丧生，自己也全身瘫痪。他接受了一个天才科学家的“升级”改造治疗——在他身体里植入了人工智能程序STEM，获得了超强的能力，从一个“残废”直接升级成为职业杀手。随着STEM的进化升级，步步紧逼格雷交出身体使用权和大脑意识控制权……
本年度关于人工智能和人类未来的最佳影片，不少人认为非《升级》莫属。而人工智能和人类抗衡的探讨，是科幻电影中的永恒话题，从《银翼杀手》到《机械姬》，再到今年的低成本电影《升级》，都映射出未来人工智能对人类的威胁。
黑产超正规行业 恶意源于人类基因
AI造反，是科幻电影里太常见的桥段。问题在于，现实当中真正的AI好像也在一步步向我们走来。不少人抱有忧虑和不安，人工智能会“作恶”吗?
倾向于AI威胁论的人并不在少数。马斯克曾在推特上表示：“我们要非常小心人工智能，它可能比核武器更危险。”史蒂芬·霍金也说：“人工智能可能是一个‘真正的危险’。机器人可能会找到改进自己的办法，而这些改进并不总是会造福人类。”
“任何技术都是一把双刃剑，都有可能用于作恶，为什么人工智能作恶会引起这么大的反响?”在近日召开的2018中国计算机大会的分论坛上，哈尔滨工业大学长聘教授邬向前抛出了问题，人工智能研究的底线到底在哪里?
早在1942年，阿西莫夫就提出了机器人三定律。但问题在于，这些科幻书中美好的定律，执行时会遇到很大的问题。
“一台计算机里跑什么样的程序，取决于这个程序是谁写的。”360集团技术总裁、首席安全官谭晓生说，机器人的定律可靠与否，首先是由人定义的，然后由机器去存储、执行。
值得注意的是，“不作恶”已成科技行业的一个技术原则。那么，机器人作恶，恶意到底从何而来?
如今人工智能发展的如火如荼，最早拥抱AI的却是黑产群体，包括用AI的方法来突破验证码，去黑一些账户。谭晓生笑言：“2016年中国黑产的收入已超过一千亿，整个黑产比我们挣的钱还要多，它怎么会没有动机呢?”
“AI作恶的实质，是人类在作恶。”北京大学法学院教授张平认为，AI不过是一个工具，如果有人拿着AI去作恶，那就应该制裁AI背后的人，比如AI的研发人员、控制者、拥有者或是使用者。当AI在出现损害人类、损害公共利益和市场规则的“恶”表现时，法律就要出来规制了。
目前，无人驾驶和机器人手术时引发的事故，以及大数据分析时的泛滥和失控时有耳闻。那么，人工智能会进化到人类不可控吗?届时AI作恶，人类还能招架的住吗?
任务驱动型AI 还犯不了“反人类罪”
值得关注的是，霍金在其最后的著作中向人类发出警告，“人工智能的短期影响取决于谁来控制它，长期影响则取决于它能否被控制。”言下之意，人工智能真正的风险不是恶意，而是能力。
“人工智能未来的发展会威胁到人类的生存，这不是杞人忧天，确实会有很大的风险，虽说不是一定会发生，但是有很大的概率会发生。”在谭晓生看来，人类不会被灭亡，不管人工智能如何进化，总会有漏洞，黑客们恰恰会在极端的情况下找到一种方法把这个系统完全摧毁。
对此，上海交通大学电子系特别研究员倪冰冰持乐观态度。“我们目前大部分的AI技术是任务驱动型，AI的功能输出、输入都是研究者、工程师事先规定好的。”倪冰冰解释说，绝大多数的AI技术远远不具备反人类的能力，至少目前不用担心。
张平表示，当AI发展到强人工智能阶段时，机器自动化的能力提高了，它能够自我学习、自我升级，会拥有很强大的功能。比如人的大脑和计算机无法比拟时，这样的强人工智能就会对我们构成威胁。
“人类给AI注入什么样的智慧和价值观至关重要，但若AI达到了人类无法控制的顶级作恶——‘反人类罪’，就要按照现行人类法律进行处理。”张平说，除了法律之外，还需有立即“处死”这类AI的机制，及时制止其对人类造成的更大伤害。“这要求在AI研发中必须考虑‘一键瘫痪’的技术处理，如果这样的技术预设做不到，这类AI就该停止投资与研发，像人类对待毒品般全球诛之。”
作恶案底渐增 预防机制要跟上
事实上，人们的担忧并非空穴来风。人工智能作恶的事件早在前两年就初见端倪，比如职场偏见、政治操纵、种族歧视等。此前，德国也曾发生人工智能机器人把管理人员杀死在流水线的事件。
可以预见，AI作恶的案例会日渐增多，人类又该如何应对?
“如果我们把AI当作工具、产品，从法律上来说应该有一种预防的功能。科学家要从道德的约束、技术标准的角度来进行价值观的干预。”张平强调，研发人员不能给AI灌输错误的价值观。毕竟，对于技术的发展，从来都是先发展再有法律约束。
在倪冰冰看来，目前不管是AI算法还是技术，都是人类在进行操控，我们总归有一些很强的控制手段，控制AI在最高层次上不会对人产生一些负面影响。“如果没有这样一个操控或者后门的话，那意味着不是AI在作恶，而是发明这个AI工具的人在作恶。”
凡是技术，就会有两面性。为什么我们会觉得人工智能的作恶让人更加恐惧?与会专家直言，是因为AI的不可控性，在黑箱的情况下，人对不可控东西的恐惧感更加强烈。
目前最火的领域——“深度学习”就是如此，行业者将其戏谑地称为“当代炼金术”，输入各类数据训练AI，“炼”出一堆我们也不知道为啥会成这样的玩意儿。人类能信任自己都无法理解的决策对象吗?
显然，技术开发的边界有必要明晰，比尔·盖茨也表示担忧。他认为，现阶段人类除了要进一步发展AI技术，同时也应该开始处理AI造成的风险。然而，“这些人中的大多数都没有研究AI风险，只是在不断加速AI发展。”
业界专家呼吁，我们必须清楚地知道人工智能会做出什么样的决策，对人工智能的应用范围和应用结果的预期，一定要有约束。
AI会不会进化，未来可能会形成一个AI社会吗?“AI也许会为了争取资源来消灭人类，这完全有可能，所以我们还是要重视AI作恶的程度和风险。”现场一位嘉宾建议，我们现在要根据人工智能的不同阶段，比如弱智能、强智能和超智能，明确哪些人工智能应该研究，哪些应该谨慎研究，而哪些又是绝对不能研究的。
如何防范AI在极速前进的道路上跑偏?“要从技术、法律、道德、自律等多方面预防。”张平说，AI研发首先考虑道德约束，在人类不可预见其后果的情况下，研发应当慎重。同时，还需从法律上进行规制，比如联合建立国际秩序，就像原子弹一样，不能任其无限制地发展。
相关阅读：就业方向变了!人工智能领域现百万年薪
距离学校秋招大幕拉开已经过去两个月，王宇(化名)仍然没有拿到一份称心的工作合同。
两年前进入中国人民大学攻读金融学硕士的他，未曾想过当下面临的窘境。
他说：“和往年相比，今年最大的感受是券商招聘人数在减少，银行机构也缩减了招聘规模，秋招接近尾声，班上只有几名同学拿到了offer。但事实上，如果对工作没有太多要求，基本还是可以找到工作。”
王宇一职难求的另一面，是新兴行业人才需求的火爆。
4月19日，猎聘网发布的《2018Q1中高端人才薪酬与流动大数据报告》显示，在2018年一季度供求趋向平衡的状况下，金融和互联网行业的平均年薪均突破20万元，而区块链和AI领域的平均年薪则超越30万元，与2017年相比，2018年区块链领域发布的职位数量提升了三倍。
谈到同校计算机专业的朋友，王宇说：“只要是热门领域，并且技术过关，今年确实好找工作，工资也高，年薪在三四十万元的大有人在。甚至出现了工资倒挂现象，同一家公司，今年新进员工薪酬比之前的学长还高。”
火爆的人工智能
作为一家智能语音交互技术研发的公司，思必驰在招聘中感受到高端人才的争夺越发激烈。
思必驰人力资源部总监吴小珍向经济观察报介绍：“近两年，人工智能类人才的供需是不平衡的，原因在于早期人才积累、沉淀较少，人工智能等新兴行业在高校内部设置专业并不多。2015年开始，人工智能领域变得火爆，多家企业相继涌进，企业人才竞争越发激烈。也是从那时，薪金变化一年上一个台阶，开出几十万到近百万元不等的年薪并不鲜见。”
智联招聘市场部高级总监李强对经济观察报说：“新兴行业对人才需求度比较高。如AI领域，人才需求量呈几何式增长，人才储备主要由关联度较高的行业跨界而来。目前，人工智能在中国尚处于初期阶段，企业在招聘时对人才的工作经验会试情况放低要求，也会以高薪争夺专业人才。”
2017年12月，腾讯研究院和BOSS直聘联合发布《全球人工智能人才白皮书》显示,全球AI领域人才约30万,而市场需求在百万量级。全球每年毕业于AI领域的高校学生约2万人，远远不能满足市场对人才的需求。
在人才市场巨大的需求推动下，去年以来，一批以人工智能为代表的高新技术专业在高校间开启了一波兴建潮。
2018年4月2日，教育部印发《高等学校人工智能创新行动计划》提出，完善人工智能领域人才培养体系，完善学科布局、加强专业建设、教材建设、人才培养，推动人工智能领域一级学科建设。
继2017年中国科学院大学、西安电子科技大学等高校设立人工智能学院之后，2018年，清华大学、南京大学等一批高校也纷纷设立人工智能学院或研究院。
南京大学人工智能学院院长周志华向经济观察报介绍，今年学院首批招收本科生共80人，是南京大学理工科最受考生欢迎的专业之一。2019年拟招收研究生35人，2018年秋季推免生申请者(优秀应届本科生免初试攻读硕士研究生)已经近千人。
不过，人工智能本科教育相较于市场招聘需求依旧存在局限性。周志华说：“人工智能有着庞大的知识体系，对应着多门课程，以计算机科学与技术学科为例，本科课程目前很难满足培养具有人工智能领域源头创新能力、能够解决企业关键技术难题的高水平人才需求。”
吴小珍说：“已经注意到许多高校开设了人工智能学院，相信随着人工智能高校教育工作的不断深入，未来人才供给将会逐步扩大，市场供需也会慢慢趋向平衡。”
同样的招聘难，也出现在劳动密集型行业。
2014年高中辍学后，田庆跟随着父辈的脚步，从湖南省吉首市去往广东东莞的一家工厂工作。四年时间，从制鞋厂到电子厂，田庆均尝试过。目前在一家模具厂，工作已经近一年半时间。田庆说：“进场培训一周即可上岗，在这间工厂中40岁以上的职工占据了六成以上人群，最新的变化是，新进的年轻人越来越少。”
田庆经历了从最初三十几个同乡在东莞工厂里工作，到现在只剩下十几个人。“回乡的长辈或朋友大多留在了当地餐厅或化工厂工作，一个月能挣3000元左右。”
现在，田庆也动了回家工作的念头。他说：“一般制鞋厂工作时间为早8点到晚上11点，一个月薪水在4000元左右。每年农历初八来工厂报到，对于回到工厂工作的工人加薪200元。但眼下物价上涨太快，以东莞较出名的早餐蒸肠粉为例，2016年是4元一份，现在则是8元。如果没点技术倒不如回老家找点事做，工资差不了多少。”
为了能招到新人并留住像田庆这样的年轻人，招聘公司的中介使出了浑身解数。
在一家招聘中介工作两年的员工向威对经济观察报介绍，自己主要负责东莞的电子加工厂招聘。“年轻一些的从业者，薪金为17元/小时，如果接受两班倒，工资还能往上涨。并且员工介绍新人进厂工作至年底，可奖励300元/人的人头费。”
即使待遇不断升级，向威依然为招工而烦恼。“到年底，人员招聘进入淡季。过去几年，越来越多的工厂员工回家过完年后便不再选择回厂工作。以楷亿电子科技厂为例，工厂上个月员工为1000人左右，目前人员空缺仍有100余位。”
中国社会科学院人口和劳动经济研究所研究员王广州对经济观察报表示：“传统人口密集型企业招工难，一方面是因为员工希望涨工资，但对企业而言，其人工成本无法实现持续上涨，另一方面也是劳动力结构性短缺的一种现象。
失业率降至低位
2018年9月以来，腾讯、阿里、京东、华为四家企业接连传闻招聘收缩或停止社招。一时间，互联网行业凛冬将至的唱衰声接踵而至。四家公司随后对传闻均予以否认。不过，智联招聘发布的数据仍显示出一些端倪。
10月23日，中国就业研究所与智联招聘联合发布的2018年第三季度《中国就业市场景气报告》显示，IT/互联网行业的招聘职位数比去年同期相比减少了51%，连续第二个季度出现需求的负增长，职位的收缩幅度远高于全国平均水平。互联网/电子商务行业招聘需求人数环比减少了31.53%，同比下降57%。
王广州说：“在经济发展的各个阶段，行业的火热程度也不一样，各行业人才的需求也会跟随之发生变化。如此前互联网、金融等行业是市场的热门选择，很多学生都报考了相关专业，当下，人工智能等新兴领域则成为新的市场焦点。”
10月31日，在人社部召开的2018年第三季度新闻发布会上，人社部新闻发言人卢爱红表示，前三季度，中国就业形势总体稳定。数据显示1-9月，累计实现城镇新增就业1107万人，同比增加10万人。三季度末，全国城镇登记失业率为3.82%，降至多年来低位。
国家统计局数据显示，2018年1-9月，全国城镇调查失业率均处在5.1%及以下，其中，3月以及7月份为峰值5.1%。国家统计局人口和就业统计司司长李希如10月23日撰文表示，7月份受高校毕业生集中毕业影响，失业率有所升高，随后逐月走低，9月已降到5.0%以下，今年三季度就业结构不断优化，就业质量稳步提升。
王广州说：“总体上，中国经济结构不断优化，面临诸多挑战，但就业的稳定增长仍有着其积极的意义。
人民大学学生王宇告诉经济观察报：“不管对于工作满意度高低，最迟会在明年春节招聘末做出选择。”
