霍金呼吁人类警惕 物理学家霍金在GMIC大会上发表演讲

霍金呼吁人类警惕 物理学家霍金在GMIC大会上发表演讲

4月27日，物理学家霍金在GMIC大会上发表演讲，呼吁人类警惕人工智能的发展要规避风险，并警告人类意志转变的人工智能可能会毁灭人类。

霍金说，文明所产生的一切都是人类智能的产物，从国际象棋和围棋人机大战的结果来看，生物大脑可以达到的和计算机可以达到的，没有本质区别。因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。

“有一天，机器能否像人类一样思考?机器能否超越人脑?”，其实早在60多年前，人工智能超越人类的争论就已经出现了。

机器能够学习?

1950 年计算机科学家和密码学的先驱阿兰?麦席森?图灵设计了这样一个测试 ：如果电脑能在5分钟内回答由人类测试者提出的一系列问题，且其超过30%的回答让测试者误认为是人类所答，则电脑通过测试。这个测试被称为“图灵测试”，他提出的著名的图灵机模型，也为现代计算机的逻辑工作方式奠定了基础。

图灵长期以来都醉心于思考计算机可以如何模仿人类大脑的活动，在参与了加密文字破解机器的研发工作之后，他对这方面的兴趣变得更加浓厚。

1943 年年初，正当巨人计算机在布莱切利园进行设计的时候，图灵远渡重洋来到位于下曼哈顿区的贝尔实验室。

这次访问的目的是与一支研究电子语音加密技术的团队进行交流，这项技术可以利用电子方式对电话通话内容进行加密和解密。

图灵在那里遇到了一位为人风趣的天才克劳德?香农。香农和图灵开始在下午茶的时候聚在一起进行长时间的讨论。

他们两位都对脑科学很感兴趣，而且他们发现各自在1937 年发表的论文之间存在一个共同点：它们都证明了采用简单二进制指令操作的机器不仅可以用于解决数学问题，同时也适用于所有的逻辑问题。由于逻辑是人脑思维的基础，因此机器在理论上可以模仿人类的智能。

图灵在1943 年4 月返回布莱切利园，这时他与一位叫作唐纳德?米基的同事成为好友，他们经常会在晚上到附近的一家酒吧下象棋。他们讨论了制作一台会下象棋的计算机的可能性。图灵没有打算利用强大的处理能力来计算出每一步棋可能的走法，他关注的焦点是能否让机器通过不断重复的练习“学会”如何下象棋。

换句话说，机器也许可以尝试不同的开局走法，然后从每次的胜利或失败中完善自己的策略。如果这种方法是可行的话，这将会是一个重大飞跃：机器不仅可以按照人类给出的指令进行工作，还可以从经验中学习，同时不断完善自己的指令，把它看成是机器拥有智能的表现。

“机器也许有一天能够像人类一样思考” 这个令人不安的想法在当时让许多人震惊，同时也激起了强烈的反对，而且这个问题从出现以来就一直争议不断。在这些反对的声音当中，既有来自宗教方面的抗议(这是意料之中的事情)，也有从内容和语气上表现出来的情感抵触。