霍金：人工智能机器人难以掌控 或威胁人类
- 来源：新浪网
- 2015/10/16 10:09:2311627
近日，物理学博士霍金在回答网友提问时再次重申人工智能技术未来必将对人类构成威胁。但他也强调表示这其中大的危险将不会是机器人们将有计划的摧毁人类，而是源自它们抛开人类自主决策的能力。
霍金认为，机器人不太可能对人类产生敌对意图，但终将对人类利益造成损害的将会是它们开始追求自身设定的目标的行为。霍金表示：“真正的风险不在于敌意，而在于能力。超级人工智能机器人将极善于达成自己所设定的目标，而如果它所设定的目标与我们的目标并不相互吻合，那么我们就有麻烦了。举个例子，你有时候踩死一些蚂蚁，但这并非出于你对蚂蚁们的主观恶意，但如果你恰好准备在某个地区修建一个水电站，而那片地区正好有一个蚁穴——对于蚂蚁们来说，这可真是个坏消息。”他说：“不要把我们人类自己放到那些蚂蚁的位置上去。”
霍金教授目前担任英国剑桥大学应用数学与理论物理系研究主管，他表示，一台人工智能计算机终将会进化出对生存的渴望。他说：“未来一台高度先进的人工智能设备将逐渐发展出求生的本能，并将努力获取实现其自身所设定目标所需要的资源。因为生存下来并获取更多资源将能够增加其实现其他目标的机会。对于人类而言这将导致问题的发生，因为我们的资源将会被掠夺。”
霍金指出，如果人工智能机器人获得了能够在不依赖人类而进行自我完善和升级的能力，那将导致一次机器人世界的“技术大爆发”，终机器人们的技术能力将远远超越人类，就如同我们的技术能力远远超越蜗牛一样。
在2012年庆祝霍金教授70岁生日的一次访谈活动中，他承认自己一天里的大部分时间都在想女人。他说：“她们完全是个谜。”这张照片是霍金与他的任妻子简在一起。
不过，霍金也表示，目前科学界距离研制出具备与人脑相当甚至超越人脑能力的人工智能设备还相当遥远。他说：“当这件事终发生时，那或许将成为人类历*发生过的好或是坏的事，因此把这个问题弄清楚将具有极大的价值。我们或许将花上几十年的时间才能找出问题的答案，那么就让我们从今天开始启动这项研究，而不是拖到超级机器人即将被启动的前一天晚上。”
Reddit网站举行的这一向霍金教授提问的活动一共获得超过9000条的提问和评论，这是该网站举行的所有类似活动中获得关注度第三高的一次。在网民提出问题之后过了差不多4个月之后，霍金教授才有时间回复一部分网民提问。霍金一共回复了其中的11个问题，其中大部分都涉及人工智能话题，近期霍金教授在这一问题上频繁表达自己的担忧。
就在今年早些时候，霍金曾经与其他几位科学家以及美国企业家埃隆·马斯克一同签署一份公开信，警告称未来人工智能将对人类构成威胁。
霍金同时还警告称，在下一个世纪，机器人的能力将逐渐超越人类，因此科学家们应当确保它们的未来目标是与人类相一致的。Reddit上的这番讨论也并非霍金教授谈及对女性的看法。霍金此前两次结婚又两次离异，他多次表示过自己对于女人感到的困惑。
>>>>>>相关推荐
机器人崛起论是否成真？其实人工智能就是更拟人化
人工智能渐成热点 从“哲学”视角如何探寻
人工智能并不像想象的那么简单看你到底错在哪？