霍金:人工智能将对人类构成威胁

admin

据报道，享誉世界的英国天体物理学家史蒂芬·霍金教授一直以来都致力于解决宇宙中一些最为艰深的难题，但近日这位资深物理学家表示，对曾经两次结婚又两次离异的他来说，有一个谜团他至今都没能弄明白，那就是女人。早在2012年他就表达过类似观点，在庆祝霍金教授70岁生日的一次访谈活动中，他就承认自己一天里的大部分时间都在想女人，女人就是个谜。

在近日由Reddit网站举行的“问我任何问题”（Ask Me Anything）活动环节中，这名顶尖科学家表示，“女人是最大的谜”、“我的私人助理提醒我，尽管我拥有物理学博士学位，但应该让女人继续保持她们的神秘。”霍金也承认，这样一个谜团永远解不开也挺好。

在这次活动中网民们提出的问题五花八门，从人工智能一直到他个人最喜欢的歌曲曲目。

在Reddit网站的这次活动中霍金还承认自己在网上看过最有意思的节目就是美剧《生活大爆炸》。在2013年他还曾经受邀客串该剧。

在回复提问时，霍金也再次重申了他此前所一直坚持的观点，那就是人工智能技术未来必将对人类构成威胁。但他也强调表示这其中最大的危险不会是机器人将有计划的摧毁人类，而是源自它们抛开人类自主决策的能力。

霍金认为，机器人不太可能对人类产生敌对意图，但最终将对人类利益造成损害的将会是它们开始追求自身设定的目标的行为。霍金表示：“真正的风险不在于敌意，而在于能力。超级人工智能机器人将极善于达成自己所设定的目标，而如果它所设定的目标与我们的目标并不相互吻合，那么我们就有麻烦了。举个例子，你有时候踩死一些蚂蚁，但这并非出于你对蚂蚁们的主观恶意，但如果你恰好准备在某个地区修建一个水电站，而那片地区正好有一个蚁穴——对于蚂蚁们来说，这可真是个坏消息。”他说：“不要把我们人类自己放到那些蚂蚁的位置上去。”

霍金教授目前担任英国剑桥大学应用数学与理论物理系研究主管，他表示，一台人工智能计算机最终将会进化出对生存的渴望。他说：“未来一台高度先进的人工智能设备将逐渐发展出求生的本能，并将努力获取实现其自身所设定目标所需要的资源。因为生存下来并获取更多资源将能够增加其实现其他目标的机会。对于人类而言这将导致问题的发生，因为我们的资源将会被掠夺。”

霍金指出，如果人工智能机器人获得了能够在不依赖人类而进行自我完善和升级的能力，那将导致一次机器人世界的“技术大爆炸”，最终机器人们的技术能力将远远超越人类，就如同我们的技术能力远远超越蜗牛一样。

不过，霍金也表示，目前科学界距离研制出具备与人脑相当甚至超越人脑能力的人工智能设备还相当遥远。他说：“当这件事最终发生时，那或许将成为人类历史上发生过的最好或是最坏的事，因此把这个问题弄清楚将具有极大的价值。我们或许将花上几十年的时间才能找出问题的答案，那么就让我们从今天开始启动这项研究，而不是拖到超级机器人即将被启动的前一天晚上。”

Reddit网站举行的这一向霍金教授提问的活动一共获得超过9000条的提问和评论，这是该网站举行的所有类似活动中获得关注度第三高的一次。在网民提出问题之后过了差不多4个月之后，霍金教授才有时间回复一部分网民提问。霍金一共回复了其中的11个问题，其中大部分都涉及人工智能话题，近期霍金教授在这一问题上频繁表达自己的担忧。


就在今年早些时候，霍金曾经与其他几位顶尖科学家以及美国企业家埃隆·马斯克一同签署一份公开信，警告称未来人工智能将对人类构成威胁。霍金同时还警告称，在下一个世纪，机器人的能力将逐渐超越人类，因此科学家们应当确保它们的未来目标是与人类相一致的。

Reddit上的这番讨论也并非霍金教授首次谈及对女性的看法。霍金此前两次结婚又两次离异，他多次表示过自己对于女人感到的困惑。霍金在2012年庆祝霍金教授70岁生日的一次访谈活动中承认，自己一天里的大部分时间都在想女人。他说：“她们完全是个谜。”