人工智能危机:弄不好就是人类末日
您好!欢迎进入科普网
设为首页|收藏本站
科学博览您当前所在的位置是: » 内容

人工智能危机:弄不好就是人类末日 (图)

来源:  发布时间: 2017-03-09 作者:

人工智能(AI)将改变世界,但这是“恶”还是“善”,备受争议。为此,一个专家团队齐聚亚利桑那州立大学(ASU)的“设想和解决不良AI的结果”研讨会,讨论了当人工智能成为人类的一个重大威胁时,人类将处于什么样的困境。

人工智能科学家Eric Horvitz指出,AI具有巨大的潜力,以多种方式影响到社会的各个方面。同时,就像任何技术一样,人工智能有利也有弊。

作为AI乐观支持者的一员,Horvitz表示非常看好人工智能的未来。与此同时,他也认为AI要想赢得公众的信任,那么在技术方面仍要不断努力。为了实现这一点,所有围绕着技术的问题都要被讨论。

专家希望这次对话能够解决有关AI的问题。由科学家、网络安全专家和政策制定者组成的40个人,被分成两队,讨论AI会以哪些方式给世界造成麻烦。

红队的任务是将AI可能导致的灾难性情况都列出来,蓝队则被要求设计相应的解决方案。假设的情况也要基于当前的技术,而不是胡乱假设一通。

若人工智能“失控”

红队假设AI可能存在的风险有以下几种:自动网络攻击(这是一种足够智能的网络武器,在攻击后能隐藏自己,并能防止被毁灭),股票市场将被操纵,无人驾驶技术无法对关键路标进行识别,AI被用来操纵选举或影响选举结果。

并不是每一个问题都给予了足够的解决方案,表明了人类目前面对AI可能带来的糟糕情况毫无准备。

例如,在智能自动化网络攻击的情况下,攻击者很容易使用不知情的互联网游戏玩家来掩盖自己的踪迹,使用类似于在线游戏来掩盖攻击本身。

将其作为娱乐的人可能认为这些是无稽的末日景象,但实际上这些假设是向认识AI可能构成的威胁迈出了深思熟虑的第一步。

美国国防部高级研究计划署的John Launchbury希望这场讨论能给网络战争、自动化武器和机器人部队制定具体的协议。

研讨会的目的不是为了煽动恐惧情绪,而是合理、现实地预测技术如何被滥用的各种可能性,并希望能在AI防御方面取得突破。