人工智能是否将成为人类的末日？针对AI的五个生存威胁

在这个星球上，我们是当下最有智慧的物种，其他所有的生命都要仰赖我们的善意来继续生存下去。我们的命运会不会继而就要仰赖这些优越、超智慧机器的善意?接下来所要谈的问题就是，超智慧机器可不可能直接把我们消灭掉?它会不会成为人类的末日?

电影里通常都把机器描绘得很邪恶。但无能为力似乎才是比较可能的风险，而不是心怀不轨。当然，我们必须考虑到的可能性是，超智慧机器或许会在无意间使人类走入末日。而且可能发生这件事的情境有好几种。

人工智能是否将成为人类的末日？关于AI的五个生存威胁

电影《魔鬼终结者》中，天网为首的人工智能正试图消灭所有幸存的人类

点金术

第一种风险情境是，超智能机器的目标或许会设计得很糟糕。迈达斯国王的希腊神话就阐述了这点。有人实现了他的愿望，使他所摸到的一切都会变成黄金。但对于自己真正想要的东西，国王却指定得很糟糕：他并不想要食物或女儿变成黄金。

神话故事中，迈达斯碰到女儿之后，误把她变成了黄金雕塑ASP站长网

有人可能会主张说，人工智能已经在某些微小和不是非常危险的方面显示出这点。举例来说，在 2017 年由研究人员所通报的实验中，他们教会了计算机去玩赛船的电玩游戏《赛艇大亨》。人工智能并没有去完成比赛路线，而是学会了绕小圈去撞别的船，因为这样所增加的分数比实际完赛要快。

由于超智能机器这么聪明，它达成目标的方式或许会把我们吓一跳。假定我们要超智慧机器治疗癌症。要做到这点，有一个办法是把可能藏有癌症的宿主全部消灭掉，于是就使人类走入了末日。跟我们要它治疗癌症时所想要的不尽相符。

（编辑：焦作站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!