人工智能发展和热门程度的量表。人脸显示了最近在生成“虚拟”人物真实形象方面所取得的迅猛进展
人类已进入一个风险社会，而我们所处的时代至为关键。物种灭绝、文明崩溃、反乌托邦社会的“锁定”，已然不是只出现在科幻电影和政治小说中的情节桥段，而是在我们可见的未来将确确实实面临的生存危机。核战争、气候变化、生物技术、基因工程大流行、反向污染等风险将在多大程度上摧毁人类？人类还有多少机会能安然度过本世纪和接下来的几百年？
这是一个满怀希望的时代，同时也是一个充满道德挑战的时代。人们对人工智能固化社会歧视、导致大规模失业、支持压迫性的监控以及违反战争准则等问题表示严重关切。
人工智能的发展会不会在这个最广泛的范围内构成风险？这种情况发生的可能性有多大，以及什么时候会发生呢？ 《危崖：生存性风险与人类的未来》一书，或许能带给我们新的思考。
价值未对齐的人工智能，
会控制我们的生活吗？
2016 年，有人对 300 多名机器学习领域的顶级研究人员进行了详细调查。当被问及人工智能系统何时能“比人工更好、成本更低地完成每一项任务”时，他们的平均估计是到2061年有 50% 的可能，而到不久后的 2025 年出现这种情况的可能性为10%。
这份调查结果应该谨慎地解读。它评估的并不是通用人工智能何时会被创造出来，甚至不是专家们认为有可能发生什么事情，而且得的预测众说纷纭。然而，这次调查向我们表明，专家群体基本上认为通用人工智能并不是难以实现的梦想，而是有可能在十年内出现的，在一个世纪之内出现的可能性更大。因此，让我们以此为出发点评估风险，并思考如果通用人工智能被创造出来会发生什么。
