简介
从比尔·盖茨、埃隆·马斯克到霍金，众多企业家和科学家都曾表示担心AI对人类生存造成的威胁。真的有一天，人类会成为自己发明的机器的受害者吗？
在过去相当长的一段时间里，人类之所以能控制地球，是因为人类的大脑比其他动物的大脑要复杂得多。但如果AI变得比人类更聪明，我们要如何掌控这个世界？智能是一种权力，我们能否控制智能，决定了我们未来的命运。
这本书讲述了我们为理解和创造智能，在过去、现在和未来所做的尝试。这很重要，并不是因为AI正迅速成为当前的一种普遍现象，而是因为它是未来的主导技术。世界上的各个大国正在意识到这一事实，各家大公司也早就知道这一点。
作者在书中提出了一个大问题：如何破解人机共存密码，掌控比我们强大得多的智能，让AI获得新生？这可能是人类面临的最后一个大问题。这本书的目的是解释为什么这可能是人类历史上的最后一件事，以及如何确保这不会成为现实。
作者介绍
斯图尔特·罗素（Stuart Russell）
加州大学伯克利分校计算机科学家，人类兼容人工智能中心（CHAI）主任，人工智能研究实验室指导委员会（BAIR）成员。
世界经济论坛人工智能和机器人委员会副主席，美国科学促进会（AAAS）会士，美国人工智能协会（AAAI）会士。
曾与谷歌研究总监彼得·诺维格合著，出版了人工智能领域里的“标准教科书”《人工智能》，该书被128个国家的1400多所大学使用。
获得过多项科学荣誉，包括美国国家科学基金会总统青年研究员奖、国际人工智能联合会议（IJCAI）计算机与思想奖、国际计算机学会（ACM）卡尔斯特朗杰出教育家奖等，并受邀在TED、世界经济论坛演讲。
部分摘录：
这是我在相当长的一段时间以来，读到的非常重要的一本书。它清晰地解释了超级人工智能时代的到来如何威胁到人类的控制权。至关重要的是，这本书还提出了一个新颖的解决方案，以及我们应该存有希望的原因。
丹尼尔·卡尼曼（Daniel Kahneman） 诺贝尔经济学奖得主，《思考，快与慢》作者
这是一场由人工智能先驱罗素带来的智识之旅。罗素不仅以引人入胜且有说服力的方式解释了人工智能带来的风险，而且给出了一种切实可行的解决方案。
迈克斯·泰格马克（Max Tegmark） 《生命3.0》作者
与那些未来学家和警告人工智能风险的人不同，罗素是一位人工智能领域的专家。这本书比其他我所知的书更能教导公众，而且这本书读起来令人愉快、振奋人心。
朱迪亚·珀尔（Judea Pearl） 贝叶斯网络之父，《为什么》作者
这本文笔优美的书解决了人类面临的一项基础性挑战：越来越智能的机器会按照我们的要求行事，却不会按照我们的本意行事。如果你关心我们的未来，请务必阅读。
约书亚·本吉奥（Yoshua Bengio） 2019年图灵奖得主，《深度学习》作者
这本关于人工智能未来风险和解决方案的书值得一读，作者罗素很棒！
埃隆·马斯克（Elon Musk） 特斯拉创始人兼CEO
人工智能到底发展到了哪一步，未来会怎么发展，这本书代表主流专家意见，能让你迅速获得“当前科学理解”。作者是研究人工智能的教授，但书中并不过度讨论技术，他关心更大的问题：人的偏好可以“算法化”吗？人工智能是人类的威胁吗？人能限制人工智能吗？当前的答案并不乐观。到最后，你会发现人工智能的问题首先是“人”的问题：我们其实并不了解我们自己。
万维钢 科学作家，“得到”App《精英日课》专栏作者
这是一本引人入胜的巨作，无论一般读者还是人工智能专家都将从中获得启发。罗素教授对于超级智能这个人工智能的重大问题做出了深刻明确的分析。更重要的是，他提出了一个新颖的人机关系处理方案，为解决超级智能这个重要问题开辟了一个崭新的研究方向。
姚期智 中国科学院院士，2000年图灵奖得主
当人们为人工智能技术的突飞猛进而欢呼雀跃，并期盼着超级人工智能到来时，我们不能忘了人类正面临着一个非常关键的挑战：如何确保人工智能的发展以人为本，基于人类的共同价值造福人类？这本书为我们带来了罗素教授多年潜心的研究成果和深刻洞见，读起来令人赏心悦目。
张宏江 智源研究院理事长，源码资本投资合伙人
人类可能在不久的将来制造出超越自己的强人工智能，我很高兴人工智能知名学者斯图尔特·罗素教授不仅仔细推敲了这种可能性，还提出了一种巧妙的应对之策。
黄铁军 智源研究院院长，北京大学教授
创造出达到或超越人类水平的人工智能会怎么样？超级人工智能的成功为什么可能是人类历史上的最后一个事件？人类是否还有希望？人工智能经典教科书作者斯图尔特·罗素的这本书值得每位关心人工智能的人士阅读。
周志华 南京大学人工智能学院院长欧洲科学院外籍院士
自我们这一代人开始，科学地理解、探索、协同和管控超级智能机器，将变成一个越来越不能回避的严肃课题。如果说罗素的经典教科书在过去帮助很多学者进入了人工智能研究领域，他的这本新书则将让更多人思考如何创造更好的人机协同的未来。
周伯文 京东集团副总裁
书中倡议的构建“尽可能安全且对人类有益的人工智能”应成为全球人工智能研究与实践者的共同愿景。罗素论述的人工智能安全风险与人类自身的隐忧无疑将“确保人工智能的安全有益”这个重要挑战长期置于未来人工智能研究的核心。
曾毅 中国科学院自动化研究所研究员，类脑智能研究中心副主任 智源研究院人工智能伦理与可持续发展研究中心主任