简介
布鲁萨德写这本书的用意是为了给读者“赋能”。通过这本书，你会了解人工智能、 机器学习、大数据是怎么回事，了解计算机的本质是什么，从此对人工智能和大数据这些大词没有畏惧心理。
这本书会告诉你，高估了人工智能会带来什么社会问题，以及自动驾驶这件事有多难，它还会告诉你，现阶段人工智能的社会化应用的根本矛盾是什么。人们不应该假设计算机能够永远正确，如果人们能够认识到技术使用的局限性，可以让技术更好地造福人类。
人工智能想大规模取代人类并不是一件容易的事情，它还有很长的一段路要走，我们对于人工智能的恐慌，其实都是在过度想象。现实中，从人员招聘到自动驾驶，从支付餐费到选择伴侣，人们迫切地想要将所有事情数字化。这种将计算机技术应用到生活方方面面的热情，导致出现了大量存在设计缺陷的系统，带来了一系列社会问题，所以我们需要正确认识人工智能。
作者反对“技术是永远的解决方案”的“技术沙文主义”，并提醒人们，一个数字化的“乌托邦”不能解决所有社会问题。为验证其观点，她进行了一系列尝试，如使用人工智能技术探究学生为何不能通过标准化测试、采用机器学习来预测泰坦尼克号事故中有哪些乘客幸存等。
现在人们非常爱说“计算机改变了世界”，“这个产品再一次改变了世界……”，作者布鲁萨德将会告诉你，其实计算机没有改变什么。社会还是这个社会，计算机并没有解决我们的社会问题。
本书卖点：
你可以通过这本书了解现行的人工智能、机器学习、大数据都是怎么回事，了解计算机的本质是什么，从此对计算机和人工智能这些大词儿没有畏惧心理。作者说，其实计算机没有改变什么。社会还是这个社会，计算机并没有解决我们的社会问题。
——选自得到APP《万维钢·精英日课》专栏
作者介绍
梅瑞狄斯·布鲁萨德（Meredith Broussard），
毕业于哈佛大学计算机系，拥有计算机和数学学位。
她曾在AT&T贝尔实验室和MIT媒体实验室工作，创造过几个人工智能系统。
现在是纽约大学助理教授。她还是一个记者，《大西洋月刊》《华盛顿邮报》专栏作家。
部分摘录：
你好，读者们 我热爱技术。小的时候，我的父母给我买了一套金属模型玩具。我用穿孔的小金属片搭建了一个（对我而言）相当巨大的机器人。这个机器人由微型电池供电的电动机驱动。当时的我想象力特别丰富，我自顾自地认为，一旦搭建好这个机器人，它就能像我一样轻松地在房子里走来走去，这样的话，我就能拥有一个机器人新朋友。我会教这个机器人跳舞，让它跟着我在房子里转悠。它还能跟我玩捡东西的游戏（这连我的宠物狗都不会呢）。
我花了好几个小时，待在家中二楼走廊的红色羊毛地毯上，一边做白日梦，一边组装机器人。我用玩具套装里小小的儿童扳手拧紧了几十个螺母和螺栓。当我准备插入电动机时，最激动人心的时刻到来了。我和妈妈专程去商店购买了与电动机适配的电池。回到家，我迫不及待地跑上楼去，将裸线连接到齿轮上，接着启动机器人。我感觉自己就像莱特兄弟一样，造出了划时代的机器，满怀着它即将改变世界的无限憧憬。
没有任何动静。
我检查了线路，按了几次开关。我重新安上电池，依然没有动静。机器人没有运行，我不得不去求助妈妈。
“妈，快上来帮帮我！机器人运行不起来呀！”我悲伤地说。“你试过重新打开开关吗？”妈妈问。“我试过了。”我说。
“你试过重新安一下电池吗？”她问。“试过了。”我沮丧地说。
她说：“我来看看。”我握住她的手，把她拉到楼上。她摆弄了一下机器人，整理了电线，又打开和关闭几次开关。最后，她无奈地说：“应该是坏了。”
“为什么会坏？”我问。她本可以直接告诉我电动机坏了，但妈妈希望能给我一个“完整的解释”。她告诉我，电动机损坏了，紧接着向我解释了全球供应链和装配线，并提醒我，我也见过工厂的运作方式——因为我喜欢看《芝麻街》这个电视节目，里面有巨大的工业流水线批量制造蜡笔的场景。
妈妈解释说：“制造东西的过程中随时可能出现纰漏。肯定是他们制造这台电动机时出了点问题，没检测出来，最终封装在了玩具套件中。没事，咱们重新跟他们要一个能用的电动机就行了。”我和妈妈按照说明书上的提示拨打了售后电话，玩具公司的好心人给我们寄了一个新电动机。大约一周之后，新的电动机到了，我插上电源，机器人终于运行起来了。不过，虽然机器人运行正常，但和我预想的相差太远。它只能在木地板上缓慢移动，在地毯上会卡住。这样的机器人没办法成为我的新朋友。几天后，我把机器人拆了，制作了套件中的另一个玩具——摩天轮。
在搭建这个机器人的过程中，我学到了几样东西。我学会了使用工具来摆弄新技术，而且摆弄技术的过程很好玩。我发现我的想象力非常丰富，但是技术上的限制导致我的想象往往无法达成。我还学会了如何拆解零件。
几年后，当我开始编写计算机程序时，我发现早年从搭建机器人中收获的经验，可以很好地运用在计算机代码领域。我能设想极其复杂的计算机程序，但计算机实际可以实现的往往令我失望。我遇到过很多意外状况，有时候程序无法运行，只是因为计算机内部的某个部分发生了故障。但我坚持不懈，仍然热衷于构建和利用技术。我有大量社交媒体账号。我曾经做过一个烹饪项目，改造了一个炖锅，制作出一个能够加热25磅[1]巧克力的装置。我甚至设计过一个计算机系统，专门用来自动给我的花园浇水。
不过，最近一段时间，我对技术将拯救世界这一说法持怀疑态度。长大以后，我时不时听到别人谈论技术的美好前景，说技术可以如何改变世界，让世界更美好云云。1991年9月，我开始在哈佛大学学习计算机科学。就在几个月前，蒂姆·伯纳斯——李在欧洲核子研究组织（CERN）的粒子物理实验室创办了世界上第一个网站。大二那年，我的室友买了一台NeXT电脑。这台黑色方形电脑跟伯纳斯——李在欧洲核子研究组织用作网络服务器的电脑是同一款，挺好玩的。这个室友在我们的宿舍里安装了高速网络，我们就用他那台价值5 000美元的电脑查阅电子邮件。另外一个室友当时刚出柜，由于波士顿的同志酒吧对他那个年纪的小青年来讲有点过火了，他就用这台电脑上网逛在线公告栏，结识男孩子。那时候，要说未来人们会在网络上处理所有的事情，是很可信的。
在我们那个年代，年轻的理想主义者很轻易相信的另一件事，是我们在网络上建立的世界要比现实世界更美好、更公正。20世纪60年代，我们父母那一代年轻人相信，他们辍学或者群居在嬉皮士公社，就可以让世界更美好。我们看着这代人渐渐“改邪归正”——群居公社显然不是解决之道。如今，轮到我们上场了，“赛博空间”这一全新的未知领域就是我们用以让世界更美好的东西。我提起这两个时代的关联，不仅仅是一种隐喻。弗雷德·特纳在《数字乌托邦：从反主流文化到赛博文化》一书中曾提过，当时互联网文化的兴起深受20世纪60年代新公社主义运动的巨大影响。[2]《全球概览》（Whole Earth Catalog）杂志的创始人斯图尔特·布兰德在1995年《时代》周刊的一期特刊《欢迎来到赛博空间》中发表过一篇题为《一切都归功于嬉皮士》的文章，列出了反主流文化和个人计算机革命之间的种种联系。[3]早期的互联网是那么活色生香。
到了大三，我学会了制作网页，搭建网络服务器，还能用六种不同的编程语言写代码。对一个主修数学、计算机科学或者工程学的本科生来讲，这点能力再普通不过了。但是，对一名女性来讲就不是了。在这所拥有两万名研究生和本科生的大学里，我是主修计算机科学的六名女生之一。不过，在计算机系，我只认识两个女生，其余三个女生也不知是真的存在还是谣言。我常感到孤立无援，学校里那种死啃教科书的教学方式让本就占少数的女性愈加容易放弃STEM（科学、技术、工程和数学）职业。我可以看到这个体制内部正发生的问题，无论是对我还是对其他女性来说都是如此，但我无力解决。后来，我转到了别的专业。
毕业之后，我成为一名计算机科学家。我的工作内容是制作一个模拟器。做这个模拟器，就好比让100万只蜜蜂提着机关枪同时发动攻击。把这些“蜜蜂”部署好，就能测试出软件在发布之后能不能抵挡得住这样的攻击强度。这份工作很不错，但我并不快乐。我再一次感到孤独，我周围看起来没有同类，没有人像我一样说话，也没有人和我兴趣一致。于是，我辞职，去做了记者。
几年之后，我以一名数据记者的身份回到了计算机科学界。数据新闻学是一门在数据中挖掘故事，用数据来讲述故事的学科。身为数据记者，我写代码是为了从事调查性新闻工作。我也是一名教授，这样的定位很适合我。这样一来，在我的工作中，性别均衡状况也较以往更好了。
记者被教导要始终存疑。我们当中有这么一句话：“哪怕你母亲说她爱你，你也要去确认一下。”这么多年以来，我听过许多人反复说着一些关于技术光明前景的话，却看到数字世界在复制着现实世界中的不平等。比如，女性与少数族裔占技术人才的比例从未显著上升。互联网成为新的公共领域，但朋友和同事们报告说，他们在网上受到的骚扰比以往任何时候都多。我的女性朋友们会在线上交友网站和使用App时收到强奸威胁和淫秽图片。杠精和垃圾账号把推特搞得乌烟瘴气。
于是，我开始对那些看好技术文化前景的说法存疑。我逐渐发现，人们谈论数字技术时对技术的看法，跟数字技术实际上能做到的事情并不同步。其实，我们使用计算机所做的每一件事情归根结底都是数学。我们能利用技术干什么、该干什么，有一些基本的限制。我认为，我们已经达到了极限。在美国，人们太过热衷于使用技术来处理所有的事务——招聘、驾驶、付账、选择约会对象等等，不一而足。这原本没有什么不好，但正因如此，人们反而把标准放低了，不再对新兴的技术有高要求。
我们这种将计算机技术应用到生活方方面面的集体热情，催生了大量粗制滥造的技术。这种粗劣的技术并未如人们所愿改善生活，反而给人们的日常生活造成了阻碍。如今，诸如查找新朋友的电话号码或最新的电邮地址之类的小事变得非常耗时，因为人们将通信录的记录工作交给了计算机，并且解雇了所有原本负责更新通信录的人。如今，再没有人负责检查并确保机构目录中那些联系信息的准确性，因此要与人取得联系比以往任何时候都要困难。作为一名记者，在工作中，我通常需要联系很多不认识的人。这在今天变得非常困难，也比以往昂贵。
俗话说，当你只有一把锤子时，所有东西看起来都像钉子。电脑就是我们手中的锤子，是时候停手了。不要蒙上眼睛一头冲向数字化的未来。对于何时使用技术、为何使用技术，是时候做出更好、更深思熟虑的决定了。
本书正是由此而来。
本书将指导读者理解使用技术的边界。理解技术的边界，其实就是理解人类的成就与人性交叉的前沿。那个前沿更像是一个悬崖，再往前走一步，就十分危险。
世界上了不起的技术应有尽有，有互联网搜索，有能够识别语音指令的设备，还有能和人类比赛下围棋、玩问答游戏的计算机。我们大可以为这些成就而自得，但最好不要忘乎所以。别以为有了出色的技术，就可以为所欲为。我在大学课堂上教的基本的知识点之一，就是运用技术要遵从一些基本限制。我们知道，运用数学和科学知识来做事情都是有基本限制的。其实，技术也不外如是，如何运用技术也应该有所限制。倘若只用计算技术的眼光看待世界，或仅利用技术来解决重大社会问题，我们往往会犯一系列可预见的错误，阻碍人类的进步，加剧社会的不平等。本书主要探讨人类运用技术应有的边界和外部限制。理解这些基本限制，能帮我们更好地做决策，而且有助于我们站在社会的立场上进行集体对话，讨论我们能用技术做什么，以及我们应该如何做才能让世界真正变得对所有人来说都更美好。
我将以记者的身份参加这场关于社会公平的集体对话。我从事的专业是数据新闻学，也叫作“计算新闻学”（computational jour nalism）或“算法问责报道”（algorithmic accountability reporting）。所谓算法，是得出某个结果的计算程序，它好比食谱，是某种菜式的烹饪方法。有的算法会越来越多地被用于替人们做决策。有时候，我们需要编写代码来研究这些算法是否妥当。其他时候，我们得盯着那些粗劣的技术或错漏的数据，并随时发出警告。
我在本书中想要发出的一个警告是针对一种错误的假设，我称之为“技术沙文主义”（technochauvinism）。它认为技术是所有问题的解决方案。数字技术自20世纪50年代以来一直是科学界和政治界中一个非常普通的组成部分，在80年代进入了人们的日常生活。尽管如此，如今市面上各种复杂的营销活动还是让大部分人相信，技术仍是新事物，仍具有潜在的革命性。（其实，科技革命早已发生，如今技术就如同家常便饭一样普通。）
技术沙文主义者脑中常常伴随着其他一些类似的观念。他们通常也信奉安·兰德式精英主义、技术自由意志主义政治哲学之类的观念。他们赞美言论自由，却对网络骚扰问题视而不见，他们认为计算机可以将所有问题都提炼成数学问题，因此比人类更“客观”或“公正”。他们甚至有一种坚定不移的信念，认为人类只要更多地使用计算机，并且妥善地使用它们，社会问题就会消失，还能创造出一个数字化的乌托邦。而事实绝非如此。从来不曾有过一项新技术能够让我们远离与人类本性相关的根本问题，将来也不可能会出现。既然如此，为什么人们还坚持相信，我们的前方有一个充满阳光的技术时代？