转载

尼古拉斯·卡尔：我们是否过于依赖计算机？

网易科技讯 1月19日消息，前哈佛经济评论(Harvard Business Review)总编尼克拉斯卡尔(Nicholas Carr)最近在《卫报》上发表文章称，来自计算机自动化的真正危险，是我们对其形成了依赖。我们人类倾向于认为，计算机足以替代我们自己的智慧，使我们太急于将重要工作移交给软件，而让自己接受一个从属地位。

文章全文如下：

人类有存在的必要吗？该问题的答案似乎是毋庸置疑的。随着计算机技术继续势不可挡地发展，软件正在接管会计、医药、建筑、法律等领域各种复杂的工作。很快，我们的硅谷魔术师会告诉我们，机器人将为我们驾驶汽车和飞机，为我们诊断疾病和开出处方，教育我们的孩子和照顾我们年迈的父母，并且在各方面精心安排我们的生活。谷歌工程总监、未来学家雷·库兹韦尔（Ray Kurzweil）预测，在下一个十年结束的时候，人工智能将超越人类。最终，我们将被我们的机器所取代。

确实，我们的工作和生活正变得更加自动化，而且毫无疑问这种趋势将继续下去。计算机的发展速度不会放缓，同时会变得越来越复杂。但是，我们还没有到自暴自弃的时候。随着数字技术向前冲刺，我们不仅了解了计算机智能的可能性，我们也知道了它的极限。我们人类智能最精妙之处——我们的常识，我们的创造力和应变能力，我们思想的流动性 ——依然远远超出了计算机程序所能达到的范围。不但远远谈不上取代我们，相反，计算机自动化正在证明我们人类智能是多么有价值和独特。

以无人驾驶汽车为例。当谷歌2010年宣布，它将一辆丰田普锐斯改造成为能在道路上自动驾驶的汽车——这确实是一个了不起的成就——该公司还预测，完全自主驾驶的汽车将在2020年上市销售。这不太可能实现。谷歌在炒作无人驾驶汽车时，一直没有提及到一个事实：在无人驾驶汽车的操作中，人类驾驶员继续发挥着至关重要的作用。机器人仍然无法应对各种偶发和突发事件，如遇上弯路，在树叶覆盖的道路上行驶，听从交警的指挥，遇到大风吹来的碎片等，而人类司机可以沉着地应对这些情况。

即使工程师成功开发一款无人驾驶汽车，能够应对99％的交通状况。机器人专家指出，这距离实现完全自主驾驶仍然还有很长一段路。可以想象的是，无人驾驶汽车可以在严格控制的环境下独立运作，如在专用高速公路车道上，但只要汽车必须应对现实世界变幻莫测的交通状况，具有很高警惕性和灵活性的人类就将继续在司机座位上有一席之地。

飞机驾驶也是如此。如今，在飞机飞行的绝大部分时间里，都由自动驾驶仪在控制。但该技术还远未达到完美无瑕。当自动化系统崩溃或遇到其软件无法处理的情况，必须由飞行员接管飞机的控制。对于飞行自动化的局限，我们有深刻的教训。2009年，美国航空公司的一架客机从纽约拉瓜迪亚机场起飞后不久，就撞上一群大雁。凭借冷静的反应和出色的技术，机长切斯利·沙林博格(Chesley Sullenberger III) 将飞机安全地降落在哈得逊河上。在这一事件中，沙林博格的壮举可能特别引人注目，但事实上熟练的飞行员每天都在引导飞机脱离险境。

无人驾驶汽车和飞机自动驾驶仪的不足之处表明，我们人类的一些技能，如感觉不可预知世界的能力和在复杂环境下的应对能力，是计算机所不能完全效仿的。当汽车或飞机的驾驶变得艰难的时候，其软件必须将方向盘拱手让给人类。随着软件算法现在已经从事一般知识性的工作，我们会发现，我们最精妙的智力技能仍然是计算机程序所不能达到的。最近几年，计算机和“大数据”算法分析和判断复杂现象的能力，已经取得了很大进展。但不管怎样，都离不开人类的洞察力和直觉。

在医学上，人们曾预测信息技术将大幅提高医疗保健水平和降低成本。但是，最近对数字记录保存和诊断系统的研究表明，它们实际上往往会提高医疗费用，同时使病人的治疗效果在质量上没有很大差异。计算机可以向医生提供有价值的信息，但它们在能力上无法与经验丰富的医生看齐，后者能掌握病人复杂的病情或指导病人恢复健康。白宫最年轻的健康政策顾问,哈佛医学院临床外科副教授阿图·葛文德（Atul Gawande）曾指出，软件诊断只能达到这一水平。有着丰富经验的临床医师关键时候表现出的“专家勇气”，是无法由软件模板和预测算法来代替的。

在教育方面，计算机也未能达到预期效果。就在几年前，所有人都认为大规模、开放的在线课程(M0OCs) 将彻底改变大学。与计算机化的教学相比，传统教室和教师的效率似乎过于低下。然而，Moocs在很大程度上是一个失败。我们似乎低估了一个真实的老师在一个真实的地点上课，能为学生带来的无形收益。灵感和学习效果无法很好地通过光纤电缆进行传输。

高科技的忠实拥趸者读到这里，可能已经抓狂。当然，他们会说，虽然今天的计算机有一定的局限性，但其缺陷只是暂时的。由于计算机的发展将继续以指数级的速度推进，机器能够做到人类所能做到的一切，这将只是一个时间问题。这是对计算机能力一个可以理解的、典型的反应，但它在推理上有缺陷。计算机对人类思维能力模仿的最终限制，与处理器的速度和内存大小等技术特性关系不大，而是计算机拥有机器所具有“天生不足”。多伦多大学(University of Toronto)的计算机科学家赫克托·莱维斯克(Hector Levesque) 指出，即使是最高级的计算机系统，仍然是“呆超人”（Idiot Savants，也称雨人，“呆超人”擅长数字或日期运算，美术和音乐，语言，但他们的智商半数低于75，这妨碍了他们特殊天赋的继续创新和发展）。通过被编程，它们可以完美无缺地开展某些受环境严格控制的活动，比如下棋或让一辆汽车保持在一个车道内，但在“专业领域之外它们完全毫无能力”。它们仍然是其编程的囚犯，其精确度可能非常高，但这与其视野的狭隘有着非常密切的联系。

我们的智力，不是表现在我们能通过我们大脑电路运行大量数据，或通过既定程序解决定义明确的问题，而是我们能感知事物——将我们通过观察和体验所获得的知识，变为对世界丰富而生动的理解，从而用于应对任何任务和挑战。正是我们这种智力上的灵活性，以及天生就具有的对我们自己和我们环境的意识，使我们能够概念地、批判地、隐喻地和想象地思考。总之，我们对计算机的巨大优势，就是我们是活生生的，而他们不是。抛开科学幻想不说，我们不会很快丧失这种优势。

来自计算机自动化的真正危险，是我们对其的依赖。我们倾向于认为，计算机足以替代我们自己的智慧，使我们太急于将重要工作移交给软件，而让自己接受一个从属地位。在设计自动化系统，工程师和程序员也倾向于将他们技术上的好处置于人类利益之上。他们将尽可能多的工作移交给软件，让我们人类从事被动性的和日常性的任务，如输入数据和监测读数。近年来就自动化对工作影响开展的研究发现，即使是非常熟练的员工，也能形成对计算机的严重依赖。

让软件来处理可能出现的任何挑战，员工可能成为一种叫做“自动化自满（automation complacency）”现象的牺牲品。他们的注意力无法集中，没有很好地发挥自己的技能，而且才华开始枯萎。在美国，美国联邦航空管理局找到了飞行员正在丧失手动飞行能力的证据，这在最恶劣的情况下可能导致事故发生。该机构正在鼓励客机飞行员在飞行时关闭自动驾驶仪和进行更多的手动飞行。对会计师、放射科医生和其他专业人士的研究，也发现了自动化导致“去技能化”的迹象。

如果我们能明智地设计并使用我们的思维机器，它们将为我们开创新的可能性。它们将帮助我们解决一些难题，推动我们取得更大的成就。如果我们仍停留在目前的发展道路上，将导致我们丧失一些有趣的工作，而且技能不断被侵蚀。这样一来，计算机算法比我们更聪明的假设将自我应验。当然，我们应该尊重我们计算机的能力，但是我们应该更尊重自己的智力。（刘春）

正文到此结束