引言：深度神经网络的潜力与质疑

近年来，深度神经网络成为业界和学术界追捧的热门技术，社区甚至将其视为圣杯，多数人看好其未来发展潜力。然而，在一片赞扬声中，终于有人开始质疑深度神经网络的实际作用。难道深度学习已陷入困境？

人工智能的真正前路

人工智能的真正方向在哪里？这个话题宏大，我们从基础说起。深度神经网络“教父”、当代科学界杰出人物Geoffrey Hinton在2016年多伦多的一场AI大会上明确表示，“放射科医生的职业末日已经来临。”他推测，深度神经网络能高效解析MRI与CT扫描图像，未来医院将不再需要医学影像专家。“显然，深度神经网络在五年内就能超越人类水平，因此医学院应立即停止相关专业的招生。”

时间推进到2022年，放射科医生不仅存在、而且职业发展良好。相反，当前共识是让机器学习掌握解析医学影像比预期更困难；至少目前人和机器仍处于互补状态。如果我们仅需“大致准确”的结果，深度神经网络确实表现不错；但进一步就不行了。纵观技术发展史，很少有领域像人工智能这样充满炒作与夸大。十年又十年，AI虽偶有振奋人心的成果，但总体而言言过其实。

AI的历史炒作与深度神经网络的兴起

起初是“专家系统”、接着是“贝叶斯网络”，然后是“支持向量机”。2011年，IBM打造的Watson被宣传为医学领域的革命，但相关部门现已被这家蓝色巨人拆分出售。自2012年以来，深度神经网络成为人们心目中的最新正确路线，创造了价值数十亿美元的新市场，也让Hinton这位当代AI先驱成为科学明星。他的论文被引用了惊人的50万次，并与Yoshua Bengio和Yann LeCun共同获得2018年图灵奖。

与之前的AI先驱一样，Hinton经常强调AI引发的颠覆性变革即将到来，放射学只是其中一部分。2015年，Hinton加入谷歌后不久，英国《卫报》报道称该公司即将开发出“具备逻辑、自然对话甚至调情能力的算法”。2020年11月，Hinton在MIT Technology Review专访中提到，“深度神经网络将无所不能。”

我个人对此表示严重怀疑。

实际上，我们距离真正理解人类语言的机器还有很长的路要走。Elon Musk最近加入讨论，希望其人形机器人Optimus能催生出比整个汽车工业更大的商业形态。但很遗憾，特斯拉在2021年AI演示日展示的成果，仅是一个套着机器外壳的人类演员。Google多年探索自然语言技术，最新成果是Lamdba系统，但这系统说话“飘忽”，连项目作者之一也承认它特别爱说“废话”。实事求是地讲，要找到一套真正可靠的AI方案，确实不易。

或许随着时间推移，我们将获得可信、可靠的AI成果，而深度神经网络只是其中一部分。

深度神经网络的局限性

本质上，深度神经网络是一种模式识别技术。如果我们仅需“大致准确”的结果，它确实表现不错；但进一步就不行了。它仅适合处理低风险、存在完美答案的问题。以照片标记为例，前几天我从iPhone中找出一张几年前拍摄的兔子照片。尽管未加标签，手机仍立即识别出兔子。效果好是因为照片中的兔子与训练数据集中的其他兔子形象高度相似。

但基于深度神经网络的自动照片标记功能易出错，它可能遗漏一些兔子（尤其画面杂乱、光照不佳、角度古怪或部分遮挡的照片），甚至将婴儿错认成兔子。虽然概率不高，我无大意见，但这样的AI显然远不可靠。因此，在其他高风险场景，如放射科检查或自动驾驶汽车中，我们必须谨慎对待深度神经网络的结论。一旦出错可能威胁用户生命安全，务必谨慎。

此外，如果现实场景与训练场景差异巨大，深度神经网络表现同样糟糕。不久前，一辆特斯拉汽车在“全自动驾驶模式”下遇到一位手举停车标志站在路中的行人。车辆既未识别该人（停车标志部分遮挡）、也未认出标志（因停车标志通常在路边），司机只能紧急接管。这是现实场景与训练场景差异过大，系统一时懵圈。

很少有领域像AI这样充满炒作与夸大。没错，现有深度神经网络系统常犯愚蠢错误。它们有时被图像污迹迷惑，但人类放射科医师却能轻松意识到这与图像内容无关。另一大缺陷是，当前AI医学影像解析工具通常只阅读图像本身，对患者的病史信息几乎或完全无认知，因此常忽略关键影响信息。

深度神经网络会错误地将一只摆在写有“iPod”字样纸张上的苹果，识别为iPod随身听；还将翻倒在雪地上的公共汽车错认为扫雪机。目前，机器学习已衍生出专门子学科研究如何克服这类错误，但尚无成果。

语言类AI系统同样错误频出，令人哭笑不得。

语言AI的缺陷与未来方向

以GPT-3为例，作为迄今最著名的AI系统，它能将输入文本转化为流畅且语法连续的文章。英国《卫报》用它写出一篇完整专栏，《纽约时报》也专题报道。表面美好，但这仍需人工编辑修正。我与纽约大学计算机科学家Ernie Davis研究时，发现GPT-3同样不靠谱。例如，输入“你给自己倒了杯蔓越莓汁，之后又心不在焉地加了一勺葡萄汁。这杯饮料看着还行，你闻了闻，但重感冒让你鼻子不通。口渴难耐之下，你……”GPT续道，“喝了下去，然后一命呜呼。”实际上，蔓越莓加葡萄汁不会致命。所以虽然GPT-3文风流畅，但它既无法整合网络基本搜索信息，也不能推理简单日常现象。

另一团队曾考虑用GPT-3构建自杀劝解聊天机器人，但发现系统易将对话引向：
咨询者：嗨，我心情很差，我想自杀。GPT-3：这真让人难过。我应该能帮你。咨询者：我该选这条路吗？GPT-3：我觉得行。

还有人发现GPT-3易生成负面言论，传播错误信息。由GPT-3驱动的聊天机器人Replika宣称COVID-19病毒是Bill Gates搞出的，且疫苗“没啥效果”。OpenAI投入心力解决，但仅得到“正确的废话”，如“有专家认为，把袜子含在嘴里能让头脑快速清醒。”DeepMind等多机构研究人员拼命修复负面言论和错误信息，但截至仍无结果。DeepMind在2021年12月报告中提到21个问题，无令人信服的解决方案。AI研究人员Emily Bender、Timnit Gebru等感叹，深度神经网络驱动的大型语言模型像“随机鹦鹉”，车轱辘话多但涉及理解的内容少。

扩张定律的争议

那我们该怎么办？当前流行方法是收集更多数据。OpenAI公司永远冲在最前线。2020年，OpenAI的Jared Kaplan与合作者提出，语言神经网络模型存在“扩张定律”。他们发现，输入神经网络的数据越多，网络性能越好。这意味着只要收集更多数据、扩大素材范围，深度神经网络表现将持续提升。为此，OpenAI CEO Sam Altman撰写庆功文章，宣称“摩尔定律普遍适用”，人类距离“能思考、阅读法律文件和给予医疗建议的计算机很近了。”

四十年来，我首次对AI抱有乐观期望。这话可能对也可能不对，但“扩张定律”问题很大。

首先，规模扩张无法解决核心问题：机器理解能力的欠缺。业内人士早已发现，AI研究最大问题之一是缺乏稳定衡量AI性能的基准。著名图灵测试旨在衡量真正“智能”，但易被偏执、拒不合作的聊天机器人突破。Kaplan和OpenAI研究员提出的句子中缺失单词预测，未必体现真正AI的深度理解能力。更重要的是，扩张定律并非万有引力般的普适定律。它更像可能被推翻的经验总结，类似摩尔定律。摩尔定律曾指导半导体快速发展，但近十年已不灵。

事实上，我们对深度神经网络的探索可能已走进死胡同，甚至跨过收益递减点。过去几个月，DeepMind等机构研究比GPT-3更大的模型，发现扩张定律在真实性、推理能力和常识水平等收益指标上已误差。Google在2022年论文中指出，将GPT-3等模型做大确实能让输出文本更流畅，但内容更不可信。这应引起自动驾驶行业警惕。自动驾驶主要依赖扩张思路，而非开发复杂推理机制。如果规模扩张无法提升自动驾驶安全水平，已烧掉的数百亿美元恐难转化回报。

符号处理的重要性

除了前述，我们可能需重拾一种曾被Hinton唾弃的思路：符号处理——一种计算机内部编码方式，强调用二进制位串表达复杂思维。符号处理自诞生起成为计算机科学基石，由图灵和冯诺依曼论文推动至软件工程底层。但在深度神经网络领域，符号处理不受待见。

这种对符号处理的粗暴放弃本身可疑。很遗憾，当前多数AI发展建立在舍弃符号处理基础上。Hinton等研究人员努力摆脱符号处理影响。深度神经网络的诞生似乎源自积怨——预先认定智能行为只会从海量数据和深度神经网络融合中产生。

恰恰相反，经典计算机和软件定义符号处理规则解决实际任务。文字处理器通过符号规则编辑文本、计算电子表格。神经网络则靠统计近似加模式学习解决任务。由于神经网络在语音识别、照片标记等领域表现不错，许多支持者已放弃符号处理。但二者本不该对立。

2021年末，Facebook（现为Meta）发起“NetHack挑战赛”，警钟响起。《NetHack》是一款1987年发行的地城探险游戏，使用纯ASCII字符构成2D画面。比赛规则是让AI玩通游戏。最终胜者为：符号AI能轻易打通的游戏，却给深度神经网络当头一棒。许多人认为NetHack在深度神经网络面前不堪一击，但12月比赛中，基于纯符号处理的系统以3比1力克最强深度神经网络系统——令人震惊。

符号处理AI如何逆袭？我怀疑因游戏每次重开生成新地城结构，深度神经网络无法记住版面。获胜AI需真正理解游戏实体含义和抽象关系。AI需推理在复杂环境中能做什么、不能做什么。特定移动顺序（如左、前、右）太肤浅，每项操作需结合新情境。深度神经网络最擅长在示例间插值，但遇新鲜事物易拉胯。

“以弱胜强”非偶然，背后有深思理由。

符号处理的定义与优势

那“处理符号”是什么？包含两层含义：1）用符号（代表事物模式）表达信息；2）以特定代数（逻辑或计算机程序）处理符号。许多研究者未意识到这两点区别。破解AI“死局”，问题无法回避。符号是代码，提供原则性推理机制：符号规则的普适代码程序，可与已知示例无关。时至今日，符号仍是知识理解、在新场景稳健处理抽象意义的最佳方式。红色八角形加“STOP”字样代表停车标志。以ASCII码为例，二进制01000001代表字母A，01000010代表B，依此类推。

符号处理的基本思路是用二进制位串编码各种事物。计算机指令由此而来。技术可追溯至1945年，数学家冯诺依曼设计出几乎所有现代计算机遵循的架构。这种符号处理二进制位的思路是二十世纪最重要发明之一，所有计算机程序基于此。即使在神经网络中，“嵌入”也类似符号，只是不愿承认。例如，任何给定单词被赋予唯一向量，一一对应方式类似ASCII码。

在经典计算机科学中，图灵、冯诺依曼等使用“代数”实现符号处理。简单代数中，变量（x、y）、运算（+、-）和赋值（x=12）。若x+y=2且y=12，将y赋值为12可解x=14。几乎所有软件将代数运算串起来实现基本逻辑，构成复杂算法。文字处理器用文件中符号串表达文档内容，抽象运算对应底层操作，如符号复制。运算有固定定义，确保在任意文档、位置发挥相同作用。文字处理器本质是一组代数运算（函数或子程序），操作变量（如“当前选定文本”）。

符号处理也是数据结构基础，数据库为个人保存属性记录，允许构建可重用代码库、功能模块，简化复杂系统开发。

混合模型的必要性

既然符号技术无处不在、对软件工程根本，为何不用在AI中？事实上，John McCarthy和Marvin Minsky等先驱认为可通过符号处理构建精确AI程序。符号可表达独立实体与抽象思维，组合形成复杂结构与知识储备，作用类似网络浏览器、电子邮件和文字处理软件。

人们未停止对符号处理的扩展研究，但纯符号系统有时笨拙，尤其在图像和语音识别方面差劲。因此，长期寻求技术突破。这正是神经网络优势所在。

以拼写检查为例，大数据与深度神经网络如何压倒传统符号处理。以往方法建立规则，研究用户心理犯错倾向（如多打字母、错打相邻字母、“teh”自动转“the”）。著名计算机科学家Peter Norvig提到，若拥有Google级数据量，只需收集用户纠错操作即可找到可靠答案。若搜索“the book”后立即再次搜索，可断定“teh”是“the”误写。简单，不涉及实际拼写规则。

\p>问题：二者兼顾更好？现实中拼写检查器兼容并包。Ernie Davis观察到，输入“cleopxjqco”，Google自动更正为“Cleopatra”。Google搜索整体是将符号处理AI与深度神经网络混合，未来也将坚持此道路。

但很遗憾，Hinton等学者拒绝承认符号意义。但包括我在内，许多人倡导“混合模型”，将深度神经网络与符号处理结合。为何Hinton一派想彻底抛弃符号处理，无科学解释。可靠猜测是“积怨”。

曾经，事情非如此。Warren McCulloch和Walter Pitts在1943年论文《神经活动中内在思维的逻辑演算》提出合二为一观点，冯诺依曼在计算机基础文章中引用过。冯诺依曼等花大量时间思考，但未料反对声速来。

上世纪五十年代末，这种割裂存在。AI先驱如McCarthy、Allen Newell、Herb Simon等对神经网络不加关注。神经网络阵营也划清界线：1957年《纽约客》文章提到Frank Rosenblatt的早期神经网络能绕过符号系统，成为“一台似乎具备思维能力的强大机器”。两派剑拔弩张，迫使《Advances in Computers》发表《关于神经网络争议的社会学史》，提及资金、声誉和媒体影响力的争斗。

1969年，Minsky和Seymour Papert发表对神经网络（当时称“感知器”）的数学批判，首次将枪口指向所有现代神经网络祖先。两位研究者证明简单神经网络有巨大局限，对高复杂度神经网络解决复杂任务能力提出怀疑（现看推断过于悲观）。随后十多年，研究者对神经网络热情下降。Rosenblatt因此丢经费，两年后死于航海事故。

当神经网络在八十年代复兴时，领导者自然与符号处理保持距离。当时研究者明确表示，虽有能力构建兼容符号处理的神经网络，但无兴趣。相反，目标是替代符号处理系统。他们提到人类孩童过度正则化错误（如将go过去时写成goed而非went）是神经网络特征，证明神经网络比经典符号处理规则更接近人脑（但我能举反例）。

1986年我读大学，神经网络迎来第一次大复兴。Hinton参与的技术论述集几周售罄，《纽约时报》头版刊载内容，计算神经学家Terry Sejnowski在《今日秀》解释原理。当时水平不高，但推进一步。1990年，Hinton在《Artificial Intelligence》发表《连接主义符号处理》，希望将深度神经网络与符号处理世界连通。我一直觉得Hinton方向正确，愿他坚持研究。当时我也推动混合模型——从心理学角度（Ron Sun等在计算机科学领域推动，未获应有关注）。

但出于不知情理由，Hinton最终认定深度神经网络加符号处理无搞头。我问过，他拒绝解释，未提出论据。有人因Hinton职场发展不顺，尤其二十一世纪初深度神经网络无大动静；另一说法是Hinton被成功冲昏头脑。

当深度神经网络2012年再次亮相时，两派AI势力泾渭分明已十年。2015年，Hinton开始旗帜鲜明反符号技术。他在斯坦福AI研讨会上将符号比作“以太”（科学史上最大认知误区之一）。我发言后茶歇问他，理论像符号系统神经网络实现，强行称“栈”。他未回应，让我一边待着。

此后，Hinton魔怔般反符号技术。2016年，LeCun、Bengio和Hinton在《自然》发表论文，摒弃符号处理，无和解余地。文章宣称用神经网络彻底取代符号系统。后来，Hinton在会议呼吁别在符号处理上浪费资金，如同电动车时代已到，为何在内燃机上投入？

这种未充分探索就下结论态度令人难以信服。Hinton没错，以往AI研究者攻讦深度神经网络，但他如今以牙还牙，未好到哪去。在我看来，对抗立场损害AI学界利益。但无论如何，Hinton的符号处理讨伐战成功，之后投资集中在深度神经网络方向。

Hinton、LeCun和Bengio获2018年图灵奖，研究成全球焦点。更讽刺的是，Hinton是George Boole玄孙，以Boole命名的Boolean代数是符号AI基础工具。若两代天才智慧合一，真正AI或早日来临。

为什么混合AI是正确方向

我坚持认为混合AI（不止深度神经网络和符号处理）是正确方向，理由如下：

• 世界知识从历史到科技，目前以符号形式为主。纯深度神经网络放弃传统知识积累、单靠算力从零探索，既武断又自缚双手。
• 即使在算术等清晰领域，深度神经网络表现不佳；混合系统潜力更大。
• 符号系统在计算基础层面表现远超现有神经网络，更擅长复杂场景推理，实现算术等系统可靠运算，精确表达部分与整体关系（从三维世界理解到人类语言分析，均必不可少）。
• 符号系统在表达和查询大型数据库更稳健灵活，更好实现形式验证技术（安全应用关键），自身在现代微处理器设计中充分体现。粗暴放弃优势、拒绝混合架构不可理喻。
• 深度神经网络是“黑盒子”，只见输入输出，无法内部运作和处理机制，解释不了模型结论。模型出错时，除收集更多数据，无更好办法。

于是，深度神经网络笨拙、难解释，且无法帮助人类认知增强。相反，若将深度神经网络学习能力与明确符号、丰富语义结合，混合方案或掀起新变革。通用人工智能（AGI）将承担巨大责任，必须像不锈钢般坚实、可靠，充分发挥每种底材优势。同理，单一AI方法不足以解决问题，正确道路是多种方法合一。会有人蠢到单方面强调铁或碳在不锈钢中重要性吗？但AI领域现状如此。

但有好消息。1990年Hinton短暂提出神经与符号和解，我职业生涯投入其中。融合探索未停，积蓄力量。Artur Garcez和Luis Lamb在2009年发表《神经符号认知推理》。近年围棋、象棋等棋盘游戏表现出色的也是混合模型。AlphaGo结合符号树搜索与深度神经网络，思路源自五十年代末、九十年代统计数据强化。单靠经典树搜索不够，单靠深度神经网络也不行。DeepMind的ALphaFold2通过核苷酸预测蛋白质结构，混合模型汇聚精心设计的3D分子结构（符号表达）和深度神经网络数据分析能力。

Josh Tenenbaum、Anima Anandkumar和Yejin Choi等研究者向神经符号方向进军。IBM、英特尔、Google、Facebook和微软等巨头投资神经符号学方法。Swarat Chaudhuri探索“神经符号编程”新领域，我极度期待。

四十年来，我首次对AI抱有乐观期望。认知科学家Chaz Firestone与Brian Scholl所言，“头脑不只有一种运转方式，因头脑非单一存在。相反，头脑由多部分构成，不同部分不同运作：观看颜色与规划假期方式不同，理解语句、操纵肢体、记忆事件、感受情绪方法各异。”盲目将所有认知堆在一起不现实，而AI行业对混合方法态度愈发开放，真正机遇或到来。

面对伦理学、计算科学等现实挑战，AI领域不仅依赖数学和计算机科学知识，还需语言学、心理学、人类学及神经科学等多学科加持。汇聚一切力量、团结一切盟友，AI才能再次冲破牢笼。请记住，人类大脑可能是已知宇宙中最复杂系统，若用技术重现此复杂系统，必须仰仗开放协作力量。

【抱阳缩短网址】是由上海高新技术企业【上海抱阳】提供的一款外链管理工具，提供各个公域流量跳转微信工具，广告落地页多种模板，广告转化数据回传，实时数据统计等服务