作为这个时代的代名词,人工智能(AI)受到技术人员、学者和风险投资人等社会各界的追捧,但这个名词在被使用的过程中却伴随着种种误解。当我们用大数据推断出某一事件的结果,就需要反思:数据来自哪里?数据得出了什么推论?这些推断与当前情况之间的相关程度如何?
虽然人工智能大工程的“积木”块已经具备,但是把这些积木块组合在一起的原则还没有出现,所以这些积木的组合现在还是以特例的方式存在。
正如早期没有土木工程学科之前的建筑和桥梁,有时会以不可预见的方式崩塌一样,目前许多早期的大规模推理和决策系统已经暴露出严重的概念缺陷。我们并不善于预测下一个会出现的严重缺陷,但我们能够意识到,AI领域缺少的是一个具有分析和设计原理的工程学科。
AI概念需厘清
一个训练有素的医学专家也许能够逐个解决大部分的医疗问题,但问题是,我们能否设计出全球医疗系统的解决方案,不用人类监督也可以解决相关问题?作为一名计算机科学家,想要建立这种全球的推理和决策系统所需的原则,将计算机科学与统计学相结合,并考虑到人类的福祉——至今还无法做到。
不仅在医疗领域,在商业、交通和教育等领域,这些原则的建立与发展都与AI系统一样重要。
当我们频繁地使用“AI”,就很难推理AI这项新兴技术的范围和后果。我们需要仔细思考AI指的是什么。今天大多数所谓“AI”,指的是机器学习或是数据科学,甚至优化和统计学等领域也包括在内。AI的概念总是不确定且外延不断发展扩大,使用这个单一的、定义不清的缩略词,会妨碍人们对技术和商业变革的清晰理解。
无论是否能很快理解“智能”,我们都面临一个重大挑战,即将计算机和人类友好交互,从而给人类生活带来便利。为了解决这一问题,就需要创建一个新的学科,这门新学科的目标是聚合几个核心思想的力量,以安全的方式为人们带来新的资源和能力。
这个新的工程学科将以“信息”“算法”“数据”“不确定性”“计算”“推理”“优化”等思想为基础。由于这个新学科建立在有关人类的数据之上,所以其发展也需要从社会科学和人文科学的视角剖析。
关注智能增强和智能基础设施
目前看来,我们的研究重点除了“类人AI”,还应该对“智能增强”(IA)和“智能基础设施”(II)两大系统给予更多关注。
在过去的二十年里,IA在工业和学术界取得了重大进展,这是对“类人AI”的补充。在IA领域,计算和数据被用来增强人类智力和创造力。搜索引擎可以被看作是IA的一个例子(它增强了人类的记忆和知识),自然语言翻译也是如此(它增强了人类的交流能力)。
基于计算的声音和图像生成,虽然可能涉及高层次的推理和思想,但目前它们仍在执行各种字符串匹配和数字操作,其真正的作用还没有展现。
II即一个由计算、数据和物理实体组成的网络,它使人类所处的环境更加友好、有趣和安全。现在这种基础设施已开始出现在运输、医药、商业和金融等领域,并对个人和社会产生巨大影响。
我们可以想象,在一个“社会规模的医疗系统”中生活,它建立了医生以及位于患者体内外设备之间的数据流和数据分析流程,从而帮助人类进行诊断和提供护理。当然也可同时预见,这一系统将会出现很多问题,比如隐私、责任、安全等问题,但这些问题应该被视为挑战,而不是阻碍。
我们现在需要解决的问题是:如果要建立上述系统,“类人AI”研究是最佳,或者是唯一的方法吗?
机器学习领域的成功案例中,有一些与“类人AI”有关,如计算机视觉、语音识别、人机对局和机器人等。这些领域的进一步发展值得期待。而要实现这样的技术,还需要解决一系列的工程问题,而这些问题可能与人所缺乏的能力关系不大。
今后,整个智能系统可能会复杂得多,尤其是将使用大量数据和自适应统计建模来进行更细层面上的决策。这些挑战才是最需要被摆在首位的,而在努力解决这些挑战的过程中,专注于“类人AI”可能会令人分心。
专注“类人AI”研究的观点可能会认为,人类的智慧是我们目前所能知道的唯一一种智慧,我们应该先模仿它。但其实人类在某些推理上并不十分擅长——我们会有失误、偏见和局限。关键是,人类还没有演化出大规模决策的能力,这种能力是现代II系统必须拥有的。人类也还不足以应对II系统场景中的各种不确定性。
重要的是,必须将激励、定价等经济概念带入统计和计算基础设施领域,是它们连接了人与人、人与商品。这样,II系统就不仅仅是提供服务,而是在创造市场。
构建以人类为中心的工程学科
目前,AI研究的重点还是收集数据、部署“深度学习”基础设施、展示能模仿某些狭义上的人类技能(即几乎没有新出现的解释原则)的系统。但是,这样的研究重点偏离了经典AI研究里最主要的开放性问题,包括在自然语言处理系统中引入推理和意义以及开发制定和追求长期目标系统的必要性。
这些都是“类人AI”研究中的经典目标,但在目前的AI热潮中,这些亟待解决的问题很容易被忽略。
我们希望计算机能够激发人类更高的创造水平,而不是取代人类的创造力,我们面临由AI、IA和II带来的全方位挑战和机遇。过于集中地关注“类人AI”,会让人们屏蔽很多声音。
工业领域的进步将继续推动发展,学术界也将继续发挥重要作用,学术界的作用不仅在于提供创新性的技术理念,而且在于将来自:计算机和统计科学、社会科学、认知科学和人文科学等不同领域的研究人员汇聚起来,他们的价值和观点十分重要。
在学术界以及其它领域里,“工程学”这个术语经常被狭义地引用,以指代机器,但工程学科其实是可以成为我们想要的样子的。我们有机会来建构一种新学科领域——真正以人类为中心的工程学科。
(作者迈克尔·乔丹系美国加州大学伯克利分校计算机科学与统计学教授,中国科学报记者贡晓丽编译整理)