机器学习不能搞定自然语言理解

经验和数据驱动的革命

20世纪90年代初，一场统计革命席卷了人工智能 (AI)，并在 2000 年代达到高潮。神经网络化身为现代深度学习 (DL) 凯旋归来，并席卷了人工智能的所有子领域。尽管深度学习最具争议的应用是自然语言处理 (NLP)，但仍旧带来了经验主义的转向。

NLP 中广泛使用数据驱动的经验方法有以下原因：符号和逻辑方法未能产生可扩展的 NLP 系统，导致 NLP (EMNLP，此指数据驱动、基于语料库的短语，统计和机器学习方法)中所谓的经验方法的兴起。ASP站长网

这种向经验主义转变的动机很简单：在我们深入了解语言如何运作以及如何与我们口语谈论的内容相关之前，经验和数据驱动的方法可能有助于构建一些实用的文本处理应用程序。

正如EMNLP的先驱之一肯尼思·丘奇(Kenneth Church)所解释的，NLP数据驱动和统计方法的拥护者对解决简单的语言任务感兴趣，其动机从来不是暗示语言就是这样运作的，而是"做简单的事情总比什么都不做好"。

丘奇认为，这种转变的动机被严重误解，他们以为这个“可能大致正确的”( Probably Approximately Correct ，PAC)范式将扩展到完全自然的语言理解。

“新一代和当代的NLP研究人员在语言学和NLP的理解上有差别，因此，这种被误导的趋势导致了一种不幸的状况：坚持使用"大语言模型"(LLM)构建NLP系统，这需要巨大的计算能力，并试图通过记住海量数据来接近自然语言。

（编辑：焦作站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!