Folia
← 返回头版

乔姆斯基与统计学习的“两种文化”之争

围绕语言学与人工智能领域的方法论分歧,一篇分析文章通过对比诺姆·乔姆斯基对纯统计方法的批评与彼得·诺维格等研究者对统计及概率模型的辩护,深入探讨了该领域的“两种文化”之争 1。乔姆斯基曾嘲笑使用纯统计方法的研究人员,认为他们只是在模仿行为而不理解意义,并将这种成功定义为对未分析数据的近似 1。然而,历史数据和科学实践表明,统计方法在工程性能、处理语言模糊性及描述真实语言现象方面具有压倒性优势 1。尽管乔姆斯基认为统计模型缺乏解释力且无法捕捉语言的深层结构,但文章引用理想气体定律、拼写规则及最高法院握手问题等例子,论证了概率模型在准确性和实用性上优于乔姆斯基的规则系统 1。

为具体阐述这一观点,文章以英语中“I before E except after C”的拼写规则为例指出,统计数据显示IE比EI更常见(约4:1),但在C之后CIE仍比CEI常见(约3:1),这证明简单规则不准确,而统计模型能提供更精确的描述 1。此外,克劳德·香农在1948年提出的基于马尔可夫链的概率通信模型需要 $10^{15}$ 个概率值,必须通过数据统计和平滑方法来训练 1。莱奥·布雷曼在2001年的论文《统计建模:两种文化》中区分了“数据建模文化”(假设存在简单的底层模型)和“算法建模文化”(承认自然界的复杂性,不要求模型对应真实生成过程) 1。最终结论支持算法建模文化,认为其更契合现代复杂系统的研究需求 1。

针对乔姆斯基的理论依据,文章也进行了驳斥。乔姆斯基的“贫乏刺激论”常引用Gold定理来论证先天语言器官的存在,但Johnson (2004)等人指出该推论无效,因为语言识别任务与儿童语言习得任务并不相同 1。同时,Horning在1969年证明概率上下文无关语言是可以从示例中识别的,这反驳了乔姆斯基关于统计模型无法解释语言学习的观点 1。在经济影响层面,文章提到由香农理论衍生的产业每年创造数万亿美元收入,而乔姆斯基理论衍生的产值远低于十亿美元 1。


评论