FEATURED ARTICLE

菲尔兹奖得主洛朗·拉福格:如果没有数学家的研究与核验,AI生成的数学文本就失去了意义

阅读位置

AI正在引发数学界的地震。本月初,OpenAI一次性公开了700余篇完全由AI生成的数学预印本。菲尔兹奖得主陶哲轩公开表示,数学家苦思多年、以“英雄”姿态攻克难题的“浪漫时代”,可能即将终结。但在另一位菲尔兹奖得主、法国数学家洛朗·拉福格(Laurent Lafforgue)看来,AI大规模改变数学的写作和生产方式的同时,也是数学家集体反思数学生产的好机会。在AI时代,数学家的地位也无可替代。 10月28日,拉福格在复旦大学“浦江科学大师讲坛”演讲中,从另外一个角度切入数学与AI的关系:大语言模型在文本和图像上取得了如此惊人的成功,背后可能也藏着一个尚未被识别的结构,而这正是需要数学家去探索的领域。 菲尔兹奖得主、法国数学家洛朗·拉福格(Laurent Lafforgue)在“浦江科学大师讲坛”发表演讲。图片来自主办方 AI的数学悖论 拉福格提到,AI应用的成功有一个共同的先决条件:真实人类写下的海量文本和拍摄的海量图像。大语言模型之所以能预测下一个词元、补全一段文本,恰恰暗示着那个由无数人写下的文本库内部,存在着某种数学性的秩序。如果数据是完全不规则的、不连续的集合,系统就不可能从中学到任何可以推广的东西,更不可能用有限的计算去逼近一个全局结构。问题在于:“我们知道有一个结构,但不知道这个结构是什么样”。 这正是让数学家感到不安的地方。工程师把词元编号、嵌入为向量、用海量算力反复调整参数,模型“起作用了”。但拉福格指出,这些向量并非来自任何物理测量,“对数学家来说甚至是任意的”。AI的成功正是建立在对这种成功本质的不理解之上,“对于数学家来说,这一点尤其令人不满意。” 要追问这个“结构”是什么,拉福格选择从亚历山大·格罗滕迪克那里汲取灵感。格罗滕迪克是20世纪最具革命性的数学家之一,现代代数几何的奠基人。传统几何学关心一个空间里“有哪些点”“点的坐标是什么”,格罗滕迪克则转而追问,点是否是合适的几何概念? 他由此创立了拓扑斯(topos)理论,用“层”与“覆盖”的语言重新定义“空间”——空间不再是一些点构成的集合,而可以用完全不同的方式,用代数的语言加以描述。 格罗滕迪克的视角 拉福格是格罗滕迪克的信徒。他2002年获得菲尔兹奖的工作——证明正特征函数域上的一类朗兰兹对应——本身就是在格罗滕迪克所奠定的代数几何框架中完成的。 在他看来,面对AI“黑箱”,格罗滕迪克的思路非常有用:不要一上来就问“这个词是什么意思”“这个图像对应哪个点”,而应当把全部文本或全部图像作为一个整体空间来看待,问它们是否能被赋予一个连续的、可分类的几何结构。 围绕大语言模型的数学研究已经形成了几条相当不同的路径,如统计学习、动力系统与组合论,但都将给定的大语言模型作为研究对象,将它视作参数空间、状态轨迹或架构的组合规则。但在格罗滕迪克理论的视野中,这个问题被颠倒过来:如果人类数据本身就具备某种不为人知的结构,那么大模型与之“同构”,成功就是理所当然的。 虽然图像和文本可以用数据点等形式来定义,但拉福格提醒说,拓扑斯理论的长处正在于其放弃了点的定义——就像在生活中从未真正“看见”过一个抽象的数学点一样。该理论捕捉的是覆盖、黏合和连续变化的整体模式,而这些模式则比点要更符合直觉。 “比如‘覆盖’的概念,这意味着你有一些更大的东西,是由更小的东西来进行覆盖的——像上海这样大的城市,是由不同的区来覆盖的;衣服都是由更小的布块被纺织到了一起,成为一件衣服来覆盖我们的身体。”拉福格说。 数学家要做的,是把这种“小东西拼成大东西”的直觉变成可运算的结构:给定一个空间,先指定一族局部小块,再规定哪些小块可以拼在一起、拼法是否唯一,这套“覆盖与黏合”的规则刻画了这个空间的整体形状。而“层”就是附着在这套覆盖规则上的数据——它为每个局部小块分配一个对象(比如一段文本、一个函数、一组概率),并要求这些局部数据在重叠处彼此相容、能一致地黏合。 用这种语言重新描述大语言模型,拉福格得到了一个与众不同的图景:模型不是在给每个词指定一个固定意义,而是在一个由覆盖规则组织起来的文本空间里,计算哪些局部续写能够一致地拼成整体——这正是“层”与“覆盖”在大模型身上的对应物。 拉福格认为,如果AI的文本生产背后确实存在一个数学结构,那么拓扑斯提供了一种不依赖“点”的语言去逼近它的可能路径。当然这个想法是否最终会成为洞悉大模型规律的框架,还需要数学家们继续探索。 语言之外 拉福格提到,大语言模型完全在人类语言空间内部运作。它处理的是已经被写下来的文本,输出的是可以被词元序列表达的文本,可以极其高效地在既有语言的地形上“铺路”,却看不见那些尚未被语言命名、尚未进入符号系统的东西。 现场一位同学询问拉福格,AI是否能生成对自身的数学描述从而改进自己?拉福格回答,这种描述一定不会是格罗滕迪克式的

about image
返回资讯列表

分享这篇内容

如果文章对您有所帮助,欢迎将链接分享给感兴趣的朋友。