知识密度牵引下的大模型高效计算

地点： 会场7-B02

随着大型语言模型及其训练数据规模的不断扩大，模型性能与资源消耗之间的瓶颈日益突出。传统的模型优化方法通常专注于架构改进或硬件加速，但忽略了知识在这些大规模参数空间中是如何分布和利用的根本问题。本次演讲介绍了一种由知识密度分析驱动的新型计算框架，通过识别和优先处理大型语言模型中知识最丰富的组件，在训练和推理阶段都能更高效地利用计算资源。