公共管理学院数字政府与数字治理论坛第一期
2024年04月19日
研讨主题：
走进大语言模型：趋势、方法与应用
参会人员：
特邀AI算法领域资深专家，相关领域师生
研讨会时间：
4月20日下午14:00
地点：劝学楼220室
研讨内容：
在大语言模型技术爆发前，自然语言处理领域已持续在包括预训练在内的技术方向积累了诸多研究，形成了“预训练+微调”
的通用技术范式与趋势。在大语言模型出现后，由于其统一的范式以及强泛化能力，拓展并衍生出了多模态大模型、大模型
智能体等不同演进方向，模型本身也继续向参数规模更大、模型结构更复杂、训练数据更丰富的方向发展。
大语言模型的构建作为一项较为庞大与复杂的系统工程，在模型构建过程中整体可分为预训练、有监督微调与人类对齐三个重要阶段。
本报告将介绍在上述三个重要阶段的核心任务、目标以及其中用到的关键算法，详细拆解大语言模型的构建过程。
作为颠覆传统研究范式的突破性技术，大语言模型不仅在机器翻译、知识问答等传统自然语言处理任务中取得了显著成果，
并且在诸多商业落地场景展示出了优秀的能力与潜质。除此之外, 报告将列举并介绍大模型的代表性商业应用与案例，
并分析其应用前景和潜在价值，为研究者提供进一步参考。
