关注我们 - 数字罗塞塔计划 -

目 录

01 大语言模型（LLM）掀起新一轮AI热潮

02 LLM带来AI开发新范式

03 LLM是否适合档案领域？

04 结语

PART 01

大语言模型（LLM）

掀起新一轮AI热潮

自去年11月Open AI发布ChatGPT以来，掀起了全球网民的狂欢浪潮，百度也紧随其后推出了“文心一言”新一代知识增强大语言模型（Large Language Model，LLM），这类模型能够与人对话互动，回答问题，协助创作，火速成为了人们关注的焦点。随后Open AI正式开放了GPT-3.5的API，企业可以付费接入，成本极低。如今，国内各家企业/机构的AI大模型也如同雨后春笋般纷纷问世。

GPT系列是Open AI为聊天机器人ChatGPT发布的大型语言模型，GPT的全称是Generative Pre-Trained Transformer，可以理解为：通过Transformer为基础模型，使用预训练技术得到通用的大型语言模型。免费的ChatGPT应用了GPT-3.5，最新付费版的ChatGPT Plus则应用了GPT-4。GPT-4是一个多模态模型，具有更强大的泛化能力和生成能力，可以更准确地解决用户难题。

PART 02

大语言模型（LLM）

带来AI开发新范式

LLM的出现，提供了强大、智能的交互方式，ChatGPT的问世也让文本生成展现出了作为生产力工具的潜质。可以说，以ChatGPT为代表的基于Prompt范式的LLM取得了巨大的成功，同时模型背后的指导训练方式——指示学习（Instruction Learning）和人工反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）也引起了广泛的关注。

从技术角度来看，LLM发端于自然语言处理（Natural Language Processing，NLP）领域，以谷歌的BERT、OpenAI的GPT和百度文心大模型为代表，参数规模逐步提升至百亿、千亿、万亿，同时用于训练的数据量级也显著提升，带来了模型能力的提高。而无论从学术研究角度看，还是从工业应用角度来看，LLM都代表了NLP领域的一个技术飞跃，带来了整个领域研究范式的转换，预计LLM的使用也会越来越流行。

关于ChatGPT的上述回答是否合理留给读者自己来评判，欢迎在留言区评论。

数字罗塞塔计划公众号致力于作为中立的第三方客观公正地表达自己对于档案信息化领域的看法和观点。真理越辩越明，我们也衷心欢迎越来越多的人投身到档案数字资源管理和保存这一领域的研究中来并发表真知灼见，共同为人类文明的传承而努力奋斗！

关注我们 - 数字罗塞塔计划 -