全国首个古籍大语言模型发布:智能作诗、精确翻译、自动标点…

来源:观察者网

2023-12-13 09:03

据南京农业大学网站消息,12月2日,该校信息管理科学系王东波教授研究团队在北京发布“荀子”古籍大语言模型。“荀子”古籍大语言模型是在国家社科基金重大项目“中国古代典籍跨语言知识库构建及应用研究”的支持下,联合中华书局古联公司推出的专门进行古籍处理与研究的智能工具。该模型包含《四库全书》在内的绝大多数传世古籍文献,拥有超过20亿字的大型语料库。

“荀子”古籍大语言模型以古籍智能化研究为目的,为古籍智能处理而设计,在推动我国古籍研究与保护工作创新发展、提高中华传统文化传承的效率与质量、实现大语言模型与古籍处理的深度融合上提供重要支撑。该模型作为开源公益研究成果已在GitHub、ModelScope等网站发布,用户可免费下载部署使用。

据介绍,王东波教授研究团队在南京农业大学高算力基础设施支持下,持续10年深耕古籍文献数字化研究,同时依托中华书局提供的应用场景,在古籍开源大语言模型上实现AI人工智能垂直细分领域的全国首创。

该开源模型包括两个部分:基座模型XunziALLM与对话模型XunziChat。

其模型亮点包括:智能标引,能够对古籍中的内容进行高质量主题标引,帮助研究人员快速了解文章主题;

信息抽取,能够自动从古籍中抽取关键信息,如人物、事件、地点等,大大节省了信息整理时间;

诗歌生成,能够根据给定的主题或关键词,自动生成符合语法规则和韵律要求的古诗,为诗词爱好者提供创作灵感;

高质量翻译,对于难以理解的古籍文献,能够进行精准的现代文翻译,帮助研究人员更好地理解原文含义;

阅读理解,能够对给出的古文文本进行分析解释,实现对古籍文本的自动阅读;

词法分析,可以完成古籍文本的自动分词和词性标注,有效提升研究效率;

自动标点,可以快速完成古籍文本的断句和标点,提升使用者对古籍文本的阅读体验。

此外,同时发布的基座模型,用户也可以根据自己的需求,使用本地的训练语料微调“荀子”基座模型,使其在古籍下游处理任务上取得更优越的处理性能。

责任编辑:范维
观察者APP,更好阅读体验

伊朗总统乘坐的直升机硬着陆,目前搜救中

沙利文见沙特王储,讨论美沙安全协议“半定稿”

美国享受中国廉价商品的时代要终结了?

内塔尼亚胡遭以战时内阁成员下“最后通牒”

“至少一代人不会把西欧视为合作伙伴”