在工程软件系 Flyship 项目框架下,大模型组围绕“国产化环境下大模型的本地部署与工程化应用”这一核心问题,系统开展了相关技术实践与应用探索。项目聚焦工程领域对数据安全、自主可控与智能化应用的现实需求,从基础运行环境搭建出发,逐步拓展至工程知识管理与应用系统开发,致力于形成一套具有工程可实施性的本地大模型应用方案。
在基础环境与推理平台建设方面,项目组首先从操作系统层入手,完成了国产操作系统 Deepin 的安装与配置,并在此基础上实现了 DeepSeek-R1 推理模型的本地化部署。围绕国产操作系统环境下的大模型运行需求,团队系统解决了软件兼容性适配、依赖环境构建、模型运行配置与稳定性保障等关键问题,成功搭建了一套完整、可运行、可扩展的本地大模型推理平台,为后续工程化应用开发提供了稳定、可控的运行基础。
在工程领域知识管理与智能应用方面,项目组进一步引入开源轻量级知识检索增强框架 LightRAG,构建了面向工程场景的本地知识库系统。通过合理配置大语言模型与词嵌入模型,实现了工程文档的上传管理、向量化处理与语义检索,使用户能够在本地环境中以自然语言方式对私有工程资料进行智能问答。相较于传统 RAG 方法,该框架通过引入图结构建模与增量更新机制,有效增强了对工程实体之间复杂语义关系的表达能力,并在此基础上构建了工程领域知识图谱,实现工程知识的结构化组织与高效调用。


在应用系统层面,项目组将轻量级知识检索增强技术与实际系统开发相结合,独立设计并实现了一个集成大模型能力的博客系统。该系统在具备博客发布、浏览、点赞与收藏等基础功能的同时,引入智能化知识管理机制,支持用户将特定博客内容纳入个人文档库,并通过与大模型对话的方式进行语义检索与内容理解。该实践有效改善了传统信息获取方式中检索效率低、知识复用率不足的问题,使用户能够在个人知识库中快速定位并整合有价值的信息,从而提升信息管理与知识利用效率。


总体来看,大模型项目组从系统层面验证了大模型在国产操作系统环境下实现本地部署与稳定运行的可行性,并通过引入轻量级知识检索增强技术,探索了大模型在工程知识管理与应用系统中的落地模式。相关成果为工程软件与智能应用方向中大模型的自主可控部署、工程知识组织与智能化服务提供了具有参考价值的实践经验,也为 Flyship 项目在智能工程领域的持续开展奠定了良好基础。
【作者:赵博文】