基于LoRA微调的煤矿建设工程质量监督智能体研究
DOI: https://doi.org/10.64083/STE2511225
作者
刘保东，冯会超
摘要
在煤矿迈向智能化转型的大背景之下，本文提出了一种基于LoRA（Low-Rank Adaptation）的大模型微调方式，其目的在于满足新版《煤炭建设工程质量监督规范》（NB/T11552-2024）所提出的智能化监管方面的种种需求。在相关研究当中，借助参数高效微调技术，同时将QLoRA量化以及Unsloth优化框架相互结合起来，如此一来，实现了模型显存需求大幅降低的效果，从原本的80GB降低到了24GB，降低幅度达到了67%，而且推理速度也有了明显提升，提升幅度为40%。经过相关实验可以发现，经过微调之后的智能体在诸如工程质量判定方面以及风险预警等各项任务当中，其准确率能够达到95%以上。
关键词
煤矿建设工程；质量监督；大模型应用；LoRA微调；人工智能
