基于Memcached缓存的大语言模型的电力工作票风险预警快速响应方法OA
传统电力工作票风险评估依赖人工判断,易出现风险识别遗漏、评估效率低下等问题。为降低电力作业安全事故风险,构建精准、高效的大语言模型风险预警系统尤为必要。针对大语言模型在电力工作票风险预警中存在的响应速度慢、高并发请求处理能力不足的挑战,提出了一种基于分布式内存对象缓存(Memcached)的匹配缓存方案,以优化电力工作票风险预警的运行速度。该方法在服务器端维护高频响应结果缓存,并结合Simhash和余弦相似性算法进行优化,以高效匹配和过滤缓存中的预测结果,从而快速响应用户请求。研究结果表明,该方法能够显著提高电力工作票风险预警的运行速度,有效解决高并发处理的难题,在电力运维领域具有重要的应用价值。
郭凯;程博;石佳;程磊
内蒙古电力(集团)有限责任公司内蒙古电力科学研究院分公司,呼和浩特010020内蒙古电力(集团)有限责任公司数字研究分公司,呼和浩特010010内蒙古电力集团电网储能有限责任公司,呼和浩特010020内蒙古电力(集团)有限责任公司呼和浩特供电分公司,呼和浩特010020
信息技术与安全科学
电力工作票大语言模型分布式内存对象缓存风险预警余弦相似性算法高并发响应
《内蒙古电力技术》 2026 (1)
P.61-67,7
内蒙古电力(集团)有限责任公司科技项目“人工智能自学习风险预判算法在现场安全管控中的关键技术研究与应用”(2023-5-33)。
评论