基于强化学习的泛在操作系统内存布局优化框架OA
随着人机物三元融合时代的到来,泛在操作系统(Ubiquitous Operating System,UOS)对资源受限且负载多变的边缘节点内存管理提出了弹性与自适应的严苛要求。然而,现有的内存管理策略大多依赖预设的静态规则,难以感知运行时的动态负载特征,导致系统在面对突发性、多模态任务时,常出现严重的内存碎片化与实时响应性能下降,成为制约泛在计算能力落地的关键因素。针对上述挑战,本文提出一种基于深度强化学习的内存布局优化框架AIMO。该框架旨在通过“感知-决策-执行”的闭环机制,实现对内存资源的智能动态管理。首先,多维状态感知模块通过处理器性能监控单元(Performance Monitoring Unit,PMU)和内核插桩,实时捕捉硬件层指标(如缓存未命中率、介质损耗)、对象层行为(如访问频率、冷热度)以及系统层上下文(如内存碎片率、应用场景类型),并将其编码为高维状态向量。其次,强化学习智能决策模块将内存布局问题建模为马尔可夫决策过程(Markov Decision Process,MDP),利用近端策略优化(Proximal Policy Optimization,PPO)算法在线生成最优决策。为了兼顾嵌入式环境的资源约束,该模块采用了“离线预训练与轻量化在线微调”的策略,在保证决策确定性的同时大幅降低了计算开销。最后,策略执行模块通过在内核态设置轻量级钩子函数,实现了分配拦截、对象重定位、策略驱动的对象放置及主动碎片整理等机制,完成了对内存布局的闭环自适应控制。本文在OpenHarmony内核中实现了AIMO框架,并基于Raspberry Pi Zero 2W平台进行了实证评估。实验结果表明,与实时性能标杆TLSF相比,AIMO在维持同等水平最坏情况分配时间的同时,将大块内存分配失败率从3.4%显著降低至0.9%,最大可用连续空闲块从318 KB提升至476 KB,并使上层业务的预加载延迟减少了15.8%。此外,该框架表现出极高的轻量化特性,其决策模块的平均CPU占用率仅为1.9%,元数据存储开销相对于512 MB系统总内存占比不足0.001%。本研究证实了强化学习在操作系统内核内存管理中的有效性,为构建高效、自适应的泛在操作系统内核提供了新思路。
沙乐天;陈霄;郑红美;潘家晔;董建阔;肖甫
南京邮电大学计算机学院、软件学院、网络空间安全学院,江苏南京210023 江苏省物联网智能感知与计算重点实验室,江苏南京210023江苏省物联网智能感知与计算重点实验室,江苏南京210023 南京邮电大学教育科学与技术学院,江苏南京210023南京邮电大学计算机学院、软件学院、网络空间安全学院,江苏南京210023南京邮电大学计算机学院、软件学院、网络空间安全学院,江苏南京210023南京邮电大学计算机学院、软件学院、网络空间安全学院,江苏南京210023 江苏省物联网智能感知与计算重点实验室,江苏南京210023南京邮电大学计算机学院、软件学院、网络空间安全学院,江苏南京210023 江苏省物联网智能感知与计算重点实验室,江苏南京210023
信息技术与安全科学
人机物融合泛在操作系统深度强化学习内存布局性能优化
《电子学报》 2026 (4)
P.1626-1642,17
国家自然科学基金(No.62572255,No.62302238)江苏省2024前沿技术研发计划(No.BF2024071)。
评论