现有的神经架构搜索方法无法直观地将网络模型与候选模块以及模型识别准确率之间的关系展示出来;同时很多NAS方法可扩展性差,无法将其搜索策略扩展至任意搜索空间。针对上述挑战,提出了一种可视化模块贡献神经架构搜索方法。提出了模块贡献这个概念,并通过分析贡献计算过程的窘境给出了任意搜索空间下的统一采样原则,利用统一的贡献度指导原则给出了不同搜索空间的贡献度计算策略。针对特定的约束条件通过动态网络规划算法生成神经网络体系结构。大量的实验结果表明该算法在任意搜索空间中的有效性。使用CIFAR-10、CIFAR-100和ImageNet16-120数据集在NAS-Bench-201基准测试上平均准确率达到了93.33%、71.07%、42.69%。
张睿;李吉;柴艳峰;
太原科技大学计算机科学与技术学院,太原030024
计算机与自动化
神经架构搜索;动态网络规划;可视化模块贡献;链式搜索空间;cell-based搜索空间
《计算机工程与应用》 2024 (012)
P.118-128 / 11
教育部人文社会科学研究项目(23YJCZH299);山西省基础研究计划项目(20210302123216);山西省研究生教育创新项目(2021Y699);太原科技大学研究生联合培养示范基地项目(JD2022004);山西机械产品质量监督检验站有限责任公司委托项目(2021063);太原科技大学研究生教育创新项目(SY2022064)。
10.3778/j.issn.1002-8331.2303-0046
评论