基于PCDARTS改进的神经网络架构搜索算法

作者:赵加坤; 刘云辉; 孙俊
更新时间:

神经网络结构搜索主要解决人工设计神经网络困难的问题。该算法的研究在自动机器学习领域具有深远的意义。搜索算法的主要流程包括搜索空间设计、搜索策略设计和网络评估。在搜索空间上,采用通道随机重排技术和上下文信息融合技术进行有效的特征提取。同时,在搜索策略方面,针对联合搜索优化的困难性和耗时性,设计了一种改进的网络归约单元,只搜索普通单元。结果表明,该网络的搜索效率提高了,搜索时间减少了约31%,对cifar10数据集和tiny Imagenet数据集的验证精度分别提高了0.21%和2.26%。