一種結(jié)構(gòu)范數(shù)正則化的可微神經(jīng)結(jié)構(gòu)搜索算法

摘要： 可微神經(jīng)結(jié)構(gòu)搜索(differentiable neural architecture search, DNAS)作為近年來(lái)神經(jīng)結(jié)構(gòu)搜索的主流方法之一,通過(guò)結(jié)合基于梯度優(yōu)化的搜索策略能夠有效地搜索網(wǎng)絡(luò)結(jié)構(gòu).然而,存在結(jié)構(gòu)搜索穩(wěn)定性差和模型復(fù)雜度高的問(wèn)題.為了解決這兩個(gè)問(wèn)題,本文提出了一種結(jié)構(gòu)范數(shù)正則化的可微神經(jīng)結(jié)構(gòu)搜索算法,提高了結(jié)構(gòu)搜索的穩(wěn)定性;設(shè)計(jì)了一種冗余邊剪枝算法修剪網(wǎng)...