神經架構搜索(NAS)是費力的過程。與自動化NAS目標有關的先前工作主要是提高精度,但未考慮計算資源使用。本文提出資源有效的神經架構(RENA)的實施方式,這是使用強化學習的具有網絡嵌入的高效的資源受限NAS。RENA實施方式使用策略網絡處理網絡嵌入以生成新配置。本文還提出與圖像識別和關鍵詞檢測(KWS)問題有關的RENA實施方式的示例證明。在即使資源嚴重受限的情況下,RENA實施方式也可找到實現高性能的新型架構。對于CIFAR10數據集,測試的實施方式在計算強度大于100FLOP/byte時具有2.95%的測試誤差,并且在模型大小小于3M參數時具有3.87%的測試誤差。對于谷歌語音命令數據集,測試后的RENA實施方式實現了在無資源約束的情況下的最先進精度,并在資源嚴重受限的情況下優于優化的架構。
聲明:
“資源有效的神經架構” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)