本發明提供一種自動混合精度量化方法及裝置,其中,所述方法包括:獲取多輸入多輸出MIMO檢測器在對MIMO系統進行信號檢測的過程中產生的待量化的中間變量;通過深度強化學習算法對智能體進行訓練,并基于訓練好的所述智能體中存儲的策略對每個所述中間變量的小數位寬進行量化;基于概率密度函數,對每個所述中間變量的整數位寬進行量化。本發明可以自動實現MIMO檢測器中不同中間變量的量化位寬的分配,避免了大量的量化位寬冗余,節省硬件資源。
聲明:
“自動混合精度量化方法及裝置” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)