Title | 一种混合精度神经网络的可微分搜索方法和装置 |
Author | |
First Inventor | 常成
|
Original applicant | 南方科技大学
|
First applicant | 南方科技大学
|
Address of First applicant | 518055 广东省深圳市南山区西丽学苑大道1088号
|
Current applicant | 南方科技大学
|
Address of Current applicant | 518055 广东省深圳市南山区西丽学苑大道1088号 (广东,深圳,南山区)
|
First Current Applicant | 南方科技大学
|
Address of First Current Applicant | 518055 广东省深圳市南山区西丽学苑大道1088号 (广东,深圳,南山区)
|
Application Number | CN202011249481.1
|
Application Date | 2020-11-10
|
Open (Notice) Number | CN112364981B
|
Date Available | 2022-11-22
|
Publication Years | 2022-11-22
|
Status of Patent | 授权
|
Legal Date | 2022-11-22
|
Subtype | 授权发明
|
SUSTech Authorship | First
|
Abstract | 本发明公开了一种混合精度神经网络的可微分搜索方法和装置。所述方法包括:获取初始化超网络;所述超网络包括多个子网络,且每个子网络携带有超参数;基于可微分搜索方法对所述超参数进行更新,获得第一超网络;对所述第一超网络所包含的子网络进行硬件性能评估,根据评估结果更新所述第一超网络的超参数,获得第二超网络;判断是否满足更新终止条件,若满足,则将所述第二超网络确定为目标神经网络;否则,返回执行基于可微分搜索方法对所述超参数进行更新,获得第一超网络的操作。利用该方法,能够进行自动的模型量化,且可以针对特定硬件平台进行搜索构建神经网络。 |
Other Abstract | 本发明公开了一种混合精度神经网络的可微分搜索方法和装置。所述方法包括:获取初始化超网络;所述超网络包括多个子网络,且每个子网络携带有超参数;基于可微分搜索方法对所述超参数进行更新,获得第一超网络;对所述第一超网络所包含的子网络进行硬件性能评估,根据评估结果更新所述第一超网络的超参数,获得第二超网络;判断是否满足更新终止条件,若满足,则将所述第二超网络确定为目标神经网络;否则,返回执行基于可微分搜索方法对所述超参数进行更新,获得第一超网络的操作。利用该方法,能够进行自动的模型量化,且可以针对特定硬件平台进行搜索构建神经网络。 |
CPC Classification Number | G06N3/08
; G06N3/045
|
IPC Classification Number | G06N3/04
; G06N3/08
|
INPADOC Legal Status | (+PATENT GRANT)[2022-11-22][CN]
|
INPADOC Patent Family Count | 1
|
Extended Patent Family Count | 1
|
Priority date | 2020-11-10
|
Patent Agent | 潘登
|
Agency | 北京品源专利代理有限公司
|
URL | [Source Record] |
Data Source | PatSnap
|
Document Type | Patent |
Identifier | http://kc.sustech.edu.cn/handle/2SGJ60CL/428043 |
Department | Preparatory Office of SUSTech Institute of Microelectronics, SUSTech and HKUST 理学院_地球与空间科学系 工学院_深港微电子学院 |
Recommended Citation GB/T 7714 |
常成,朱雪娟,余浩,等. 一种混合精度神经网络的可微分搜索方法和装置[P]. 2022-11-22.
|
Files in This Item: | There are no files associated with this item. |
|
Items in the repository are protected by copyright, with all rights reserved, unless otherwise indicated.
Edit Comment