授权公布号:CN113469324B
模型动态量化方法、装置、电子设备和计算机可读介质
有效
申请
2021-03-23
申请公布
2021-10-01
授权
2024-03-22
预估到期
2041-03-23
| 申请号 | CN202110309880.0 |
| 申请日 | 2021-03-23 |
| 申请公布号 | CN113469324A |
| 申请公布日 | 2021-10-01 |
| 授权公布号 | CN113469324B |
| 授权公告日 | 2024-03-22 |
| 分类号 | G06N3/0495;G06N3/0464;G06N3/08;G06V40/16;G06V10/82 |
| 分类 | 计算;推算;计数; |
| 申请人名称 | 中科创达软件股份有限公司 |
| 申请人地址 | 北京市海淀区清华东路9号创达大厦1层101-105室(东升地区) |
专利法律状态
2024-03-22
授权
状态信息
授权
2021-10-26
实质审查的生效
状态信息
实质审查的生效;IPC(主分类):G06N3/04;申请日:20210323
2021-10-01
公布
状态信息
公布
摘要
本申请实施例公开了模型动态量化方法、装置、电子设备和计算机可读介质。该方法的实施例包括:在利用量化模型执行前向传播任务的过程中,响应于满足第一预设条件,将量化模型切换为对应的原始模型,以利用原始模型执行后续的前向传播任务;统计原始模型所涉及的各张量在原始模型执行前向传播任务期间的数值范围;响应于满足第二预设条件,基于数值范围更新量化模型,并将原始模型切换为更新后的量化模型,以利用更新后的量化模型执行后续的前向传播任务。该实施方式能够在前向传播过程中使量化模型动态更新以实现量化模型的自校准,降低了人力成本,同时提高了量化模型的精度。


