专利查询
首页
专利评估
登录
注册
当前位置:
首页
>
专利查询
>
复旦大学
>
基于FPGA的硬件感知可微分BERT层头剪枝方法技术
>技术资料下载
下载基于FPGA的硬件感知可微分BERT层头剪枝方法的技术资料
文档序号:36194320
温馨提示:您尚未登录,请点
登陆
后下载,如果您还没有账户请点
注册
,登陆完成后,请刷新本页查看技术详细信息。
本发明公开了一种基于FPGA的硬件感知可微分BERT层头剪枝方法。其包括以下步骤:引入可微分NAS的思路,为预训练好的BERT模型的每一个编码层,每一个注意力头,每一个前馈神经网络FFN维度均设置一个架构参数;对单层BERT模型进行仿真,得...
该专利属于复旦大学所有,仅供学习研究参考,未经过复旦大学授权不得商用。
详细技术文档下载地址
温馨提示:您尚未登录,请点
登陆
后下载,如果您还没有账户请点
注册
,登陆完成后,请刷新本页查看技术详细信息。