分类：Pytorch网络部分层不更新

2022
05-30

Pytorch实现网络部分层的固定不进行回传更新问题及思路详解

目录实际问题问题解决思路代码实现LAST参考文献实际问题Pytorch有的时候需要对一些层的参数进行固定，这些层不进行参数的梯度更新问题解决思路那么从理论上来说就有两种办法优化器初始化的时候不包含这些不想被更新的参数，这样他们会进行梯度回传，但是不会被更新将这些不会被更新的参数梯度归零，或者不计算它们的梯度思路就是利用tensor的requires_grad，每一个tensor都有自己的requires_grad成员，值只能为True和Fals... 继续阅读 >