分类：Pytorc显存分配规律

2020
11-17

详解Pytorch显存动态分配规律探索

下面通过实验来探索Pytorch分配显存的方式。实验显存到主存我使用VSCode的jupyter来进行实验，首先只导入pytorch，代码如下：importtorch打开任务管理器查看主存与显存情况。情况分别如下：在显存中创建1GB的张量，赋值给a，代码如下：a=torch.zeros([256,1024,1024],device='cpu')查看主存与显存情况：可以看到主存与显存都变大了，而且显存不止变大了1G，多出来的内存是pytorch运行所需的一些配置变... 继续阅读 >