当前位置 博文首页 > 文章内容

    pytorch tensor int型除法出现的问题

    作者:21344 栏目:未分类 时间:2021-04-08 14:43:30

    昨天晚上跑起来一个classification实验,今天发现训练loss在降,然而accuracy永远是0 。。。直觉告诉我evaluation有问题

    然后发现自己写了个很愚蠢的bug

    accuracy对应的tensor出来是int型的,我用到了一个除法取平均。而pytorch里无论用 / or // 结果都是取整,,accuracy一直就没有。。

    所以转换成float就没问题了,,低级bug,下不为例

    补充:pytorch tensor division/除法

    除法的时候要注意数据类型的问题

    a = torch.div(torch.tensor([160, 110]), 0.137)

    jupyter notebook就会奔溃, 因为torch.tensor([160, 110])是torch.int64数据类型, 而0.137(或者说torch.tensor(0.137))是torch.float32类型.

    如果改成下面这样, 就会顺利运行

    a = torch.div(torch.tensor([160, 110]).float(), 0.137)

    以上为个人经验,希望能给大家一个参考,也希望大家多多支持IIS7站长之家博文。如有错误或未考虑完全的地方,望不吝赐教。