酒类网站建设策划书,购物商城系统,网站建设层级图,女生学ui设计好就业吗2019 年第 48 篇文章#xff0c;总第 72 篇文章本文大约 1500 字#xff0c;阅读大约需要 4 分钟今天主要分享两份 Github 项目#xff0c;都是采用 PyTorch 来实现深度学习网络模型#xff0c;主要是一些常用的模型#xff0c;包括如 ResNet、DenseNet、ResNext、SENet等… 2019 年第 48 篇文章总第 72 篇文章本文大约 1500 字阅读大约需要 4 分钟今天主要分享两份 Github 项目都是采用 PyTorch 来实现深度学习网络模型主要是一些常用的模型包括如 ResNet、DenseNet、ResNext、SENet等并且也给出相应的实验结果包含完整的数据处理和载入、模型建立、训练流程搭建以及测试代码的实现。接下来就开始介绍这两个项目。1. PyTorch Image Classification这份代码目前有 200 星主要实现以下的网络在 MNIST、CIFAR10、FashionMNIST等数据集上进行实验。使用方法如下然后就是给出作者自己训练的实验结果然后和原论文的实验结果的对比包括在训练设置上的区别然后训练的迭代次数和训练时间也都分别给出。之后作者还研究了残差单元、学习率策略以及数据增强对分类性能的影响比如类似金字塔网络的残差单元设计(PyramidNet-like residual units)cosine 函数的学习率递减策略(Cosine annealing of learning rate)Cutout随机消除(Random Erasing)Mixup降采样后的预激活捷径(Preactivation of shortcuts after downsampling)实验结果表明类似金字塔网络的残差单元设计有帮助但不适宜搭配 Preactivation of shortcuts after downsampling基于 cosine 的学习率递减策略提升幅度较小Cutout、随机消除以及 Mixup 效果都很好其中 Mixup 需要的训练次数更多除了这个实验后面作者还继续做了好几个实验包括对 batch 大小、初始学习率大小、标签平滑等方面做了不少实验并给出对应的实验结果。最后给出了这些网络模型的论文、不同训练策略的论文。这个项目除了实现对应的网络模型外使用不同技巧或者研究基本的 batch 大小、初始学习率都是可以给予我们一定启发有些技巧是可以应用到网络中提高分类性能的。链接https://github.com/hysts/pytorch_image_classification2. PyTorch Image Models这份代码目前有 600 星并且最近几天也有更新实现的网络更多包括 DPN、Xception、InceptionResNetV2,以及最近比较火的 EfficientNet。)这个项目有以下几个特点对所有的模型都做了封装也就是都有默认的配置接口和 API包括统一的调用分类器接口get_classifier、reset_classifier对特征的前向计算接口forward_features模型都有一致的预训练模型加载器即可以决定是否采用预训练模型最后一层或者输入层是否需要从 3 通道变为 1通道训练脚本可以在不同模式下使用包括分布式、单机多卡、单机单卡或者单机 CPU动态实现池化层的操作包括平均池化(average pooling)、最大池化(max pooling)、平均最大、或者平均和最大池化结果连接而不是叠加不同训练策略的实现比如 cosine 学习率、随机消除、标签平滑等实现 Mixup提供一个预测脚本作者同样给出训练的实验结果然后还有使用方法同样也是在指定位置准备好数据就可以使用了。另外作者还给出 ToDo 列表会继续完善该项目。链接https://github.com/rwightman/pytorch-image-models最后祝大家端午安康欢迎关注我的微信公众号--算法猿的成长或者扫描下方的二维码大家一起交流学习和进步如果觉得不错在看、转发就是对小编的一个支持往期精彩推荐机器学习系列Github项目 资源教程推荐
