【Github项目文档】DeepLearningTutorial项目说明
Deep Learning,Leaning deep,Have fun!
介绍
如果你是深度学习/卷积神经网络的初学者，且对图像分类、目标检测、分割等CV相关领域感兴趣，请继续
↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓
刚刚入门DL，CV，CNN？或者了解各种理论后仍不知从何下手 ？是不是对于各个网络模型的代码实现一脸懵逼？如果是，那么这个项目就是为你准备的。Talk is cheap,show me the code!本项目致力于图像分类网络(经典CNN)、目标检测、实例分割等一切CV相关领域的论文/网络解读 + 代码构建 + 模型训练(在1.和2.部分)；在第3.学习资源部分里分享深度学习，计算机视觉相关的文章、视频公开课、开源框架、项目和平台等和一切深度学习相关的优秀资源；第4部分是tensorflow和pytorch上的公开数据集
好东西要共享，Ideas worth spreading！项目不定期更新。
目录如下：
1.图像分类Image Classification
| 项目✓ | 论文✓ | 网络✓ | 模型训练✓ |
|---|---|---|---|
| LeNet | 1998 论文解读 | LeNet.py | train_lenet.py |
| AlexNet | 2012-PDF 论文解读 | AlexNet.py | train_alexnet.py |
| Network in Network | 2013-PDF 论文解读 | NetworkInNetwork.py | train_nin.py |
| VGG | 2014-PDF 论文解读 | VGG.py | train_vgg.py |
| GoogLeNet | 2014-PDF 论文解读 | GoogLeNet.py | train_googlenet.py |
| ResNet | 2015-PDF 论文解读 | ResNet.py | train_resnet.py |
| DenseNet | 2016-PDF 论文解读 | DenseNet.py | train_densenet.py |
| ShuffleNet | 2017-PDF 论文解读 | shuffleNet.py | ✗ |
| ShuffleNetV2 | 2018-PDF 论文解读 | ShuffleNetV2.py | ✗ |
| MobileNet | V1 V2 V3 论文解读 | MobileNetV3.py | train_mobilenet.py |
2.目标检测Object Detection
2.1 One-stage
| 项目 | 论文 | 网络 | 模型训练 |
|---|---|---|---|
| YoloV1 | CVPR'16 论文解读 | ☐ | 官方-darknet tensorflow |
| SSD | ECCV'16 论文解读 | ☐ | 官方-caffe tensorflow pytorch |
| YoloV2 | CVPR'17 论文解读 | ☐ | 官方-darknet tf tf pytorch |
| RetinaNet | ICCV'17 论文解读 | ☐ | 官方-keras |
| YoloV3 | arXiV'18 论文翻译 | ☐ | 官方-darknet tf tf2.0 pytorch |
| NAS-FPN | CVPR'19 论文解读 | ☐ | ☐ |
| EfficientNet | arXiV'19 论文解读 | ☐ | 官方-tensorflow |
2.2 Two-stage
| 项目 | 论文 | 网络 | 模型训练 |
|---|---|---|---|
| R-CNN | CVPR'14 论文解读+翻译 | ☐ | 官方-caffe |
| Fast R-CNN | ICCV'15 解读1 解读2 | ☐ | 官方-caffe tensorflow |
| Faster R-CNN | NIPS'15 解读1 解读2 | ☐ | 官方-caffe tensorflow pytorch |
| FPN | CVPR'17 解读1 解读2 | ☐ | caffe |
| Mask R-CNN | ICCV'17 解读1 解读2 | ☐ | 官方-caffe2 tf tf pytorch |
| ThunderNet | ICCV'19 论文解读 | ☐ | ☐ |
2.3 资源分享
2.3.1 知乎
- 基于深度学习的目标检测算法综述（一）
- 基于深度学习的目标检测算法综述（二）
- 基于深度学习的目标检测算法综述（三）
- 干货 | 目标检测入门，看这篇就够了（已更完）
- 51 个深度学习目标检测模型汇总，论文、源码一应俱全！
- two/one-stage,anchor-based/free目标检测发展及总结：一文了解目标检测
2.3.2 论文
【论文合集】
- 目标检测相关论文deep_learning_object_detection
- 目标检测发展、论文综述
- 干货 | 目标检测入门，看这篇就够了（已更完）
- awesome-object-detection
- 【目标检测论文解读】ObjectDetection—R-CNN
- 【目标检测论文解读】ObjectDetection—Fast R-CNN
- 【目标检测论文解读】ObjectDetection—Faster R-CNN
- 【目标检测论文解读】ObjectDetection—YoloV3论文+代码+资源合集
【发展综述】
- Object Detection in 20 Years: A Survey
- A Survey of Deep Learning-based Object Detection
- Imbalance Problems in Object Detection: A Review
- Recent Advances in Deep Learning for Object Detection
- 《Deep Learning for Generic Object Detection: A Survey》
- 《Recent Advances in Object Detection in the Age of Deep Convolutional Neural Networks》
2.3.3 代码实战
目标检测ObjectDetection
- 【github】Detectron2——facebook开源目标检测框架
- 【github】mmdetection——商汤科技+香港中文大学开源目标检测框架
- 【github】TensorFlow2.0-Examples
- 【github】awesome-object-detection
- 【目标检测实战】Darknet—yolov3模型训练（VOC数据集)
- 【目标检测实战】Pytorch—SSD模型训练（VOC数据集）
3.学习资源
3.1 机器学习
3.1.1 入门概念
3.1.2 公开课
- 加州理工学院Learning from data(费曼奖得主Yaser Abu-Mostafa教授)
- 谷歌 Google 制作的节奏紧凑、内容实用的机器学习简介课程
- 林軒田[機器學習基石]Machine Learning Foundations——哔哩哔哩
网易
吴恩达机器学习
网易杭州研究院
Google Brain 和百度大脑的发起人、Coursera 创始人吴恩达（Andrew Ng）亲授，在全球有百万选课量，主要讲述人工智能中基础的机...查看详情
中文教学的优质课程加上贴近生活的案例，你将在学习AI的道路上跑得更快！
李宏毅机器学习中文课程
网易云课堂IT互联网
来自台湾大学李宏毅老师的课程，以精灵宝可梦作为课程案例，生动地为你讲解机器学习。同时，他还设计了六项作业和一项期末项目，...查看详情
机器学习及其深层与结构化
网易云课堂IT互联网
台湾大学李宏毅老师在《机器学习》基础上提供的《机器学习及其深度与结构化》课程，为你深入解析深度学习与结构学习。查看详情
李宏毅线性代数中文课程
网易云课堂IT互联网
来自台湾大学李宏毅老师的课程，专为对人工智能感兴趣，但是数学基础薄弱的同学设计，让你深刻理解数学概念，学会在人工智能应用...查看详情
机器学习前沿技术
网易云课堂IT互联网
机器学习的下一步是什么？机器能不能知道“我不知道”、“我为什么知道”，机器的错觉，终身学习
查看详情
3.1.3 学习资源
【书】
【知乎】
- 机器学习科研的十年
- 机器学习最好的课程是什么？
- 吴恩达机器学习笔记整理
- 第一周单变量线性回归和损失函数、梯度下降的概念
- 第二周多变量线性回归和特征缩放、学习率
- 第三周分类问题逻辑回归和过拟合、正则化
- 第四周神经元、神经网络和前向传播算法
- 第五周神经网络、反向传播算法和随机初始化
- 第六周应用机器学习的建议和系统设计
- 第七周支持向量机SVM和核函数
- 第八周聚类K-Means算法、降维和主成分分析
- 第九周异常检测和高斯分布、推荐系统和协同过滤
- 第十周大规模机器学习和随机梯度下降算法
- 【机器学习理论】—mAP 查全率 查准率 IoU ROC PR曲线 F1值
- SVM教程：支持向量机的直观理解
- 支持向量机(SVM)是什么意思？
【Github】
3.1.4 竞赛平台
3.2 深度学习
3.2.1 入门概念
- 深度学习如何入门？
- 有哪些优秀的深度学习入门书籍？需要先学习机器学习吗？
- CNN（卷积神经网络）是什么？有何入门简介或文章吗？
- 从应用的角度来看，深度学习怎样快速入门？
- 普通程序员如何正确学习人工智能方向的知识？
- 有哪些优秀的深度学习入门书籍？需要先学习机器学习吗？
- 给妹纸的深度学习教学(0)——从这里出发
【梯度下降、深度神经网络、反向传播】
- 【深度学习理论】一文搞透梯度下降Gradient descent
- 【深度学习理论】纯公式手推+代码撸——神经网络的反向传播+梯度下降
- 【深度学习理论】一文搞透pytorch中的tensor、autograd、反向传播和计算图
- 神经网络为什么可以（理论上）拟合任何函数？
- 道理我都懂，但是神经网络反向传播时的梯度到底怎么求？
3.2.2 视频公开课
3Blue1Brown
- 【S301】But what is a Neural Network 什么是神经网络？
- 【S302】Gradient descent, how neural networks learn 梯度下降，神经网络如何学习
- 【S303】What is backpropagation really doing 反向传播是如何起作用的
- 【S304】Backpropagation calculus 反向传播公式推导
斯坦福
Coursera
李宏毅
官方主页：Hung-yi Lee
- YouTube Channel teaching Deep Learning and Machine Learning (link)
- 李宏毅深度学习(2016)—哔哩哔哩
- 李宏毅深度学习(2017)—哔哩哔哩
- Tutorial for Generative Adversarial Network (GAN)(slideshare,pdf,ppt)
- Tutorial for General Deep Learning Technology(slideshare,pdf,ppt)
网易
Hinton机器学习与神经网络中文课
AI研习社
多伦多大学教授 Geoffrey Hinton，众所周知的神经网络发明者，亲自为你讲解机器学习与神经网络相关课程。查看详情
牛津大学xDeepMind 自然语言处理
大数据文摘
由牛津大学人工智能实验室，与创造了 AlphaGo 传奇的谷歌 DeepMind 部门合作的课程，主要讲述利用深度学习实现自然语言处理（NLP...查看详情
MIT6.S094深度学习与自动驾驶
大数据文摘
由麻省理工大学（MIT）推出的自动驾驶课程 6.S094 ，主要讲述自动驾驶技术，提供在线项目的实践环境，可直接修改官方网站代码，...查看详情
3.2.3 学习资源
书PDF
《Dive Into DeepLearning》动手学深度学习 Pytorch版 Tensorflow2.0版
麻省理工学院出版社《Deep Learning》
《Neural Networks and Deep Learning》
中文版：https://tigerneil.gitbooks.io/neural-networks-and-deep-learning-zh/content/
卷积神经网络CNN
- 能否对卷积神经网络工作原理做一个直观的解释？
- CNN 入门讲解专栏阅读顺序以及论文研读视频集合
- CNN系列模型发展简述（附github代码——已全部跑通）
- 【论文解读+代码实战】CNN深度卷积神经网络-AlexNet
- 【论文解读+代码实战】CNN深度卷积神经网络-VGG
- 【论文解读+代码实战】CNN深度卷积神经网络-Network in Network
- 【论文解读+代码实战】CNN深度卷积神经网络-GoogLeNet
- 【论文解读+代码实战】CNN深度卷积神经网络-ResNet
- 【论文解读+代码实战】CNN深度卷积神经网络-DenseNet
3.2.4 开源工具
深度学习框架
Tensorflow入门
- Tensorflow官方Tutorials
- 动手学深度学习-Tensorflow2.0版
- 在线pdf:《简单粗暴 TensorFlow 2》
- 【github】TensorFlow-Course
- 【github】TensorFlow2.0-Examples
- 【github】eat_tensorflow2_in_30_days
Pytorch入门
支撑工具
- Cuda下载——GPU通用计算框架
- Cudnn下载——GPU加速库
- Nvidia Driver下载——Nvidia显卡驱动
- Nvidia TensorRT下载——Nvidia高性能深度学习推理加深SDK
- Anaconda——虚拟编程环境管理
标注软件
模型可视化
性能优化和部署
- 【github】torch2trt——易于使用的PyTorch到TensorRT转换器
- 【github】ncnn——腾讯出品的针对移动平台优化的高性能神经网络推理框架
- 【github】onnx——跨框架机器学习互操作性的开放标准
- 【github】tensorrt——一个C ++库，用于在NVIDIA GPU和深度学习加速器上进行高性能推理。
其他资源
- FFmpeg——有关视频、图片处理的一切
- Spleeter——用深度学习分离音乐中的各个音轨，伴奏提取
- GAN人脸生成——用StyleGAN换脸
- faceswap——GAN视频换脸
- DeepFaceLab——基于faceswap的换脸软件
3.3 计算机视觉
3.3.1 入门概念
3.3.2 公开课
网易
CS231n计算机视觉课程
大数据文摘
谷歌 AI 中国的负责人、斯坦福大学副教授李飞飞（Fei-Fei L）亲授的 CS231n 课程，每年选课量都爆满的斯坦福王牌课程，主要讲述...查看详情
3.3.3 学习资源
理论
- OpenCV官网 https://opencv.org/
- 学习网站 https://www.learnopencv.com/
代码实战
- 【github】OpenCV官方Demo
- 【CV实战】OpenCV—Hello world代码示例
- 【CV实战】Ubuntu18.04源码编译安装opencv-3.4.X+测试demo
- 【github】「画像処理100本ノック」中文版本！为图像处理初学者设计的 100 个问题)
4.公开数据集
4.1 Pytorch提供
- MNIST
- Fashion-MNIST
- KMNIST
- EMNIST
- QMNIST
- FakeData
- COCO
- LSUN
- ImageFolder
- DatasetFolder
- ImageNet
- CIFAR
- STL10
- SVHN
- PhotoTour
- SBU
- Flickr
- VOC
- Cityscapes
- SBD
- USPS
- Kinetics-400
- HMDB51
- UCF101
-
- Language Modeling
- Sentiment Analysis
- Text Classification
- Question Classification
- Entailment
- Language Modeling
- Machine Translation
- Sequence Tagging
- Question Answering
- Unsupervised Learning
4.2 Tensorflow提供
- Audio
- Image
- abstract_reasoning
- aflw2k3d
- arc
- beans
- bigearthnet
- binarized_mnist
- binary_alpha_digits
- caltech101
- caltech_birds2010
- caltech_birds2011
- cars196
- cassava
- cats_vs_dogs
- celeb_a
- celeb_a_hq
- cifar10
- cifar100
- cifar10_1
- cifar10_corrupted
- citrus_leaves
- cityscapes
- clevr
- cmaterdb
- coil100
- colorectal_histology
- colorectal_histology_large
- curated_breast_imaging_ddsm
- cycle_gan
- deep_weeds
- diabetic_retinopathy_detection
- div2k
- dmlab
- downsampled_imagenet
- dsprites
- dtd
- duke_ultrasound
- emnist
- eurosat
- fashion_mnist
- flic
- food101
- geirhos_conflict_stimuli
- horses_or_humans
- i_naturalist2017
- image_label_folder
- imagenet2012
- imagenet2012_corrupted
- imagenet_resized
- imagenette
- imagewang
- kmnist
- lfw
- lost_and_found
- lsun
- malaria
- mnist
- mnist_corrupted
- omniglot
- oxford_flowers102
- oxford_iiit_pet
- patch_camelyon
- pet_finder
- places365_small
- plant_leaves
- plant_village
- plantae_k
- quickdraw_bitmap
- resisc45
- rock_paper_scissors
- scene_parse150
- shapes3d
- smallnorb
- so2sat
- stanford_dogs
- stanford_online_products
- sun397
- svhn_cropped
- tf_flowers
- the300w_lp
- uc_merced
- vgg_face2
- visual_domain_decathlon
- Object_detection
- Structured
- Summarization
- Text
- c4
- cfq
- civil_comments
- cos_e
- definite_pronoun_resolution
- eraser_multi_rc
- esnli
- gap
- glue
- imdb_reviews
- librispeech_lm
- lm1b
- math_dataset
- movie_rationales
- multi_nli
- multi_nli_mismatch
- natural_questions
- qa4mre
- scan
- scicite
- snli
- squad
- super_glue
- tiny_shakespeare
- trivia_qa
- wikipedia
- xnli
- yelp_polarity_reviews
- Translate
- Video