聊一聊深度学习中的调参技巧？

本期问题能否聊一聊深度学习中的调参技巧？我们主要从以下几个方面来讲.1. 深度学习中有哪些参数需要调？ 2. 深度学习在什么时候需要动用调参技巧？又如何调参？ 3. 训练网络的一般过程是什么？1. 深度学习有哪些需要们关注的参数呢？大家记住一点：需要用到调参技巧的参数都是超参数！！因此，这个问题还可以换成更专业一点：神经网络中有哪些超参数？主要从两个方面来看：和网络设计相关的参数：神经网络的网络层数、不同层的类别和搭建顺序、隐藏层神经元的参数设置、LOSS层的选择、正则化参数和训练过程相关的参数：网络权重初始化方法、学习率使用策略、迭代次数、小批量数据 minibatch的大小、输入数据相关2. 深度学习在什么时候需要动用调参技巧，以及如何进行调参呢？通常网络训练的结果一般表现为以下五种情况：过拟合、欠拟合、恰好拟合，趋于收敛但一直在震荡以及完全不收敛。关于过拟合、欠拟合和恰好拟和，在机器学习中的定义描述如下：（不知道的可以移步此博客：https://www.imooc.com

CUDA-cuDNN配置

ubuntu18.04 Install development and runtime libraries (~4GB) sudo apt-get install --no-install-recommends \ cuda-10-1 \ libcudnn7=7.6.4.38-1+cuda10.1 \ libcudnn7-dev=7.6.4.38-1+cuda10.1 # Install TensorRT. Requires that libcudnn7 is installed above. sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \ libnvinfer-dev=6.0.1-1+cuda10.1 \ libnvinfer-plugin6=6.0.1-1+cuda10.1 ubuntu16.04 Install dev

NVIDIA-显卡驱动安装-ubuntu18.04/ubuntu16.04

ubuntu16.04-CUDA9.0 sudo apt-key adv --fetch-keys http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub wget http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_9.1.85-1_amd64.deb sudo apt install ./cuda-repo-ubuntu1604_9.1.85-1_amd64.deb wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1

当女神使用git时遇到这些问题，你该如何做？

本文转载自知乎作者：GitHub Daily链接：https://www.zhihu.com/question/20866683/answer/711725573来源：知乎如有侵权，请联系本人，删除。之前看过一个特别有趣的网站 - Oh shit, git!这个网站上面整理了一些 Git 新手在使用 Git 时常会遇到的各种突发状况，并贴心的给出了应对方案。我大致瞄了一眼，文章里面提到的一些问题，大部分新手确实会经常遇到，我简单翻译了一下，希望对你有所帮助。注：为了使场景描述更加生动，因此加入了新手女神与高级舔狗两个角色来配合讲解女神：哎呀，刚刚有个地方搞错了，怎么重新来过呢？女神莫慌，Git 的牛逼之处，在于它自带时光机效果，能让你在项目的历史代码中任意穿梭。如果项目的某一处地方它自己不小心坏掉了，不妨试下下面的这行命令：$ git reflog这条命令能列出你在 Git 上的所有操作记录，你只要找到 HEAD@{index} 前面所对应的操作索引，并使用下面命令即可：$ g

做算法，如何进行文献整理和文献阅读？

没有长篇大论，只谈几点：经典文献要不要读，除了必要的，我反正是没读（很多经典的东西，相关的中文博客太多了，而且很多最新的文章也会在introduction或者其他部分介绍到）。文献检索的时间范围：近3-5年文献检索的地方：作为一个博士生，至少自己的这个方向有什么顶级的会议和期刊应该是了然于胸的，CV的会议和期刊主要是：CVPR、ECCV、ICCV、IJCAI、AAAI、ICML、ICLR、TPAMI、TCSVCT、TIP、TM等等，其他的基本不看。arxiv，有时间就看看，找一些大牛的文章，或者经过上面筛选发现文章数量少的有限，那可以考虑下，在找找。检索关键词，不要局限于特定的范围，我以前做ReID（那时候还是特征工程和优化理论的江山），顺便也会看一些多视角、核学习、稀疏表示、低秩等相关的文章作为借鉴。大牛文章？个人觉得没必要太在意，泛读更重要。读文章的时候，记得对文章做分类！刚入门的朋友可以先找几篇硕士博士论文看看了解下基本情况，在去找一些英文的review文章，搞清楚领域大概几类方法，在重点扫论文的时候

Python下的图像处理库，你要选哪个？

在进行数字图像处理时，我们经常需要对图像进行读取、保存、缩放、裁剪、旋转、颜色转换等基本操作。在使用python进行编程时，涉及到多个不同的图像处理库的选择，今天我们简单聊一聊这几个库：opencv、scikit-image、scipy、pillow、matplotlib等等（不包括深度学习：tf.image等）1. PIL(Python Imaging Library)PIL（Python Imaging Library）是Python常用的图像处理库，而Pillow是PIL的一个友好Fork，提供了了广泛的文件格式支持，强大的图像处理能力，主要包括图像储存、图像显示、格式转换以及基本的图像处理操作等。相比opencv更为轻巧。Image模块是在Python PIL图像处理中常见的模块，对图像进行基础操作的功能基本都包含于此模块内。如open、save、show等功能。2. scipy.miscpython在科学计算领域有三个非常受欢迎库，numpy、SciPy、matplotlib。numpy是一个高性

计算机视觉基础——数字图像与颜色空间

Hello，大家好。白话机器学习 新的一个专题又开始了。在本次专题中，我们呼应“白话”这个概念，为大家科普一些简单的计算机视觉的概念，帮助大家扫盲~~~今天我们首先聊一聊——数字图像与颜色空间。我们经常会说做算法其实也是在玩数学，很大的原因就是我们需要将想要分析的对象转化为数字，然后再对数字中存在的规律进行分析。而在计算视觉任务中，我们主要处理的对象就是图像数据。图像是指使用各种观测系统以不同形式和手段观测客观世界而获得的，可以直接或间接作用于人眼并进而产生视觉的实体。包括：1）各类图片，如普通照片、X光片、遥感图片；2）各类光学图像，如电影、电视画面；3）客观世界在人们心目中的有形想象以及外部描述，如绘画、绘图等。为了对图像数据进行更好的分析，我们会采用计算机来对其进行进一步的加工处理，也就是离散化、数字化，进而得到了数字图像。其中，图像中每个基本单元叫做图像的元素，简称像素（Pixel）。数字图像处理（Digital Image Processing）：是指应用计算机来合成、变换已有的数字图像

计算机视觉基础——数字图像与颜色空间

Hello，大家好。微信公众号：白话机器学习。新的一个专题又开始了。在本次专题中，我们呼应“白话”这个概念，为大家科普一些简单的计算机视觉的概念，帮助大家扫盲~~~今天我们首先聊一聊——数字图像与颜色空间。我们经常会说做算法其实也是在玩数学，很大的原因就是我们需要将想要分析的对象转化为数字，然后再对数字中存在的规律进行分析。而在计算视觉任务中，我们主要处理的对象就是图像数据。图像是指使用各种观测系统以不同形式和手段观测客观世界而获得的，可以直接或间接作用于人眼并进而产生视觉的实体。包括：1）各类图片，如普通照片、X光片、遥感图片；2）各类光学图像，如电影、电视画面；3）客观世界在人们心目中的有形想象以及外部描述，如绘画、绘图等。为了对图像数据进行更好的分析，我们会采用计算机来对其进行进一步的加工处理，也就是离散化、数字化，进而得到了数字图像。其中，图像中每个基本单元叫做图像的元素，简称像素（Pixel）。数字图像处理（Digital Image Processing）：是指应用计算机来合成、变换已有的数字图

文本检测与识别方法（含end to end）

2018 cvprAn end-to-end TextSpotter with Explicit Alignment and Attention https://github.com/tonghe90/textspotterLearning Markov Clustering Networks for Scene Text DetectionRotation-sensitive Regression for Oriented Scene Text DetectionEdit Probability for Scene Text RecognitionGeometry-Aware Scene Text Detection with Instance Transformation NetworkMulti-Oriented Scene Text Detection via Corner Localization and Region Segmentation2019 cvprESIR: End-to-

FaceNet源码解析

1. facenet:triplet-loss理解与train_tripletloss.py代码理解https://blog.csdn.net/ninesky110/article/details/84877114https://blog.csdn.net/liyuan123zhouhui/article/details/714277992. train_softmax.py代码注释https://blog.csdn.net/liyuan123zhouhui/article/details/69569562

ubuntu18.04 配置caffe-ssd

首先，大家如果想省事情，请直接换成ubuntu16.04，网上很多配置教程很好用。不然，有很多坑要填！gcc和g++版本用5.0以上版本python用原生的python，最好用python2gflags，下载源码安装opencv下载源码安装，参考我的另一篇博客：https://www.imooc.com/article/284786/usr/local/lib/libopencv_imgcodecs.so：对‘TIFFClose@LIBTIFF_4.0’ 未定义的引用 /usr/local/lib/libopencv_imgcodecs.so：对‘TIFFRGBAImageOK@LIBTIFF_4.0’ 未定义的引用 /usr/local/lib/libopencv_imgcodecs.so：对‘TIFFReadRGBAStrip@LIBTIFF_4.0’ 未定义的引用 collect2: error: ld returned 1 exit  st

ubuntu18.04 opencv编译

在ubuntu18.04下编译安装opencv采用老的方法cmake..make all发现会报错，不支持C++11后来发现，可以直接在release下编译安装：参考链接：https://blog.csdn.net/kevineeo/article/details/83242516 第一步：下载完成后对该文件进行解压，会得到一个opencv-3.4.0的文件夹，进入该文件夹，手动新建一个release的文件夹，然后进入到里面，打开一个终端。或者直接在opencv-3.4.0文件夹中打开一个终端，然后# 新建一个release的文件夹$ mkdir release# 进入到release文件夹中$ cd release第二步：cmake，进入到release文件夹后，在终端中输入如下命令，后面的-D CUDA_GENERATION=kepler 加上# 正常情况下使用如下cmake命令即可$ cmake -D CMAKE_BUILD_TYP

人脸智能小程序开发填坑笔记

记录下开发微信小程序时，遇到的一些坑：1. 微信小程序真机调试的时候，报错request:fail url not in domain listhttps://blog.csdn.net/qq_40421671/article/details/86650126 2. 图片缩放通过画布实现，要采用回调函数。const ctxx = wx.createCanvasContext('attendCanvasId'); ctxx.drawImage(tempImagePath, 0, 0, windowWidth, windowHeight * 0.5); ctxx.draw(false, wx.canvasToTempFilePath({     canvasId: 'attendCanvasId',   &nbs

人脸检测相关Paper&资源汇总

想要简单了解下人脸检测问题，推荐直接阅读Wider Face数据集评测的各个算法：了解如下：http://mmlab.ie.cuhk.edu.hk/projects/WIDERFace/WiderFace_Results.html更多的人脸文章，则可以扫一下里面的论文列表：文章内容转载自：https://zhuanlan.zhihu.com/p/38512246ACMMM2016_UnitBox：An Advanced Object Detection Network：arxiv2016_Face Detection with the Faster R-CNN：arxiv2016_xiaomi_Bootstrapping Face Detection with Hard Negative Examples：arxiv2017_Face Detection using Deep Learning：An Improved Faster RCNN Approach：arxiv2017_FAN_Face Atten

掌握人脸智能技术，我们可以做些什么？

智能人脸业务一直以来在工业届的落地水平都是很深的。甚至早在深度学习技术大热之前，很多依托人脸识别的产品就已经面世。而深度学习基础的发展，则将该项技术的准确度和精度，进一步推上了一个新的高度，而衍生出来的产品也越来越丰富掌握人脸智能技术，我们可以做些什么呢？在搞清楚这个问题之前，我们先来看看人脸智能有哪些点可以做？人脸检测人脸关键点人脸匹配人脸属性换脸以及人脸风格化等等人脸检测     人脸检测，Face Detection. 人脸检测问题最初来源于人脸识别（Face Recognition）。人脸识别的研究可以追溯到上个世纪六、七十年代，经过几十年的曲折发展已日趋成熟。而人脸检测，是自动进行人脸识别的基础。     人脸检测它能够自动从图像中定位到人脸的位置（多个矩形框x，y，w，h），只有在图像中找到人脸，我们才能更好的继续后续的依托人脸的智能业务。     如下如图所示：人脸检测也属于目标检测的

聊一聊深度学习中的样本不平衡问题

本期的问题：你好，能不能谈一谈在深度学习中，怎样解决样本不平衡问题 ？1. 什么是样本不平衡问题？所谓的类别不平衡问题指的是数据集中各个类别的样本数量极不均衡。以二分类问题为例，假设正类的样本数量远大于负类的样本数量，通常情况下把样本类别比例超过4:1（也有说3:1）的数据就可以称为不平衡数据。样本不平衡实际上是一种非常常见的现象。比如：在欺诈交易检测，欺诈交易的订单应该是占总交易数量极少部分；工厂中产品质量检测问题，合格产品的数量应该是远大于不合格产品的；信用卡的征信问题中往往就是正样本居多。2. 样本不平衡会对我们模型的训练带来哪些影响呢？简单来讲，样本不平衡会使得我们的分类模型存在很严重的偏向性，但是从一些常用的指标上又无法看出来。举一个极端一点的例子，如果正负样本比例为100:1,那岂不是把全部样本都判定为正样本就有99%+的分类准确率了。从测试结果上来看，就表现为有太多的False Positive。在来看一个“恐怖”的例子，直观的感受一下样本不平衡问题：你根据1000个正样本和1000个负样本正

一些关于卷积神经网的github源码资料清单

LeNethttps://github.com/jklhj222/caffe_LeNetZFNethttps://github.com/amir-saniyan/ZFNet (tensorflow)AlexNethttps://github.com/BVLC/caffe/tree/master/models/bvlc_alexnetGoogLeNethttps://github.com/BVLC/caffe/tree/master/models/bvlc_googlenetVGGhttps://github.com/davidgengenbach/vgg-caffeResNethttps://github.com/yihui-he/resnet-cifar10-caffeinception V2https://github.com/irfanICMLL/inceptionV2_finetune （tensorflow）inception V3https://github.com/MasazI/Incepti

caffe linux下编译bug汇总

安装CUDA的时候不安装显卡驱动；最后安装好caffe，运行程序时，将相关配置文件改为CPU运行模式，而不是GPU运行模式。首先，先安装一个git，在这之前要进行依赖源的更新$sudo apt-get update然后进行git的安装（可以使用git --version对是否安装了git进行查看）$sudo apt-get install git接着进行依赖源的安装$sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev  libhdf5-serial-dev  protobuf-compiler$sudo apt-get install --no-install-recommends libboost-all-dev$sudo apt-get install libatlas-base-dev接下来，跟着这个博客无闹apt!!!装装装https://blog.csdn.net/Zmo

caffe-windows版本环境配置相关问题

作者：会写代码的好厨师链接：https://www.imooc.com/article/275499来源：慕课网对于caffe的配置安装一直都是新手刚开始接触caffe是遇到的最大的困难。这里简单的谈一谈windows版本的安装。1）准备工作源码下载：caffe版本Microsoft/caffe环境安装：cuda9.0：CUDA Toolkit 9.0 Downloads，主要是版本不要出问题cudnn: cudnn-9.0-windows10-x64-v7.1python2.7，建议用python2，不建议用condaVS20132）打开VS2013，使用VS2013打开caffe，里面有一个VS的工程项目。3）在VS里面找到，更新Nuget程序包管理，需要修改opencv版本，还可能会有一些其他库版本的更新，一并处理掉。4）math_functions函数编码错误，打开在保存就OK了5）python版本最好使用python26）errorMSB3721:too few arguments in func

老师傅来谈一谈如何入行“机器学习、CV、深度学习等“

如果大家看过了之前的文章，写给那些准备入坑机器学习、计算机视觉、深度学习等相关领域的人，包括:读研、转行等不同人群，同行勿喷应该是决定开始走紧这坑了。而且最近大家问得也比较多，也是比较关心的问题，如果从一个零基础的行业小白，走进这个坑？我从自身的角度，结合自己目前的认知来进行一些分析、介绍，也许不适用于太多的人，但总会对一些人有帮助吧。好了，不比比了，直接上干货。首先，我们解释一下我是×××专业，我能不能学？什么人能学？1）有可能你不是计算机专业的，没关系，但是你要具备一定的数学基础，本科学得忘干净了也没关系，可以在学会来，反正当初考试也就用了几天时间。2）计算机专业的，具备编程基础，只是没做过领域研究，这都不算行业小白了，已经算半个行业人士了。3）通信、电气、自动化专业的，没问题，只要能学数学和英语，都没问题4）其他工科类的，还是数学！英语！能学就行！5）文科类的，如果真的想学，反正我学英语的同学，考上北大计算机，在做知识图谱，都是可能的！！综上，只要具备学习能力+肯学的+有时间学得，基本都能可以入行，当