聊一聊深度学习中的调参技巧？

本期问题能否聊一聊深度学习中的调参技巧？我们主要从以下几个方面来讲.1. 深度学习中有哪些参数需要调？ 2. 深度学习在什么时候需要动用调参技巧？又如何调参？ 3. 训练网络的一般过程是什么？1. 深度学习有哪些需要们关注的参数呢？大家记住一点：需要用到调参技巧的参数都是超参数！！因此，这个问题还可以换成更专业一点：神经网络中有哪些超参数？主要从两个方面来看：和网络设计相关的参数：神经网络的网络层数、不同层的类别和搭建顺序、隐藏层神经元的参数设置、LOSS层的选择、正则化参数和训练过程相关的参数：网络权重初始化方法、学习率使用策略、迭代次数、小批量数据 minibatch的大小、输入数据相关2. 深度学习在什么时候需要动用调参技巧，以及如何进行调参呢？通常网络训练的结果一般表现为以下五种情况：过拟合、欠拟合、恰好拟合，趋于收敛但一直在震荡以及完全不收敛。关于过拟合、欠拟合和恰好拟和，在机器学习中的定义描述如下：（不知道的可以移步此博客：https://www.imooc.com

CUDA-cuDNN配置

ubuntu18.04 Install development and runtime libraries (~4GB) sudo apt-get install --no-install-recommends \ cuda-10-1 \ libcudnn7=7.6.4.38-1+cuda10.1 \ libcudnn7-dev=7.6.4.38-1+cuda10.1 # Install TensorRT. Requires that libcudnn7 is installed above. sudo apt-get install -y --no-install-recommends libnvinfer6=6.0.1-1+cuda10.1 \ libnvinfer-dev=6.0.1-1+cuda10.1 \ libnvinfer-plugin6=6.0.1-1+cuda10.1 ubuntu16.04 Install dev

NVIDIA-显卡驱动安装-ubuntu18.04/ubuntu16.04

ubuntu16.04-CUDA9.0 sudo apt-key adv --fetch-keys http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub wget http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-repo-ubuntu1604_9.1.85-1_amd64.deb sudo apt install ./cuda-repo-ubuntu1604_9.1.85-1_amd64.deb wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1

当女神使用git时遇到这些问题，你该如何做？

本文转载自知乎作者：GitHub Daily链接：https://www.zhihu.com/question/20866683/answer/711725573来源：知乎如有侵权，请联系本人，删除。之前看过一个特别有趣的网站 - Oh shit, git!这个网站上面整理了一些 Git 新手在使用 Git 时常会遇到的各种突发状况，并贴心的给出了应对方案。我大致瞄了一眼，文章里面提到的一些问题，大部分新手确实会经常遇到，我简单翻译了一下，希望对你有所帮助。注：为了使场景描述更加生动，因此加入了新手女神与高级舔狗两个角色来配合讲解女神：哎呀，刚刚有个地方搞错了，怎么重新来过呢？女神莫慌，Git 的牛逼之处，在于它自带时光机效果，能让你在项目的历史代码中任意穿梭。如果项目的某一处地方它自己不小心坏掉了，不妨试下下面的这行命令：$ git reflog这条命令能列出你在 Git 上的所有操作记录，你只要找到 HEAD@{index} 前面所对应的操作索引，并使用下面命令即可：$ g

做算法，如何进行文献整理和文献阅读？

没有长篇大论，只谈几点：经典文献要不要读，除了必要的，我反正是没读（很多经典的东西，相关的中文博客太多了，而且很多最新的文章也会在introduction或者其他部分介绍到）。文献检索的时间范围：近3-5年文献检索的地方：作为一个博士生，至少自己的这个方向有什么顶级的会议和期刊应该是了然于胸的，CV的会议和期刊主要是：CVPR、ECCV、ICCV、IJCAI、AAAI、ICML、ICLR、TPAMI、TCSVCT、TIP、TM等等，其他的基本不看。arxiv，有时间就看看，找一些大牛的文章，或者经过上面筛选发现文章数量少的有限，那可以考虑下，在找找。检索关键词，不要局限于特定的范围，我以前做ReID（那时候还是特征工程和优化理论的江山），顺便也会看一些多视角、核学习、稀疏表示、低秩等相关的文章作为借鉴。大牛文章？个人觉得没必要太在意，泛读更重要。读文章的时候，记得对文章做分类！刚入门的朋友可以先找几篇硕士博士论文看看了解下基本情况，在去找一些英文的review文章，搞清楚领域大概几类方法，在重点扫论文的时候

Python下的图像处理库，你要选哪个？

在进行数字图像处理时，我们经常需要对图像进行读取、保存、缩放、裁剪、旋转、颜色转换等基本操作。在使用python进行编程时，涉及到多个不同的图像处理库的选择，今天我们简单聊一聊这几个库：opencv、scikit-image、scipy、pillow、matplotlib等等（不包括深度学习：tf.image等）1. PIL(Python Imaging Library)PIL（Python Imaging Library）是Python常用的图像处理库，而Pillow是PIL的一个友好Fork，提供了了广泛的文件格式支持，强大的图像处理能力，主要包括图像储存、图像显示、格式转换以及基本的图像处理操作等。相比opencv更为轻巧。Image模块是在Python PIL图像处理中常见的模块，对图像进行基础操作的功能基本都包含于此模块内。如open、save、show等功能。2. scipy.miscpython在科学计算领域有三个非常受欢迎库，numpy、SciPy、matplotlib。numpy是一个高性

计算机视觉基础——数字图像与颜色空间

Hello，大家好。白话机器学习 新的一个专题又开始了。在本次专题中，我们呼应“白话”这个概念，为大家科普一些简单的计算机视觉的概念，帮助大家扫盲~~~今天我们首先聊一聊——数字图像与颜色空间。我们经常会说做算法其实也是在玩数学，很大的原因就是我们需要将想要分析的对象转化为数字，然后再对数字中存在的规律进行分析。而在计算视觉任务中，我们主要处理的对象就是图像数据。图像是指使用各种观测系统以不同形式和手段观测客观世界而获得的，可以直接或间接作用于人眼并进而产生视觉的实体。包括：1）各类图片，如普通照片、X光片、遥感图片；2）各类光学图像，如电影、电视画面；3）客观世界在人们心目中的有形想象以及外部描述，如绘画、绘图等。为了对图像数据进行更好的分析，我们会采用计算机来对其进行进一步的加工处理，也就是离散化、数字化，进而得到了数字图像。其中，图像中每个基本单元叫做图像的元素，简称像素（Pixel）。数字图像处理（Digital Image Processing）：是指应用计算机来合成、变换已有的数字图像

计算机视觉基础——数字图像与颜色空间

Hello，大家好。微信公众号：白话机器学习。新的一个专题又开始了。在本次专题中，我们呼应“白话”这个概念，为大家科普一些简单的计算机视觉的概念，帮助大家扫盲~~~今天我们首先聊一聊——数字图像与颜色空间。我们经常会说做算法其实也是在玩数学，很大的原因就是我们需要将想要分析的对象转化为数字，然后再对数字中存在的规律进行分析。而在计算视觉任务中，我们主要处理的对象就是图像数据。图像是指使用各种观测系统以不同形式和手段观测客观世界而获得的，可以直接或间接作用于人眼并进而产生视觉的实体。包括：1）各类图片，如普通照片、X光片、遥感图片；2）各类光学图像，如电影、电视画面；3）客观世界在人们心目中的有形想象以及外部描述，如绘画、绘图等。为了对图像数据进行更好的分析，我们会采用计算机来对其进行进一步的加工处理，也就是离散化、数字化，进而得到了数字图像。其中，图像中每个基本单元叫做图像的元素，简称像素（Pixel）。数字图像处理（Digital Image Processing）：是指应用计算机来合成、变换已有的数字图

文本检测与识别方法（含end to end）

2018 cvprAn end-to-end TextSpotter with Explicit Alignment and Attention https://github.com/tonghe90/textspotterLearning Markov Clustering Networks for Scene Text DetectionRotation-sensitive Regression for Oriented Scene Text DetectionEdit Probability for Scene Text RecognitionGeometry-Aware Scene Text Detection with Instance Transformation NetworkMulti-Oriented Scene Text Detection via Corner Localization and Region Segmentation2019 cvprESIR: End-to-

FaceNet源码解析

1. facenet:triplet-loss理解与train_tripletloss.py代码理解https://blog.csdn.net/ninesky110/article/details/84877114https://blog.csdn.net/liyuan123zhouhui/article/details/714277992. train_softmax.py代码注释https://blog.csdn.net/liyuan123zhouhui/article/details/69569562

“指哪打哪”的Lighten AI英语阅读伴侣，助你畅读英语

忙碌了一年的时间，就是为了这款产品的上市！全新的手指交互方式！还记得点读机么？哪里不会点哪里那种？曾经市售的点读机可不是说真的能点哪里读哪里，而是要和专用书籍配套使用，更不是大众印象中能够直接读取纸质印刷物上的字样，而仅仅是通过扫描条码后播放对应音频的方式来实现“点读”功能。通俗点说，传统的所谓“点读机”其实有些偷换概念，实际意义并不大。那么是否存在那种真正意义上指到哪里就能读哪里的“学习机”么？现在终于有了。Lighten AI英语阅读伴侣终于能够实现这样的梦想，这款产品并不是用点读笔扫描二维码的套路，而是能够真正意义上拥有识别纸质文字并进行实时翻译的能力，换言之这才是真正意义上的"点读机"。推荐我们团队自研的人工智能产品，英语阅读伴侣！真正的英文纸质版材料阅读工具！指哪里读哪里！精美外观设计，搭载高速智能芯片，良心价格只要399，购买链接https://m.youpin.mi.com/w/crowdfunding?_rt=weex&pageid=5&spmref=Yo

ubuntu18.04 配置caffe-ssd

首先，大家如果想省事情，请直接换成ubuntu16.04，网上很多配置教程很好用。不然，有很多坑要填！gcc和g++版本用5.0以上版本python用原生的python，最好用python2gflags，下载源码安装opencv下载源码安装，参考我的另一篇博客：https://www.imooc.com/article/284786/usr/local/lib/libopencv_imgcodecs.so：对‘TIFFClose@LIBTIFF_4.0’ 未定义的引用 /usr/local/lib/libopencv_imgcodecs.so：对‘TIFFRGBAImageOK@LIBTIFF_4.0’ 未定义的引用 /usr/local/lib/libopencv_imgcodecs.so：对‘TIFFReadRGBAStrip@LIBTIFF_4.0’ 未定义的引用 collect2: error: ld returned 1 exit  st

ubuntu18.04 opencv编译

在ubuntu18.04下编译安装opencv采用老的方法cmake..make all发现会报错，不支持C++11后来发现，可以直接在release下编译安装：参考链接：https://blog.csdn.net/kevineeo/article/details/83242516 第一步：下载完成后对该文件进行解压，会得到一个opencv-3.4.0的文件夹，进入该文件夹，手动新建一个release的文件夹，然后进入到里面，打开一个终端。或者直接在opencv-3.4.0文件夹中打开一个终端，然后# 新建一个release的文件夹$ mkdir release# 进入到release文件夹中$ cd release第二步：cmake，进入到release文件夹后，在终端中输入如下命令，后面的-D CUDA_GENERATION=kepler 加上# 正常情况下使用如下cmake命令即可$ cmake -D CMAKE_BUILD_TYP

人脸智能小程序开发填坑笔记

记录下开发微信小程序时，遇到的一些坑：1. 微信小程序真机调试的时候，报错request:fail url not in domain listhttps://blog.csdn.net/qq_40421671/article/details/86650126 2. 图片缩放通过画布实现，要采用回调函数。const ctxx = wx.createCanvasContext('attendCanvasId'); ctxx.drawImage(tempImagePath, 0, 0, windowWidth, windowHeight * 0.5); ctxx.draw(false, wx.canvasToTempFilePath({     canvasId: 'attendCanvasId',   &nbs

人脸检测相关Paper&资源汇总

想要简单了解下人脸检测问题，推荐直接阅读Wider Face数据集评测的各个算法：了解如下：http://mmlab.ie.cuhk.edu.hk/projects/WIDERFace/WiderFace_Results.html更多的人脸文章，则可以扫一下里面的论文列表：文章内容转载自：https://zhuanlan.zhihu.com/p/38512246ACMMM2016_UnitBox：An Advanced Object Detection Network：arxiv2016_Face Detection with the Faster R-CNN：arxiv2016_xiaomi_Bootstrapping Face Detection with Hard Negative Examples：arxiv2017_Face Detection using Deep Learning：An Improved Faster RCNN Approach：arxiv2017_FAN_Face Atten

掌握人脸智能技术，我们可以做些什么？

智能人脸业务一直以来在工业届的落地水平都是很深的。甚至早在深度学习技术大热之前，很多依托人脸识别的产品就已经面世。而深度学习基础的发展，则将该项技术的准确度和精度，进一步推上了一个新的高度，而衍生出来的产品也越来越丰富掌握人脸智能技术，我们可以做些什么呢？在搞清楚这个问题之前，我们先来看看人脸智能有哪些点可以做？人脸检测人脸关键点人脸匹配人脸属性换脸以及人脸风格化等等人脸检测     人脸检测，Face Detection. 人脸检测问题最初来源于人脸识别（Face Recognition）。人脸识别的研究可以追溯到上个世纪六、七十年代，经过几十年的曲折发展已日趋成熟。而人脸检测，是自动进行人脸识别的基础。     人脸检测它能够自动从图像中定位到人脸的位置（多个矩形框x，y，w，h），只有在图像中找到人脸，我们才能更好的继续后续的依托人脸的智能业务。     如下如图所示：人脸检测也属于目标检测的

聊一聊深度学习中的样本不平衡问题

本期的问题：你好，能不能谈一谈在深度学习中，怎样解决样本不平衡问题 ？1. 什么是样本不平衡问题？所谓的类别不平衡问题指的是数据集中各个类别的样本数量极不均衡。以二分类问题为例，假设正类的样本数量远大于负类的样本数量，通常情况下把样本类别比例超过4:1（也有说3:1）的数据就可以称为不平衡数据。样本不平衡实际上是一种非常常见的现象。比如：在欺诈交易检测，欺诈交易的订单应该是占总交易数量极少部分；工厂中产品质量检测问题，合格产品的数量应该是远大于不合格产品的；信用卡的征信问题中往往就是正样本居多。2. 样本不平衡会对我们模型的训练带来哪些影响呢？简单来讲，样本不平衡会使得我们的分类模型存在很严重的偏向性，但是从一些常用的指标上又无法看出来。举一个极端一点的例子，如果正负样本比例为100:1,那岂不是把全部样本都判定为正样本就有99%+的分类准确率了。从测试结果上来看，就表现为有太多的False Positive。在来看一个“恐怖”的例子，直观的感受一下样本不平衡问题：你根据1000个正样本和1000个负样本正

谈一谈关于NLP的落地场景和商业价值

本期的问题：你好，请问下nlp在现在的市场主要应用在哪些方面什么是NLP？答：利用机器学习技术来分析自然语言都属于NLP技术。（弱弱的说一句，NLP应该是语音、图像、文本这三种数据中，处理起来最难的数据！勿喷！）什么是自然语言？答：文本数据就是自然语言。语音数据并不是直接的自然语言，需要在经过语音识别之后，形成文本数据才能算作自然语言。NLP的价值体现在什么地方？答：大家想一想，我们是如何同这个世界进行交互的？比如：与人交流、浏览新闻，收集到的数据，我们需要进一步的加工获得语义上的信息，进而指导我们后续的行为。而NLP的价值，就体现在这个过程中：如何更好的同机器沟通？如何更快的理解我们收集到的数据？如何同不同语言的人进行无障碍沟通？如何发现一些杂乱无章内容中隐含的规律？等等实际上，自然语言充斥着我们社会中方方面面的。机器智能？没有算法的机器，是不能算作智能的。而智能则体现在理解能力上。NLP赋予机器智能，也就是带给机器理解语言的能力，机器就可以完成很多人能够操作的事情，这些都是NLP的落地场景和商业价值体现

一些关于卷积神经网的github源码资料清单

LeNethttps://github.com/jklhj222/caffe_LeNetZFNethttps://github.com/amir-saniyan/ZFNet (tensorflow)AlexNethttps://github.com/BVLC/caffe/tree/master/models/bvlc_alexnetGoogLeNethttps://github.com/BVLC/caffe/tree/master/models/bvlc_googlenetVGGhttps://github.com/davidgengenbach/vgg-caffeResNethttps://github.com/yihui-he/resnet-cifar10-caffeinception V2https://github.com/irfanICMLL/inceptionV2_finetune （tensorflow）inception V3https://github.com/MasazI/Incepti

caffe linux下编译bug汇总

安装CUDA的时候不安装显卡驱动；最后安装好caffe，运行程序时，将相关配置文件改为CPU运行模式，而不是GPU运行模式。首先，先安装一个git，在这之前要进行依赖源的更新$sudo apt-get update然后进行git的安装（可以使用git --version对是否安装了git进行查看）$sudo apt-get install git接着进行依赖源的安装$sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev  libhdf5-serial-dev  protobuf-compiler$sudo apt-get install --no-install-recommends libboost-all-dev$sudo apt-get install libatlas-base-dev接下来，跟着这个博客无闹apt!!!装装装https://blog.csdn.net/Zmo

caffe-windows版本环境配置相关问题

作者：会写代码的好厨师链接：https://www.imooc.com/article/275499来源：慕课网对于caffe的配置安装一直都是新手刚开始接触caffe是遇到的最大的困难。这里简单的谈一谈windows版本的安装。1）准备工作源码下载：caffe版本Microsoft/caffe环境安装：cuda9.0：CUDA Toolkit 9.0 Downloads，主要是版本不要出问题cudnn: cudnn-9.0-windows10-x64-v7.1python2.7，建议用python2，不建议用condaVS20132）打开VS2013，使用VS2013打开caffe，里面有一个VS的工程项目。3）在VS里面找到，更新Nuget程序包管理，需要修改opencv版本，还可能会有一些其他库版本的更新，一并处理掉。4）math_functions函数编码错误，打开在保存就OK了5）python版本最好使用python26）errorMSB3721:too few arguments in func

老师傅来谈一谈如何入行“机器学习、CV、深度学习等“

如果大家看过了之前的文章，写给那些准备入坑机器学习、计算机视觉、深度学习等相关领域的人，包括:读研、转行等不同人群，同行勿喷应该是决定开始走紧这坑了。而且最近大家问得也比较多，也是比较关心的问题，如果从一个零基础的行业小白，走进这个坑？我从自身的角度，结合自己目前的认知来进行一些分析、介绍，也许不适用于太多的人，但总会对一些人有帮助吧。好了，不比比了，直接上干货。首先，我们解释一下我是×××专业，我能不能学？什么人能学？1）有可能你不是计算机专业的，没关系，但是你要具备一定的数学基础，本科学得忘干净了也没关系，可以在学会来，反正当初考试也就用了几天时间。2）计算机专业的，具备编程基础，只是没做过领域研究，这都不算行业小白了，已经算半个行业人士了。3）通信、电气、自动化专业的，没问题，只要能学数学和英语，都没问题4）其他工科类的，还是数学！英语！能学就行！5）文科类的，如果真的想学，反正我学英语的同学，考上北大计算机，在做知识图谱，都是可能的！！综上，只要具备学习能力+肯学的+有时间学得，基本都能可以入行，当

写给那些准备入坑机器学习、计算机视觉、深度学习等相关领域的人，包括:读研、转行等不同人群，同行勿喷

最近有很多朋友包括认识的，不认识的人，像我打听关于入行计算机视觉这个行业的一些问题。觉得还是有必要总结以下，一方面跟大家唠唠这个行业在干什么，和其他行业有什么不同，准备入坑这个行业你需要做点什么等等，另一方面也算是整理个计算机视觉行业入门的基本资料分享给大家。在后续，我会整理一系列的文章，包括行业的一些分析，具体的案例，靠谱的理论分析，可以直接work的算法demo等等，也希望大家多多关注，多多投稿，我会认真的对待每一份稿件，合适的会有一定的红包奖励。希望，大家都能够积极的去分享自己的知识，有机会，可以和大家一起合作，做一些有意义的事情。首先简单介绍下自己的学习工作历程，本科读计算机专业，期间参加了一些比赛和创新项目，积累了不少的经验和基础，后来大四保研之后，比较混，荒废了1年的时间吧（现在觉得，如果早点做研究，也许几篇顶会论文都有了，混得一定比现在更好）。后来研一，一边上课一边做web外包，又荒废了半年时间，到快过年由于导师引导，开始初步接触计算机视觉，之后，开始投入大部分经历在其中，现在做LBP算法，并