深度学习问题记录：Building your Deep Neural Network: Step by Step

深度学习的学习是从简单到复杂，做简单的网络堆叠是为了获得一种“直觉”。
这种直觉可以帮助调参和debug。类似于《资本论》要从最基本的商品交易开始讨论。
更高的洞察力是

• 对于没有学习过的关联进行比较，模拟“象”。
• 还有要反推。“A卖东西付钱”推导出“A卖东西收到钱"
• 对于学到的要怀疑，可信度99%不是好事，永远可信度最高在90%，留下10%的怀疑
  ..........
  深度学习模型学习的是事物之间的关联，人类的学习也是在学习关联。老师上课教授的知识，其实就是关联。老师把这种关联分析的越清楚，这个老师讲课就越好。
  除了关联还要有”nodes",节点就是学习到的“数据”。（这里不好表述清楚）
  分散的学习知识是很大的浪费。但是分散的知识可以产生创造力。dropout模仿了人类的随机遗忘。类似可以在深度学习中根据情况随机复活一些“神经元”。
  深度学习是要像哲学一样把提取到的客观规律反映成模型。建模一直都是在模拟现实生活。