【4.1.1】深度学习概述

一、什么是神经网络

single neural network

根据房子的大小来预测房子的价格。这是一个线性回归的问题，因为价格是一个连续的变量。

我们知道价格永远不会为负数，所以我们可以创造一个从0开始的Rectified Linear Unit (ReLU)函数

• 输入为房子的大小（x）
• 输出是房子的价格（y）
• 神经元应用了ReLU函数（蓝色的线）

多重神经网络

房子的价格会被其他的特征影响，例如大小，房间的数目，位置，气候等。神经网络的角色就是预测价格，他能够自动的产生隐藏的那些unit。

二、监督学习的神经网络

神经网络中的监督学习

监督学习，就是那些给出一堆数据集，我们已经知道了结果应该是啥样，已经知道了输入，以及对应的正确的输出。

监督学习可以分为两类：“regression” and “classification” 。

• 回归 输出是连续变量
• 分类 输出是离散变量，是分类变量

下图为监督学习的一些例子

有很多种类型的神经网络，比如：

• Convolution Neural Network (CNN) 用来处理图片
• Recurrent Neural Network (RNN) 用来处理一维序列，比如翻译
• 自动驾驶，需要混合的神经网络

Structured vs unstructured data

• 结构化的数据是那些已经定义好了数据的含义，比如价格，年龄。
• 非结构化的数据比如文本，声音等

三、为什么神经网络会火起来

神经网络的起飞起源于 数字化的社会大量的数据，更快的计算能力以及神经网络算法的创新。

获得更好的预测能力，需要做到以下几点：

1. Being able to train a big enough neural network
2. 足够带标签的数据

The process of training a neural network is iterative.

训练一个神经网络会花大量的时间，会影响你的产出。越快的计算能够帮助你迭代与提升算法。

四、更多的资源

Discussion forum

• Questions, technical discussions, bug reports, etc. Wiki (in-progress lecture notes)
• deeplearning.ai/wiki

Contact us:

• feedback@deeplearning.ai
• Companies: enterprise@deeplearning.ai
• Universities: academic@deeplearing.ai

参考资料

吴恩达 Andrew Ng 《神经网络和深度学习》