收到的任务是用深度学习求解偏微分方程，所以只学习机器学习中的深度学习
这篇博客是梳理整个学习框架，由机器学习的一些基本概念到深度学习，其中涉及到的一些小知识点分别写在别的博客中

1.机器学习分类

deep learning 属于机器学习中监督学习的非线性模型
（可是在后面的学习过程中，发现deep learning中也有非监督学习的模型，比如GAN，所以这个分类有些问题）

链接：https://blog.csdn.net/a493823882/article/details/81183324
（1）机器学习都是要从给定的训练数据集中学出一个函数（模型参数），当新的数据到来时，可以根据这个函数进行预测。
（2）监督学习和非监督学习的区别在于给定的数据集，监督学习的数据集要求包括输入和输出，即特征和目标；非监督学习的数据集中的输入数据没有被标记也没有确定的输出。
（3） 监督学习中常见的就是regression和classification问题
https://blog.csdn.net/qq_38517015/article/details/102525662

2.神经网络 Neural Network

链接：https://www.cnblogs.com/lliuye/p/9183914.html
（1）从逻辑回归(logistic regression)到神经元


有输入层与输出层且输出层只有一个神经元的神经网络的结构与逻辑回归一致，只不过在神经网络中，线性变换（求和）与非线性变换被集成在一个神经元（隐藏层或输出层）中；其中非线性变换函数又被称为激活函数active function

(2)神经网络

（3）deep learning 深度学习
deep=many hidden layers

Why deep?
参数个数相同的情况下，多层的学习效果往往比单层效果好
深层需要数据更少
modularization，模块化，每一层实现一个功能，结构清晰，功能也强，可以完成更复杂的任务

3.知识点整理（逐渐补充）

（1）激活函数active function
链接 https://blog.csdn.net/qq_38517015/article/details/102526564
（2）loss函数
链接：https://blog.csdn.net/qq_38517015/article/details/102527330
（3）计算图，backpropagation，gradient descent
链接：https://blog.csdn.net/qq_38517015/article/details/102525898
（4）常见神经网络模型
链接：https://blog.csdn.net/qq_38517015/article/details/102526250
（5）训练效果不好的解决办法
链接：https://blog.csdn.net/qq_38517015/article/details/102526519