静态图和动态图框架

静态图：先定义变量和结构，后运行；结构和运行是分开的过程，定义好结构后运行期间是无法干预的；（不方便输出中间变量）TensorFlow
动态图：随时定义，随时运行；灵活调整变量和计算方式，灵活调试中间变量的值和shape，方便操作；pytorch

pytorch特性

• gpu加速
• 自动求导
  autograd.grad(y, [a, b, c])
• 常用深度学习模块
  nn.Linear, nn.Conv2d, nn.LSTM

简单回归问题-Linear Regression

利用梯度下降，回归得到最优解；
举例：二元一次方程组的近似解
y = wx + b 构造优化目标： Loss =(wx+b-y)^2

总结

• Linear Regression
  较简单的线性回归问题，一般是连续空间的分布点拟合；求解y=w*x+b中w和b的值；

• Logistic Regression
  相比线性回归，预测离散点投影在【0，1】区间内的值，和分类问题相比不考虑概率和为1；

• Classification
  投影到【0，1】区间，且所有分类概率之和为1，选择最大概率类别作为预测结果；