一、人工智能

1. 人工智能：人工智能就是让其具有人类的智能。“计算机控制”+“智能行为”
   流派：连接主义（能力好但缺乏解释性）、符号主义（解释性好）、行为主义。
2. 人工智能研究领域
   机器感知（计算机视觉、语音信息处理、模式识别）
   学习（机器学习、强化学习）
   语言（自然语言处理）
   记忆（知识表示）
   决策（规划、数据挖掘）
3. 如何开发一个人工智能系统？
   专家知识（人工规则）
   机器学习≈构建一个映射函数=规则（语音识别、图像识别、围棋、机器翻译）
   训练数据，测试数据。

二、机器学习

0. 原始数据 --> 数据预处理 --> 特征提取 --> 特征转换 --> 预测 --> 结果
   _______________|--------------特征处理-----------| ____浅层学习
1. 语义鸿沟：人工智能挑战之一
   底层特征 VS 高层语义
2. 好的数据表示？
   很强表示能力、后续学习任务变得简单、具有一般性，任务或领域独立的
   数据表示是机器学习的核心问题。
   ①局部表示：离散表示、符号表示。One-Hot向量
   ② 分布式表示：压缩、低位、稠密向量；用O(N)个参数表示O(2k)区间
3. 表示学习
   原始数据 --> 底层特征 --> 中层特征 --> 高层特征 --> 预测 --> 结果
   ____________|-----------表示学习---------------|
4. 传统特征提取vs表示学习
   特征提取：基于任务或先验对去除无用特征。（对分类器效果不能保证）
   表示学习：通过深度模型学习高层语义特征。（没有明确目标，对分类器有帮助）

三、 神经网络

人工神经网络：由大量神经元以及他们之间的有向连接构成。

1. 神经元的激活规则：输入到输出的映射关系，一般非线性函数
2. 网络的拓扑结构：不同神经元之间的连接关系
3. 学习算法：通过训练数据来学习神经网络的参数。
   前馈网络、记忆网络、图网络。
   

如何解决贡献度分配问题？偏导数

四、神经网络发展史

模型提出：MP模型、B型图灵机、感知器(Perceptron)
冰河期：基本感知器无法处理异或、反向传播算法、新知机(类似于卷积神经网络)
反向传播算法引起的复兴：Hopfield网络、玻尔兹曼机、多层感知器、卷积神经网络。
流行度降低：--------
深度学习崛起：多层前馈神经网络可以先通过逐层与训练，再用反向传播算法进行精调方式进行有效学习。深度卷积神经网络模型、