感知机 Flashcards
(8 cards)
1
Q
感知机是什么
A
二分类的线性分类模型, 属于判别模型
2
Q
感知机的表达式
A
f(x)=sign(wx+b)
w称为weight,
b称为bias
3
Q
数据集的线性可分性
A
如果存在一个超平面wx+b=0, 可以将数据集中的实例完全正确的划分到超平面的两侧, 就是线性可分的数据集(linearly separable data set)
4
Q
为什么在感知机中, 要采用误分类点到超平面的距离来做损失函数?
A
因为是连续的, 方便优化
5
Q
感知机的损失函数
A
对所有误分类点求和: -y(wx+b)
6
Q
感知机的算法
A
随机梯度下降法:
损失函数的梯度是-sum yi*xi, -sumyi
但是在更新w和b的时候, 不用sum, 而是随机选取一个点
7
Q
感知机学习算法的原始形式
A
1 选定初值w0, b0
2 在训练集中选取xi,yi
3 如果 yi(wxi+b)<0, 那么更新w=w+eta yixi, b=b+etayi
4 转至2, 直到没有误分类点
8
Q
在什么条件下, 感知机学习算法是收敛的
A
在训练数据集是线性可分的条件下, 算法收敛; 但是解不唯一.
