博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Perceptron Algorithm 感知器算法及其实现
阅读量:6970 次
发布时间:2019-06-27

本文共 668 字,大约阅读时间需要 2 分钟。

 Rosenblatt于1958年发布的感知器算法,算是机器学习鼻祖级别的算法。其算法着眼于最简单的情况,即使用单个神经元、单层网络进行监督学习(目标结果已知),并且输入数据线性可分。我们可以用该算法来解决and 和 or的问题。

在讨论神经元的数学模型时,我们将单个神经元抽象为下图的信号流图形式。输入向量为x,权重向量为w,w0一路为bias,这里不再赘述。

 
 
而本文算讲的算法,其解决的实际问题是,在知道输入向量x,和输出向量y的情况下,求解感知器的权重向量w以及bias。在几何上,我们可以理解为,我们有确定的n个点(x,y坐标确定),根据不断调整w的值,来求取一个超平面(Hyperplane)或称决策边界(Decision Boundary),将这n个点分隔成2组。
因为在输入向量与权重向量内积运算后,induced local field的值为:
 
而在其进入
activation function时,很明显0是一个很重要的阈值,也即是输出值的分界点。
 
所以,我们要解决的问题也就可以等同于求出如下等式的一个解:
如果将bias单独拿出,则改写为:
 
之前一直不理解bias存在于神经网络中的意义,直到在《Neural networks and deep learning》被醍醐灌顶。其实bias类似于阈值门槛的大小,阈值就是-w0*bias。而在Western读书的同学,也有能够一击领悟到其意义的,让我也是有些艳羡。

转载于:https://www.cnblogs.com/rhyswang/p/6798995.html

你可能感兴趣的文章
从Android Studio 开始的ARCore之旅
查看>>
Android轮播图控件CustomBanner的使用讲解
查看>>
让你在服务器上顺风顺水——linux常用命令
查看>>
[iOS] [OC] NSNotificationCenter 进阶及自定义(附源代码)
查看>>
Python logging 库的『完整教程』
查看>>
springboot -- 2.0版本自定义ReidsCacheManager的改变
查看>>
应用层,了解一下
查看>>
Failed to execute aapt
查看>>
创建个人cocopods集合(仅供参考)
查看>>
OAuth2.0认证授权workflow探究
查看>>
《Android Security Internals》第二章权限翻译
查看>>
笔者介绍
查看>>
spring-cloud Sleuth
查看>>
大数据成神之路
查看>>
重新梳理下js中的深拷贝和浅拷贝
查看>>
个推Node.js 微服务实践:基于容器的一站式命令行工具链
查看>>
Taro 多端开发的正确姿势:打造三端统一的网易严选(小程序、H5、React Native)...
查看>>
105. Construct Binary Tree from Preorder and Inorder Traversal
查看>>
Data Lake Analytics: 以SQL方式查询Redis数据
查看>>
elasticsearch v6.5.4配置
查看>>