cnn是什么(CNN通俗解析)
CNN基础知识介绍及TensorFlow具体实现,对于初学者或者求职者而言是一份不可多得的资料。
简而言之,卷积神经 *** (Convolutional Neural Networks)是一种深度学习模型或类似于人工神经 *** 的多层感知器,常用来分析视觉图像。卷积神经 *** 的创始人是着名的计算机科学家Yann LeCun,目前在Facebook工作,他是之一个通过卷积神经 *** 在MNIST数据集上解决手写数字问题的人。
Yann LeCunn
卷积神经 *** 的出现是受到了生物处理过程的启发,因为神经元之间的连接模式类似于动物的视觉皮层组织。
人脑的视觉结构
个体皮层神经元仅在被称为感受野的视野受限区域中对 *** 作出反应,不同神经元的感受野部分重叠,使得它们能够覆盖整个视野。
计算机视觉与人类视觉
正如上图所示,我们在谈论任何类型的神经 *** 时,都不可能不提及一点神经科学以及人体(特别是大脑)及其功能相关的知识,这些知识成为创建各种深度学习模型的主要灵感的来源。
卷积神经 *** 架构
如上图所示,卷积神经 *** 架构与常规人工神经 *** 架构非常相似,特别是在 *** 的最后一层,即全连接。此外,还注意到卷积神经 *** 能够接受多个特征图作为输入,而不是向量。
下面让我们探索构成卷积神经 *** 的基本构件及相关的数学运算过程,并根据在训练过程中学到的特征和属性对图像进行可视化和分类。
输入层主要是n×m×3 RGB图像,这不同于人工神经 *** ,人工神经 *** 的输入是n×1维的矢量。
RGB图像
在卷积层中,计算输入图像的区域和滤波器的权重矩阵之间的点积,并将其结果作为该层的输出。滤波器将滑过整个图像,重复相同的点积运算。这里注意两件事:
滤波器必须具有与输入图像相同数量的通道;
*** 越深,使用的滤波器就越多;拥有的滤波器越多,获得的边缘和特征检测就越多;
前向卷积运算
卷积层输出的尺寸:
输出宽度:
输出高度:
其中:
W :输入图像的宽度
H :输入图像的高度
Fw :滤波器或内核的宽度
Fh :滤波器的高度
P :填充
S :移动步幅
卷积层输出的通道数等于卷积操作期间使用的滤波器的个数。
有时候可能会问自己,为什么要首先使用卷积操作?为什么不从一开始就展开输入图像矩阵?在这里给出答案,如果这样做,我们最终会得到大量需要训练的参数,而且大多数人都没有能够以最快的方式解决计算成本高昂任务的能力。此外,由于卷积神经 *** 具有的参数会更少,因此就可以避免出现过拟合现象。
目前,有两种广泛使用的池化操作——平均池化(average pooling)和更大池化(max pooling),其中更大池化是两者中使用最多的一个操作,其效果一般要优于平均池化。池化层用于在卷积神经 *** 上减小特征空间维度,但不会减小深度。当使用更大池化层时,采用输入区域的更大数量,而当使用平均池化时,采用输入区域的平均值。
更大池化
池化层的核心目标之一是提供空间方差,这意味着你或机器将能够将对象识别出来,即使它的外观以某种方式发生改变,更多关于池化层的内容可以查看Yann LeCunn的文章。
在非线性层中,一般使用ReLU激活函数,而不是使用传统的Sigmoid或Tan-H激活函数。对于输入图像中的每个负值,ReLU激活函数都返回0值,而对于输入图像中的每个正值,它返回相同的值(有关激活函数的更深入说明,请查看这篇文章)。
ReLU激活函数
在全连接层中,我们将最后一个卷积层的输出展平,并将当前层的每个节点与下一层的另一个节点连接起来。全连接层只是人工神经 *** 的另一种说法,如下图所示。全连接层中的操作与一般的人工神经 *** 中的操作完全相同:
GitHub今天透露,一名攻击者正在使用偷来的OAuth用户令牌(原本发放给Heroku和Travis-CI),从私人仓库下载数据。自2022年4月12日首次发现这一活动以来,威胁者已经从几十个使用Heroku和Travis-CI维护的OAuth应用程序(包括npm)的受害组织中访问并窃取数据。...
为应对近年来不断增长的勒索软件攻击,越来越多的企业 IT 高管和员工,已经收到了专业人士的相关安全建议。Hitachi ID 刚刚公布了针对北美企业的最新调查报告,其中强调了内外部的 IT 安全措施需求。可知有 65% 的受访者表示,他们有被黑客接近,试图引诱他们参与谋划针对自家企业的勒索软件攻击。...
根据微软蜜罐服务器网络收集的数据,大多数暴力攻击者主要试图猜测短密码,很少有攻击是针对长密码或包含复杂字符的凭证的。”我分析了超过2500万次针对SSH的暴力攻击所输入的凭证。这大约是微软安全传感网络中30天的数据,”微软的安全研究员罗斯·贝文顿说。 “77%的尝试使用了1到7个字符的密码。超过1...
2021年9月16日,美国网络安全和基础设施安全局(CISA)发布了一个警报,警告APT攻击组织的攻击者正在积极利用一个漏洞,该漏洞是在自助密码管理和单点登录解决方案 ManageEngine ADSelfService Plus 中新发现的。该警告解释说,我们观察到恶意攻击者部署特定的 websh...
针对韩国多种行业的恶意软件活动被认为是一个名为Andariel的朝鲜国家黑客组织所为。据《黑客新闻》报道,这一进展表明,Lazarus黑客攻击者正在紧跟潮流,扩大他们的武器库。卡巴斯基实验室在一份详细的报告中指出:”这次活动中使用Windows命令及其选项的方式与以前的Andariel活动几乎相同...
据外媒报道,美国司法部(DOJ)在一份新闻发布会上称,一名拉脱维亚妇女因涉嫌开发Trickbot恶意软件而受到指控,该恶意软件使数百万台电脑受到感染,目标是学校、医院、公共设施和政府部门。DOJ称,Alla Witte是一个名为Trickbot集团的犯罪组织的一部分,该组织在俄罗斯、白俄罗斯、乌克兰...