cnn是什么(CNN通俗解析)
CNN基础知识介绍及TensorFlow具体实现,对于初学者或者求职者而言是一份不可多得的资料。
简而言之,卷积神经 *** (Convolutional Neural Networks)是一种深度学习模型或类似于人工神经 *** 的多层感知器,常用来分析视觉图像。卷积神经 *** 的创始人是着名的计算机科学家Yann LeCun,目前在Facebook工作,他是之一个通过卷积神经 *** 在MNIST数据集上解决手写数字问题的人。
Yann LeCunn
卷积神经 *** 的出现是受到了生物处理过程的启发,因为神经元之间的连接模式类似于动物的视觉皮层组织。
人脑的视觉结构
个体皮层神经元仅在被称为感受野的视野受限区域中对 *** 作出反应,不同神经元的感受野部分重叠,使得它们能够覆盖整个视野。
计算机视觉与人类视觉
正如上图所示,我们在谈论任何类型的神经 *** 时,都不可能不提及一点神经科学以及人体(特别是大脑)及其功能相关的知识,这些知识成为创建各种深度学习模型的主要灵感的来源。
卷积神经 *** 架构
如上图所示,卷积神经 *** 架构与常规人工神经 *** 架构非常相似,特别是在 *** 的最后一层,即全连接。此外,还注意到卷积神经 *** 能够接受多个特征图作为输入,而不是向量。
下面让我们探索构成卷积神经 *** 的基本构件及相关的数学运算过程,并根据在训练过程中学到的特征和属性对图像进行可视化和分类。
输入层主要是n×m×3 RGB图像,这不同于人工神经 *** ,人工神经 *** 的输入是n×1维的矢量。
RGB图像
在卷积层中,计算输入图像的区域和滤波器的权重矩阵之间的点积,并将其结果作为该层的输出。滤波器将滑过整个图像,重复相同的点积运算。这里注意两件事:
滤波器必须具有与输入图像相同数量的通道;
*** 越深,使用的滤波器就越多;拥有的滤波器越多,获得的边缘和特征检测就越多;
前向卷积运算
卷积层输出的尺寸:
输出宽度:
输出高度:
其中:
W :输入图像的宽度
H :输入图像的高度
Fw :滤波器或内核的宽度
Fh :滤波器的高度
P :填充
S :移动步幅
卷积层输出的通道数等于卷积操作期间使用的滤波器的个数。
有时候可能会问自己,为什么要首先使用卷积操作?为什么不从一开始就展开输入图像矩阵?在这里给出答案,如果这样做,我们最终会得到大量需要训练的参数,而且大多数人都没有能够以最快的方式解决计算成本高昂任务的能力。此外,由于卷积神经 *** 具有的参数会更少,因此就可以避免出现过拟合现象。
目前,有两种广泛使用的池化操作——平均池化(average pooling)和更大池化(max pooling),其中更大池化是两者中使用最多的一个操作,其效果一般要优于平均池化。池化层用于在卷积神经 *** 上减小特征空间维度,但不会减小深度。当使用更大池化层时,采用输入区域的更大数量,而当使用平均池化时,采用输入区域的平均值。
更大池化
池化层的核心目标之一是提供空间方差,这意味着你或机器将能够将对象识别出来,即使它的外观以某种方式发生改变,更多关于池化层的内容可以查看Yann LeCunn的文章。
在非线性层中,一般使用ReLU激活函数,而不是使用传统的Sigmoid或Tan-H激活函数。对于输入图像中的每个负值,ReLU激活函数都返回0值,而对于输入图像中的每个正值,它返回相同的值(有关激活函数的更深入说明,请查看这篇文章)。
ReLU激活函数
在全连接层中,我们将最后一个卷积层的输出展平,并将当前层的每个节点与下一层的另一个节点连接起来。全连接层只是人工神经 *** 的另一种说法,如下图所示。全连接层中的操作与一般的人工神经 *** 中的操作完全相同:
2018年,英特尔、AMD、ARM曝出CPU安全事件,引起广泛关注,舆论一片哗然。虽然英特尔公司表示此次事件不仅仅是英特尔,还涉及AMD/ARM等厂商,且CPU 漏洞补丁基本不会给普通用户造成任何影响,但这次bug依旧被定为成行业大事件。 时隔几年,CPU又再次曝出一个大bug,有意思的...
Hackernews编译,转载请注明出处: Emotet恶意软件在中断十个月后,于15日开始运行,该软件通过多次垃圾邮件攻击向全球邮箱发送恶意文档。 Emotet是一种恶意软件感染,通过带有恶意附件的垃圾邮件攻击传播。如果用户打开附件,恶意宏或JavaScript文件,将下载Emotet DLL并...
Hackernews 编译,转载请注明出处: 一个P2P的Golang僵尸网络在一年多后重新浮出水面,在一个月内侵入了医疗、教育和政府部门实体的服务器,感染了总共1500台主机。 Akamai 的研究人员在与 The Hacker News 共享的一份报告中称,这种名为 FritzFrog 的“分...
SushiSwap 首席技术官表示,该公司的 MISO 平台近日受到了软件供应链的攻击。SushiSwap 是一个社区驱动的去中心化金融(DeFi)平台,方便用户交换、赚取、借出、借用和利用加密货币资产。今年早些时候,Sushi 的最新产品 Minimal Initial SushiSwap Off...
Hackernews 编译,转载请注明出处: 研究人员发现了一种新的针对中东和亚洲电信和 IT 服务提供商的间谍黑客活动。 这项攻击活动已经进行了六个月,操作者似乎与伊朗支持的攻击者 MERCURY (又名 MuddyWater,SeedWorm,或 TEMP.Zagros)有关。 这份报告来自...
BlackTech是一个网络间谍组织,在2018年前后对日本发起攻击活动。近日,研究人员发现了BlackTech可能使用的恶意软件Gh0stTimes。 研究人员在受Gh0stTimes感染的服务器上还发现了其他恶意软件,如下载器、后门程序、ELF Bifrose和攻击工具。这些工具可能会也被Bl...