本文目录一览：

• 1、前馈神经 *** 、BP神经 *** 、卷积神经 *** 的区别与联系
• 2、卷积神经 *** 能用于参数预测吗
• 3、如何运用机器学习解决复杂系统的预测问题
• 4、最精准的天气软件是哪个？
• 5、为什么卷积神经 *** 最后预测输出结果都是0
• 6、如何利用神经 *** 或者机器学习进行变量预测问题

前馈神经 *** 、BP神经 *** 、卷积神经 *** 的区别与联系

一、计算 *** 不同

1、前馈神经 *** ：一种最简单的神经 *** ，各神经元分层排列。每个神经元只与前一层的神经元相连。接收前一层的输出，并输出给下一层．各层间没有反馈。

2、BP神经 *** ：是一种按照误差逆向传播算法训练的多层前馈神经 *** 。

3、卷积神经 *** ：包含卷积计算且具有深度结构的前馈神经 *** 。

二、用途不同

1、前馈神经 *** ：主要应用包括感知器 *** 、BP *** 和RBF *** 。

2、BP神经 *** ：

（1）函数逼近：用输入向量和相应的输出向量训练一个 *** 逼近一个函数；

（2）模式识别：用一个待定的输出向量将它与输入向量联系起来；

（3）分类：把输入向量所定义的合适方式进行分类；

（4）数据压缩：减少输出向量维数以便于传输或存储。

3、卷积神经 *** ：可应用于图像识别、物体识别等计算机视觉、自然语言处理、物理学和遥感科学等领域。

联系：

BP神经 *** 和卷积神经 *** 都属于前馈神经 *** ，三者都属于人工神经 *** 。因此，三者原理和结构相同。

三、作用不同

1、前馈神经 *** ：结构简单，应用广泛，能够以任意精度逼近任意连续函数及平方可积函数．而且可以精确实现任意有限训练样本集。

2、BP神经 *** ：具有很强的非线性映射能力和柔性的 *** 结构。 *** 的中间层数、各层的神经元个数可根据具体情况任意设定，并且随着结构的差异其性能也有所不同。

3、卷积神经 *** ：具有表征学习能力，能够按其阶层结构对输入信息进行平移不变分类。

扩展资料：

1、BP神经 *** 优劣势

BP神经 *** 无论在 *** 理论还是在性能方面已比较成熟。其突出优点就是具有很强的非线性映射能力和柔性的 *** 结构。 *** 的中间层数、各层的神经元个数可根据具体情况任意设定，并且随着结构的差异其性能也有所不同。但是BP神经 *** 也存在以下的一些主要缺陷。

①学习速度慢，即使是一个简单的问题，一般也需要几百次甚至上千次的学习才能收敛。

②容易陷入局部极小值。

③ *** 层数、神经元个数的选择没有相应的理论指导。

④ *** 推广能力有限。

2、人工神经 *** 的特点和优越性，主要表现在以下三个方面

①具有自学习功能。例如实现图像识别时，只在先把许多不同的图像样板和对应的应识别的结果输入人工神经 *** ， *** 就会通过自学习功能，慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。预期未来的人工神经 *** 计算机将为人类提供经济预测、效益预测，其应用前途是很远大的。

②具有联想存储功能。用人工神经 *** 的反馈 *** 就可以实现这种联想。

③具有高速寻找优化解的能力。寻找一个复杂问题的优化解，往往需要很大的计算量，利用一个针对某问题而设计的反馈型人工神经 *** ，发挥计算机的高速运算能力，可能很快找到优化解。

参考资料：百度百科—前馈神经 ***

百度百科—BP神经 ***

百度百科—卷积神经 ***

百度百科—人工神经 ***

卷积神经 *** 能用于参数预测吗

卷积神经 *** 有以下几种应用可供研究：

1、基于卷积 *** 的形状识别

物体的形状是人的视觉系统分析和识别物体的基础，几何形状是物体的本质特征的表现，并具有平移、缩放和旋转不变等特点，所以在模式识别领域，对于形状的分析和识别具有十分重要的意义，而二维图像作为三维图像的特例以及组成部分，因此二维图像的识别是三维图像识别的基础。

2、基于卷积 *** 的人脸检测

卷积神经 *** 与传统的人脸检测 *** 不同，它是通过直接作用于输入样本，用样本来训练 *** 并最终实现检测任务的。它是非参数型的人脸检测 *** ，可以省去传统 *** 中建模、参数估计以及参数检验、重建模型等的一系列复杂过程。本文针对图像中任意大小、位置、姿势、方向、肤色、面部表情和光照条件的人脸。

3、文字识别系统

在经典的模式识别中，一般是事先提取特征。提取诸多特征后，要对这些特征进行相关性分析，找到最能代表字符的特征，去掉对分类无关和自相关的特征。然而，这些特征的提取太过依赖人的经验和主观意识，提取到的特征的不同对分类性能影响很大，甚至提取的特征的顺序也会影响最后的分类性能。同时，图像预处理的好坏也会影响到提取的特征。

如何运用机器学习解决复杂系统的预测问题

现实生活中预测通常难做到精准，比如股市，自然灾害， 长久的天气预测。

在市场这种系统里， 有两个关键要素， 一个是个体和个体之间的互相作用（博弈），一个是系统与外部环境（地球资源）之间的相互作用（反馈），因此而形成复杂模式（Pattern）， 这种模式通常很难预测。

而这种类型的系统我们通常定义为复杂系统： 由大量单元互相作用组成的系统， 由于集体行为的非线性（总体不等于个体之和）， 而形成具备无数层级的复杂组织。或者称为涌现性。

复杂科学即研究复杂系统的一套联系不同尺度现象的数学 *** 。在人类试图理解那些和自身生存最相关的东西时，而经典物理学的还原论（把整体拆成部分）思维的却不适用。物理预测的核心 *** 是动力学 *** , 即人们由实验出发抽象出引起运动改变的原因, 把这些原因量化为变量，用微分方程来描述, 从而取得对整个未来的精确解，如麦克斯韦方程组可以预测从光波的速度到磁线圈转动发电任何的电磁学现象。而你却无法通过了解市场上每个人的特性就很好的预测整个市场走势。

复杂系统难以预测的原理可以从以下几方面理解：

1， 高维诅咒: 构成现实生活的系统往往被大量未知变量决定， 比如生物由无数的细胞组成。 基因，是由无数独立的单元组成的， 市场， 由无数的交易者组成， 这些用物理的描述 *** 来预测， 就是极高维度空间的运动问题。维度，首先使得再简单的方程形式都十分复杂难解。

此处补充维度的科学定义： 维度是一个系统里可以独立变化的变量个数， 一个有非常多变量的系统，如复杂 *** ，假如每个变量不是互相独立，也可以是低维系统。 比如一个军营里的方阵，即使人数众多， 也会因为大家都做着一模一样的动作，而只有一个独立变量，成为一维系统。

2， 非线性诅咒：高维度系统的维度之间具有复杂的相互作用，导致我们不能把系统分解为单一维度然后做加法的 *** 研究。 高维加上非线性我们将得到对初级极为敏感的混沌系统。

非线性的一个重要推论是组织的产生， 因为非线性，1+1可以大于2或小于2， 为组织的产生提供了理论基础。

3， 反馈诅咒： 复杂系统中反馈无处不在， 即使是一个简单的一维系统， 反馈也可以使得系统的特性很丰富， 最典型的反馈是某种记忆效应， 使得系统产生复杂的路径依赖， 此刻你的现实与历史深刻关联，而关联 *** 导致复杂的模式产生。

反身性是一种由预测产生的特殊反馈， 当你预测股市的价格， 会引起你的交易策略变化从而影响你的预测， 是为反身性。

4， 随机诅咒: 复杂系统往往含有不包含确定规律的随机噪声，加上这些噪声， 系统的行为更加难预测， 而很多时候， 我们也无法区分一个系统里发现的模式是噪声导致还是由于元件之间的相互作用。

这四大诅咒是这些系统难以理解和预测的原因， 而这个时候， 复杂系统和机器学习的 *** 论可以作为一种非常有力的手段帮我们从复杂性中挖掘模式。

之一种 *** 叫模型驱动（Model approch）， 即想办法找到事物变化的原因， 用一种降维的思路列出微分方程， 即从非常繁复的要素中化简出最重要的一个或者两个， 从而化繁琐为简单，不管三七二十一先抓住主要矛盾。其中的范例便是非线性动力学。

注： 此处我们有两个基本假设让非线性动力学得到简化，一个是只讨论连续变量，另一个是不考虑系统内的随机性（无噪声项）。

1， 如果一个系统可以化简到一维， 那么你只需要研究其内部存在的反馈性质并描述它即可。 负反馈导致稳定定点产生， 正反馈导致不稳定性。 很多事物多可以抽象为一维系统，包括简单环境下的人口增长问题。

2， 如果一个系统可以化简到二维， 那么你需要研究两个维度间的相互作用，最终可以互为负反馈而稳定下来，互为正反馈而爆发，或者产生此消彼长的周期轨道。 比如恋爱中的男女是个二维系统， 互为负反馈就回到普通朋友， 互为正反馈在爱欲中爆发-比如罗密欧与朱丽叶， 此消彼长那是玩捉迷藏的周期游戏。

3， 如果一个系统是三维的， 则混沌可能产生。 混沌即对初值极为敏感的运动体系。 你一旦偏离既定轨道一点， 即几乎无法回去。

4， 如果一个系统大于三维， 那么你需要用一个复杂 *** 描述它的运动， 这个时候我们可以得到我们复杂系统的主角- collective phenomena emergence。 复杂 *** 的性质主要取决于单体间相互作用的方式， 以及系统与外界交换能量的 *** ， 这两者又息息相关。 最终我们得到涌现。

复杂 *** 的动力学往往混沌难以预测，对于高维混沌系统， 之一个 *** 也只能给出对事物定性的描述， 而我们可以祭出我们的第二种 *** : 先不管数据背后错综复杂的动因，而是直接以数据驱动我们的预测。

这其中的哲学内涵即贝叶斯分析框架： 即先不预测， 而是列出所有可能的结果及根据以往知识和经验每种结果发生的可能性（先验概率），之后不停吸收新观测数据， 调整每种可能结果的概率大小（后验概率），将想得到的结果概率更大化（MAP）最终做出决策。

如果你把贝叶斯分析的框架自动化， 让电脑完成， 你就得到机器学习的最基本框架。

机器学习如果可以进入一个问题中， 往往要具备三个条件：

1， 系统中可能存在模式

2， 这种模式不是一般解析手段可以猜测到的。

3， 数据可以获取。

如果三点有一点不符，都很难运用机器学习。

机器学习的一个核心任务即模式识别， 也可以看出它和刚才讲的复杂系统提到的模式的关系。我们讲复杂系统难以通过其成分的分析对整体进行预测，然而由于复杂系统通常存在模式， 我们通常可以模式识别来对系统进行归类， 并预测各种可能的未来结果。比如一个投行女因为工作压力过大而自杀了， 那么在她之前的活动行为数据（比如点击手机的某些app的频率）里是否可能存在某种模式? 这种模式是否可以判定她之后的行为类型？ 并且这个过程可否通过历史数据由计算机学习？如果都可以，这就是一个机器学习问题。

刚才讲的几大诅咒， 高维， 非线性， 复杂反馈，随机性也称为机器学习需要核心面对的几大困难， 由此得到一系列机器学习的核心算法。

机器学习在现实生活中被用于非常多的方面， 最常见的如商务洞察（分类，聚类， 推荐算法）， 智能语音语义服务（时间序列处理，循环 *** ）， 各种自动鉴别系统如人脸识别，虹膜识别 ，癌症检测（深度卷积 *** ）， 阿尔法狗，机器人控制（深度强化学习算法）。 而由 *** 论分， 又可以分成有监督学习， 无监督学习， 和强化学习。

在八月份的巡洋舰科技的《机器学习vs复杂系统特训课》中，我着重讲了几种机器学习的基本 *** ：

1. 贝叶斯决策的基本思想：

你要让机器做决策， 一个基本的思路是从统计之前数据挖掘已有的模式（pattern）入手， 来掌握新的数据中蕴含的信息。 这个pattern在有监督学习的例子里， 就是把某种数据结构和假设结论关联起来的过程，我们通常用条件概率描述。 那么让机器做决策， 就是通过不停的通过新数据来调整这个数据结构（特征）与假设结果对应的条件概率。通常我们要把我们预先对某领域的知识作为预设（prior），它是一个假设结果在数据收集前的概率密度函数，然后通过收集数据我们得到调整后的假设结果的概率密度函数， 被称为后验概率（posterior），最终的目标是机器得到的概率密度函数与真实情况最匹配， 即 Maximum a posterior(MAP)， 这是机器学习的最终目标。

2， 朴素贝叶斯分类器到贝叶斯 *** ：

分类，是决策的基础，商业中要根据收集客户的消费特征将客户分类从而精准营销。 金融中你要根据一些交易行为的基本特征将交易者做分类。 从贝叶斯分析的基本思路出发我们可以迅速得到几种分类器。

首当其冲的朴素贝叶斯分类器，它是机器学习一个特别质朴而深刻的模型：当你要根据多个特征而非一个特征对数据进行分类的时候，我们可以假设这些特征相互独立（或者你先假设相互独立），然后利用条件概率乘法法则得到每一个分类的概率， 然后选择概率更大的那个作为机器的判定。

图： 朴素贝叶斯分类器的基本框架， c是类别， A是特征。

如果你要根据做出分类的特征不是互相独立，而是互相具有复杂关联，这也是大部分时候我们面临问题的真相， 我们需要更复杂的工具即贝叶斯 *** 。 比如你对某些病例的判定， 咳嗽， 发烧， 喉咙肿痛都可以看做扁条体发炎的症候， 而这些症候有些又互为因果， 此时贝叶斯 *** 是做出此类判定的更好 *** 。构建一个贝叶斯 *** 的关键是建立图模型 ， 我们需要把所有特征间的因果联系用箭头连在一起， 最后计算各个分类的概率。

图：贝叶斯 *** 对MetaStatic Cancer的诊断，此处的特征具有复杂因果联系

贝叶斯分析结合一些更强的假设，可以让我们得到一些经常使用的通用分类器， 如逻辑斯提回归模型，这里我们用到了物理里的熵更大假设得到玻尔兹曼分布， 因此之前简单贝叶斯的各个特征成立概率的乘积就可以转化为指数特征的加权平均。 这是我们日常最常用的分类器之一。 更加神奇的是， 这个东西形式上同单层神经 *** 。

图： logistic函数，数学形式通玻尔兹曼分布， 物理里熵更大模型的体现

3, 贝叶斯时间序列分析之隐马模型：

贝叶斯时间序列分析被用于挖掘存储于时间中的模式，时间序列值得是一组随时间变化的随机变量，比如玩牌的时候你对手先后撒出的牌即构成一个时间序列。 时间序列模式的预设setting即马尔科夫链， 之前动力学模式里讲到反馈导致复杂历史路径依赖，当这种依赖的最简单模式是下一刻可能出现的状态只与此刻的状态有关而与历史无关， 这时候我们得到马尔科夫链。

马尔科夫链虽然是贝叶斯时间序列分析的基准模型，然而现实生活中遇到的时间序列问题， 通常不能归于马尔科夫链，却可以间接的与马尔科夫链关联起来，这就是隐马过程，所谓含有隐变量的马尔科夫过程。

图： 隐马过程示意

语音识别就是一类特别能利用隐马过程的应用， 在这里语音可以看做一组可观测的时间序列， 而背后的文字是与之关联的马尔科夫链， 我们需要从可观测的量， 按照一定的概率分布反推不可观测的量， 并用马尔科夫链的观点对其建模， 从而解决从语音到文字的反推过程。 当今的语音识别则用到下面紧接讲的深度学习模型。

4， 深度学习

刚刚讲的分类问题， 只能根据我们已知的简单特征对事物进行分类， 但假设我们手里的数据连需要提取的特征都不知道， 我们如何能够对事物进行分类呢？ 比如你要从照片识别人名， 你都不知道选哪个特征和一个人关联起来。 没关系， 此时我们还有一个办法， 就是让机器自发学习特征， 因此祭出深度学习大法。通常在这类问题里， 特征本身构成一个复杂 *** ，下级的特征比较好确定， 而更高层的特征， 是由底层特征的组合确定的， 连我们人类自己都不能抽象出它们。

深度学习即数据内涵的模式（特征）本身具备上述的多层级结构时候，我们的机器学习 *** 。 从以毒攻毒的角度看， 此时我们的机器学习机器也需要具有类似的多级结构，这就是大名鼎鼎的多层卷积神经 *** 。深度学习更大的优势是具有更高级的对“结构”进行自动挖掘的能力，比如它不需要我们给出所有的特征，而是自发去寻找最合适对数据集进行描述的特征。 一个复杂模式-比如“人脸” 事实上可以看做一个简单模式的层级叠加， 从人脸上的轮廓纹理这种底层模式， 到眼睛鼻子这样的中级模式， 直到一个独特个体这样更高级的复杂模式， 你只有能够识别底层模式，才有可能找到中级模式， 而找到中级模式才方便找到高级模式， 我们是不能从像素里一步到达这种复杂模式的。 而是需要学习这种从简单模式到复杂模式的结构， 多层 *** 的结构应运而生。

图： 从具体特征到抽象特征逐级深入的多级神经 ***

6， RNN和神经图灵机

如果时间序列数据里的模式也包含复杂的多层级结构， 这里和我之前说的复杂系统往往由于反馈导致复杂的时间依赖是一致的， 那么要挖掘这种系统里的模式， 我们通常的工具就是超级前卫的循环神经 *** RNN，这种工具对处理高维具有复杂反馈的系统有神效， 因为它本身就是一个高维具有复杂时间反馈的动力学系统。

图： 循环神经 *** ， 过去的信息可以通过循环存储在神经元之间

当一个复杂时间序列的问题里面， 每个时间点的信息都可以对未来以任何方式产生复杂影响， 那么处理这种复杂性的一个办法就是用循环神经 *** ，让它自发学习这种复杂结构。 比如一个城市里的交通流， 或者人与人之间的对话。

神经图灵机是在多层卷积神经 *** 或递归 *** 基础上加上一个较长期的记忆单元， 从而达到处理需要更复杂时间关联的任务， 比如对话机器人。 而神经图灵机最厉害的地方在于他可以通过机器学习传统的梯度下降法反向破译一个程序， 比如你写了一个python程序， 你用很多不同的输入得到很多对应的输出， 你可以把它给神经图灵机训练， 最终本来对程序丝毫无所知的神经图灵机居然可以如同学会了这个程序。

最精准的天气软件是哪个？

1、小兵天气：精准定位及时推送，分钟级、公里级天气预报，实时监测阴晴雨雪。提供15天天气预报，5天空气质量预报，实时空气质量及空气质量等级预报。特殊天气提前发送预警信息，帮助用户更好做出生活决策。

2、停课铃：软件能向公众之一时间发布所定制地区的权威停课信号以及天气预警信息。另外，停课铃可以很方便查看天气实况、空气质量、逐天预报，还可以查询精细至街道级别的天气信息，轻松预约自己需要的灾害天气预警信息。

3、心心天气：心心天气是一款全中文桌面天气预报查询软件。随时随地，全国天气，尽在掌握。ip自动定位判断城市，迅速连接显示国内2348个县级以上城市天气，包括温度，适度，风向等。

4、最美天气：最美天气是宇龙酷派公司研发的一款免费的天气预报应用。准确的数据源，人性化设计，漂亮的城市背景，简洁的操作布局，查询天气信息的同时，还能轻松掌控更全面的生活指数，支持多城市查询管理。

5、天气盒子：“天气盒子”是由中国气象局公共气象开发团队推出的一款专业的天气服务软件，可提供三天预报、气象预警等多种功能，气象信息来源于中国气象局中央气象台。

为什么卷积神经 *** 最后预测输出结果都是0

0代表0个map，0个特征，这应该是卷积神经 *** 的卷积核大小、个数，卷积层数设置过程中的问题。

如何利用神经 *** 或者机器学习进行变量预测问题

现实生活中预测通常难做到精准，比如股市，自然灾害， 长久的天气预测。 在市场这种系统里， 有两个关键要素， 一个是个体和个体之间的互相作用（博弈），一个是系统与外部环境（地球资源）之间的相互作用（反馈），因此而形成复杂模式