A. 用于BP神经网络训练的样本点如何生成
比如sinc测试集 间隔采样
B. Hopfield 神经网络有哪几种训练方法
人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前，已有近40种神经网络模型，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。根据连接的拓扑结构，神经网络模型可以分为：
（1）前向网络 网络中各个神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示。这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单，易于实现。反传网络是一种典型的前向网络。
（2）反馈网络 网络内神经元间有反馈，可以用一个无向的完备图表示。这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。系统的稳定性与联想记忆功能有密切关系。Hopfield网络、波耳兹曼机均属于这种类型。
学习是神经网络研究的一个重要内容，它的适应性是通过学习实现的。根据环境的变化，对权值进行调整，改善系统的行为。由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。Hebb规则认为学习过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。在此基础上，人们提出了各种学习规则和算法，以适应不同网络模型的需要。有效的学习算法，使得神经网络能够通过连接权值的调整，构造客观世界的内在表示，形成具有特色的信息处理方法，信息存储和处理体现在网络的连接中。
根据学习环境不同，神经网络的学习方式可分为监督学习和非监督学习。在监督学习中，将训练样本的数据加到网络输入端，同时将相应的期望输出与网络输出相比较，得到误差信号，以此控制权值连接强度的调整，经多次训练后收敛到一个确定的权值。当样本情况发生变化时，经学习可以修改权值以适应新的环境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习时，事先不给定标准样本，直接将网络置于环境之中，学习阶段与工作阶段成为一体。此时，学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb学习规则。竞争学习规则是一个更复杂的非监督学习的例子，它是根据已建立的聚类进行权值调整。自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。
研究神经网络的非线性动力学性质，主要采用动力学系统理论、非线性规划理论和统计理论，来分析神经网络的演化过程和吸引子的性质，探索神经网络的协同行为和集体计算功能，了解神经信息处理机制。为了探讨神经网络在整体性和模糊性方面处理信息的可能，混沌理论的概念和方法将会发挥作用。混沌是一个相当难以精确定义的数学概念。一般而言，“混沌”是指由确定性方程描述的动力学系统中表现出的非确定性行为，或称之为确定的随机性。“确定性”是因为它由内在的原因而不是外来的噪声或干扰所产生，而“随机性”是指其不规则的、不能预测的行为，只可能用统计的方法描述。混沌动力学系统的主要特征是其状态对初始条件的灵敏依赖性，混沌反映其内在的随机性。混沌理论是指描述具有混沌行为的非线性动力学系统的基本理论、概念、方法，它把动力学系统的复杂行为理解为其自身与其在同外界进行物质、能量和信息交换过程中内在的有结构的行为，而不是外来的和偶然的行为，混沌状态是一种定态。混沌动力学系统的定态包括：静止、平稳量、周期性、准同期性和混沌解。混沌轨线是整体上稳定与局部不稳定相结合的结果，称之为奇异吸引子。
C. rbf神经网络的训练样本要多大
因课题而异。
1、样本最关键在于正确性和准确性。你所选择的样本首先要能正确反映该系统过程的内在规律。我们从生产现场采得的样本数据中有不少可能是坏样本，例如由于测量仪器故障导致测量数据误差较大等，这样的样本会干扰你的神经网络训练。通常我们认为坏样本只是个别现象，所以我们希望通过尽可能大的样本规模来抵抗坏样本造成的负面影响。
2、其次是样本数据分布的均衡性。你所选择的样本最好能涉及到该系统过程可能发生的各种情况。例如某化工生产中某反应炉的温度主要分布在350度—400度，且出现在380度的情况较多，那么你的样本数据最好也是在350-400度各种情况都有，并且也是在380度左右的样本较多些，这样可以极大可能的照顾到系统在各个情况下的规律特征。通常我们对系统的内在规律不是很了解，所以我们希望通过尽可能大的样本规模来“地毯式”覆盖对象系统的方方面面。
3、再次就是样本数据的规模，也就是你要问的问题。在确保样本数据质量和分布均衡的情况下，样本数据的规模决定你神经网络训练结果的精度。样本数据量越大，精度越高。还用刚才的例子，假如反应炉的温度主要均匀分布在375-385度之间，那么你用100个均衡分布在375-385度的训练样本去训练，经过无限次或者说是足够多次迭代之后，理论上你的神经网络的精度就是0.1度。如果你觉得0.1度足够细腻了，那么样本规模为100也就可以接受了。由于样本规模直接影响计算机的运算时间，所以在精度符合要求的情况下，我们不需要过多的样本数据，否则我们要等待很久的训练时间。
补充说明一下，不论是径向基（rbf）神经网络还是经典的bp神经网络，都只是具体的训练方法，对于足够多次的迭代，训练结果的准确度是趋于一致的，方法只影响计算的收敛速度（运算时间），和样本规模没有直接关系。
D. 一个系统的稳定过程的采样数据如何作为神经网络的训练样本
海维深科技(深圳)有限公司
工业生产过程控制系统以连续型流程为例，己从过程的热工量控制发展到产品质量的 在线监控、设备运行的动态检测。生产状态的监控以及设备间的协调控制。新型工业控制 系统更多是从大系统角度，针对冶金、炼油。电力、石油。化工，建筑材料等连续生产过 程设计的。伴随着高温、高压、高速的工艺要求，自动化系统成为确保安全。保护环境。 节能降耗、提高质量和效率的重要装备。很多生产环节非人力能胜任，非自动化不足以保 证安全和确保质量，所处理的已不仅是单参数系统，有些是非线性问题，时变参数问题以 及随机过程控制问题。经典控制理论，以模拟量为主的调节系统已不能满足生产需要，代 之以状态空间方法的近代控制理论，较多的采用数模结合的数字系统，例如集散系统、分 散系统、新一代可编程控制系统。工业控制计算机组成的系统，以及近年来实现的双向多 变量数字通信。并将控制回路下载到基层的现场总线技术。1999年度重点支持的技术创新 项目如下：
1．现场总线技术的全开放分散控制系统 现场总线（Fiedbus）的概念从分散型控制系统（DCS）问世以后就开始酝酿了，它是自动化 技术、计算机网络技术和仪表技术发展结合的成果，并将改变习惯的控制模式。对于工业 自动化装置产业界来说，这是一次根本性的变革，由此也带来新的发展机遇。现场总线的 控制系统实现了现场仪表和控制室之间全数字化。双向。多站通信，克服了封闭系统形成 的缺陷，使控制功能彻底下载到现场，成为新一代的全分布式系统。其特点是：开放性。 分散性和全数字通讯。这一系统的市场前景广阔，并可大大提高工业生产过程控制技术水 平。本年度重点支持：
（1）新型的现场仪表、装置软、硬件的开发，包括高性能、多变量。多功能的现场智 能变送器、智能执行器及通讯接日等产品；
（2）基于现场总线控制系统的系统组态软件的开发和便携式总线分扩器的开发；
（3）作为现场总线网络节点的特种控制装置。数据采集装置的开发；
（4）低成本的现场总线系统与装置的开发（应用场合为：粮食。食品仓储系统，现代农 业的蔬菜、药材。花卉种植环境检测，控制系统）；
（5）基于OPC技术的控制与操作软件的开发；
（6）现场总线控制系统的网络化技术。
2．新一代的工业控制计算机
PCI局部总线始于Inter公司，其英文全名为Periphera Component 1nterconnet。它是具有地址、数据多路复用的高性能32位和64位总线。解决了处理器和显示设备瓶颈问题，满足 了面向图形的操作系统和应用要求，它不仅满足了高、中。低档台式机的应用需要，而且 还适应于从移动计算机到服务器整个领域的需要。
Compact PCI（compact peripheral component interconnet）意思是“坚实的PCI”。它是PCI总 线的电气和软件加上欧式卡，它具有在不关闭系统的情况下取出和替换部件的能力。“即插 即用”功能的实现对高可用系统和容错系统非常重要。Compact PCI能利用已有的其他总线 产品，如： STD、VME、1SA等来扩充其功能，做到共存，有很好的容纳性。本年度重点 支持：
（1）开发、研制Compact PC1： 从STD总线、工业PC、即最新推出的Compact PCI技术，不难看出，我国工业控制计算 机的开发创新应吸取和继承商用计算机软、硬件的研制经验，走与商业机兼容的道路。
（2）吸取Compact PCI技术上的特色和优势，开发适合市场需求的机箱和母板；（例如： 3U、6U机箱，“ALL·in One”CPU板）
（3）采用Compact PCI规范，结合智能1／O模板，通过系统集成，分别组合为适应各领域 的控制系统；
（4）为了适应Windows图形软件技术的应用，配套开发与硬件相应的驱动程序；
（5）开发或引用功能好、成本低的控制软件，以充分发挥Compact PCI结构紧凑、抗振 动、散热好、适于嵌入应用的多项优势。
3．实时智能控制软件 迄今为止，世界上最高级、最有效的控制系统是人类自身，因此研究人类自身表现出 来的控制机制，并以软件的运行来模仿实现是解决工业过程难控问题的重要途径。 当前，在工业生产过程控制系统引入智能控制软件主要是针对非线性、大滞后、多变 量。不确定性乃至粗糙而无法建模的生产过程。因为这些过程控制困难，用传统经典控制 方法很难凑效。由于复杂生产过程不能得到良好控制，使得企业生产能耗下不来、质量上 不去，以至生产不够稳定。因此，在我国大力发展智能控制是一条有效可行的路子。 根据我国工业生产过程控制现状，本年度重点支持：
（1）实时智能控制软件包，包括：模糊控制器、仿真智能控制软件包，提供相应的嵌 入DCS及其他控制装置的控制组态软件的接口；
（2）各种炼油、化工、冶金、建材等生产装置、关键设备在线操作优化软件包；
（3）多变量预测控制、多变量智能协调控制等先进控制软件包；
（4）关键设备故障诊断软件包。
4．实时智能控制软件平刍工具 为了帮助和支持实时智能软件的开发，有条件的科技型中小企业希望能开发有自主知 识产权的工程化实时智能控制软件平台工具，本年度重点支持：
（1）模糊控制开发平台； 运用CAD方法，支持工程师开发模糊控制，从隶属函数建立，规划库生成，多种推理 方法以及清晰化方法选择等。只需图形组态，直接生成控制算法，并嵌入其他常规控制之中。
（2）专家系统开发平台； 支持整个专家系统开发生成周期，支持各种推理方法和推理机制，图形组态开发，与 常规控制能很好地集成。
（3）神经网络开发平台。
支持从样本数据采集／录入，多种网络模型的选择，图形监控训练过程，自动生成神经 网络控制算法，并可与常规控制加以集成。必须指出：当前智能控制的工程化应用必须与 常规控制方法（回路调节、逻辑连锁、画面监控等）集成运用才是最有效的办法。
5．高精度、模块化的智能1／0技术
现有的各类工业生产过程控制系统中主体监控部分（为工控机）一般放在远离现场的控 制室里，现场的测量仪表（温度。压力。流量、速度等位置器或变送器）输出的信号（为4．20mA） 通过多根并行电缆传送到控制室，与对应的工控机相连。工控机通过模板或模块将模拟信 号转变为数字信号（AO变换）处理；反之又可将数字信号转变为模拟信号（D/A变换）。 如果现场仪表输出的电信号能就地数字信号传输，或在上层的数字信号能传输到现场 后再变换为模拟信号输入仪表装置，这样，现场大量的仪表、装置和控制室工控机之间通 过几根双绞线互连在一起即可完成传统控制系统的功能，从而降低了成本、方便维护、提 高了系统的可靠性、减少控制室面积。这就是针对现有的各类传统控制系统实施的智能1／0 技术和现场测控网络技术。本年度重点支持：
（1）开发由智能单元（单片机、DSP）、1／O电路、网络接日及相应软件组成的智能1／O模 板。 单片机、DSP应选择适用和先进的1／O电路，应包括：A/D、D/A、v/F、及DI/DD常用 型；隔离型和非隔离型。
（2）开发由智能1／O模块、现场测检网络、管理计算机及相应软件组成的测控系统； 智能（0模板可以是单一的输入或输出功能，也可以是自闭路的回路控制功能。 测控网络可以是单一种类，也可以是多种网络混合构成。
（3）研究和推广智能1／O模块扩展到非工业生产过程的应用，如：城市电表、煤气表、 热水表和冷水表的自动收费系统；电气化铁道变电站馈线微机保护系统等方面。
E. bp神经网络算法迭代一次是所有样本都算一遍吗
是的，全部样本都要算一遍。按照顺序依次抽取样本，代入BP算法，调整权值。也有部分算法是按随机方式，每次样本进来的顺序都不同，但仍然是所有样本都要参与。
唯一可能有点区别的是，标准BP算法中，每输入一个样本，都要回传误差并调整权值，这种对每个样本轮训的方法称为“单样本训练”。由于单样本训练遵循的是只顾眼前的“本位主义”原则，只针对每个样本产生的误差进行调整，难免顾此失彼，使训练次数增加，导致收敛速度过慢。因此，有另外一种方法，就是在所有样本输入之后，计算网络的总误差，再根据总误差调整权值，这种累积误差的批处理方式称为“批训练”或“周期训练”。在样本数较多时，批训练比单样本训练的收敛速度更快。
F. 什么是样本训练
一般指对人工神经网络训练。
向网络足够多的样本，通过一定算法调整网络的结构（主要是调节权值），使网络的输出与预期值相符，这样的过程就是神经网络训练。根据学习环境中教师信号的差异，神经网络训练大致可分为二分割学习、输出值学习和无教师学习三种。
G. 什么神经网络训练学习学习有哪几种方式
神经网络的学习，也就是训练过程，指的是输入层神经元接收输入信息，传递给中间层神经元，最后传递到输出层神经元，由输出层输出信息处理结果的过程。
1、有监督学习2、无监督学习3、增强学习。
H. BP神经网络方法
人工神经网络是近几年来发展起来的新兴学科，它是一种大规模并行分布处理的非线性系统，适用解决难以用数学模型描述的系统，逼近任何非线性的特性，具有很强的自适应、自学习、联想记忆、高度容错和并行处理能力，使得神经网络理论的应用已经渗透到了各个领域。近年来，人工神经网络在水质分析和评价中的应用越来越广泛，并取得良好效果。在这些应用中，纵观应用于模式识别的神经网络，BP网络是最有效、最活跃的方法之一。
BP网络是多层前向网络的权值学习采用误差逆传播学习的一种算法（Error Back Propagation，简称BP）。在具体应用该网络时分为网络训练及网络工作两个阶段。在网络训练阶段，根据给定的训练模式，按照“模式的顺传播”→“误差逆传播”→“记忆训练”→“学习收敛”4个过程进行网络权值的训练。在网络的工作阶段，根据训练好的网络权值及给定的输入向量，按照“模式顺传播”方式求得与输入向量相对应的输出向量的解答（阎平凡，2000）。
BP算法是一种比较成熟的有指导的训练方法，是一个单向传播的多层前馈网络。它包含输入层、隐含层、输出层，如图4-4所示。
图4-4 地下水质量评价的BP神经网络模型
图4-4给出了4层地下水水质评价的BP神经网络模型。同层节点之间不连接。输入信号从输入层节点，依次传过各隐含层节点，然后传到输出层节点，如果在输出层得不到期望输出，则转入反向传播，将误差信号沿原来通路返回，通过学习来修改各层神经元的权值，使误差信号最小。每一层节点的输出只影响下一层节点的输入。每个节点都对应着一个作用函数（f）和阈值（a），BP网络的基本处理单元量为非线性输入-输出的关系，输入层节点阈值为0，且f（x）=x；而隐含层和输出层的作用函数为非线性的Sigmoid型（它是连续可微的）函数，其表达式为
f（x）=1/（1+e-x） （4-55）
设有L个学习样本（Xk，Ok）（k=1，2，…，l），其中Xk为输入，Ok为期望输出，Xk经网络传播后得到的实际输出为Yk，则Yk与要求的期望输出Ok之间的均方误差为
区域地下水功能可持续性评价理论与方法研究
式中：M为输出层单元数；Yk，p为第k样本对第p特性分量的实际输出；Ok，p为第k样本对第p特性分量的期望输出。
样本的总误差为
区域地下水功能可持续性评价理论与方法研究
由梯度下降法修改网络的权值，使得E取得最小值，学习样本对Wij的修正为
区域地下水功能可持续性评价理论与方法研究
式中：η为学习速率，可取0到1间的数值。
所有学习样本对权值Wij的修正为
区域地下水功能可持续性评价理论与方法研究
通常为增加学习过程的稳定性，用下式对Wij再进行修正：
区域地下水功能可持续性评价理论与方法研究
式中：β为充量常量；Wij（t）为BP网络第t次迭代循环训练后的连接权值；Wij（t-1）为BP网络第t-1次迭代循环训练后的连接权值。
在BP网络学习的过程中，先调整输出层与隐含层之间的连接权值，然后调整中间隐含层间的连接权值，最后调整隐含层与输入层之间的连接权值。实现BP网络训练学习程序流程，如图4-5所示（倪深海等，2000）。
图4-5 BP神经网络模型程序框图
若将水质评价中的评价标准作为样本输入，评价级别作为网络输出，BP网络通过不断学习，归纳出评价标准与评价级别间复杂的内在对应关系，即可进行水质综合评价。
BP网络对地下水质量综合评价，其评价方法不需要过多的数理统计知识，也不需要对水质量监测数据进行复杂的预处理，操作简便易行，评价结果切合实际。由于人工神经网络方法具有高度民主的非线性函数映射功能，使得地下水水质评价结果较准确（袁曾任，1999）。
BP网络可以任意逼近任何连续函数，但是它主要存在如下缺点：①从数学上看，它可归结为一非线性的梯度优化问题，因此不可避免地存在局部极小问题；②学习算法的收敛速度慢，通常需要上千次或更多。
神经网络具有学习、联想和容错功能，是地下水水质评价工作方法的改进，如何在现行的神经网络中进一步吸取模糊和灰色理论的某些优点，建立更适合水质评价的神经网络模型，使该模型既具有方法的先进性又具有现实的可行性，将是我们今后研究和探讨的问题。