非线性系统的RBF神经网络建模方法研究_图文

第3 0卷

第 6期 

大庆师 范学院学报 
J URNAL OFDAQI   ORMAL UN VER IY  0     NG N   I ST

V0. 0 No 6 13   . 

21 0 0年 l 1月 

N v mb r 2 1   o e e .0 0

非 线  系  的 R F神 经 网 络 建 模 方 法 研 究  性 统 B
王艳芹 , 王凤嫔 
( 大庆 师范学院 物理 与电气信息_ 程学院, 7 2 黑龙江 大庆 13 1 ) 67 2 



要 :B R F神经 网络理论 为非线性 系统 辨识提供 了有力 的工具。针对 多数 R F神经 网络原有算 法的计算量大、 B  

学习速度慢 等缺 点, 采用一种混合算法 , 仿真结果表 明算法具有 一定 的有效性 。   关键词 : 非线性系统; B R F神经 网络; 习算法  学 作者简介 : 王艳 芹(9 9一) 女 , 17 , 黑龙 江海伦人 , 大庆师范学院物理与 电气信息工程学院讲师 , 从事神经 网络 辨识与  
控 制 研 究。   基 金项 目 : 庆 师 范 学 院青 年 基 金 研 究项 目(8 Q 9 。 大 O Z O )  中 图 分 类 号 :P 7 文 献 标 识 码 : 文章 编 号 :05— 0 3 2 1 ) 6— 0 3— 3 收稿 日期 :0 0— 5— 9 T23 A 2 9 06 (00 0 0 2 0 2 1 0 2 

随 着 控 制 过 程 复 杂 性 的 提 高 , 制 理 论 的 应 用 日益 广 泛 。 但 是 , 制 理 论 的 实 际 应 用 不 能 脱 离 被 控 对  控 控
象 的 数 学 模 型 。 然 而 , 多 数 情 况 下 , 控 对 象 的 数 学 模 型 是 未 知 的 , 且 在 正 常 运 行 期 间 , 型 的 参 数 可  在 被 并 模

能 发 生 变 化 , 此 , 用 控 制 理 论 去 解 决 实 际 问 题 时 , 先 必 须 建 立 被 控 对 象 的 数 学 模 型 。 这 是 控 制 理 论  因 利 首
能否 成功地 应用 于 实际 的关键 之一 。   对 于 复杂 的非 线 性 系 统 的辨 识 问题 , 直未 能 很 好 解 决 。神 经 网络 所 具 有 的非 线 性 特 性 和 学 习能 力 , 一 为非  

线性 系统 辨 识 提 供 了新 的方 法 。在 动 态 系统 辨识 等 领 域 中 , 层 前 向 网 络 的 应 用 极 为 广 泛 。但 是 , 多 数 基 于   多 大
反 向 传播 学 习算 法 的 多层 前 向 网络 与 参数 之 间是 高 度 非线 性 的 , 网络 的 学 习要 基 于某 种 非 线 性 优 化 技 术 , 于是 ,  

都存 在一 个 共 同的 缺 点 , 即在 学 习 阶段 参 数 估 计 可 能会 陷入 目标 函数 的某 个 局 部 极 小 点 。虽 然 对 学 习算 法 的改  
进 能在 一 定 程 度 上 避免 局 部 极 小 , 一 般 需 要 大 量 计算 , 将 限 制 多 层 前 向 网络 的实 际 应 用 。径 向基 函数 ( a  但 这 R— da  ai F n t n — R F 神 经 网 络理 论 为 多 层 前 向 网络 的学 习 提供 了一 种 新 颖 有 效 的 手段   。 i B ss u ci — l   o B ) J 

1 R F神经 网络    B
RB F神 经 网络 的 典 型 结 构 如 图 1所 示 , 失 一 般 性 , 设 输 出 层 只 有 一 个 结 点 , 种 结 构 很 容 易 扩 展   不 假 这 到 多 输 出结 点 的情 形 。 输 入 层 到 隐 层 为 权 值 1的 固定 连 接 。 隐 含 层 由一 组 径 向基 函 数 构 成 , 中 对 应 的  其 中心 向量 和宽度 是 R BF的 参 数 。一 般 隐 含 层 各 结 点 都 采 用 相 同 的 径 向 基 函 数 , 向 基 函 数 有 多 种 形 式 , 径   通 常 取 高 斯 函 数 。 隐 层 的 输 出在 输 出层 线 性 加 权 组 合 , 成 神 经 网络 的 输 出 。 形  

图 lR F神 经 网 络 的 结构    B

网 络 输 入 与 输 出之 间 的 映 射 关 系 为 : ( R _ ):  一 R 厂  

Y=厂 )= ∑W ( 一 i ,  _ (   i    ClO)   - l  
i= 1  
=  


e p   

2。 r o 

2  3

式 中 m— — 隐 含 层 结 点 数 ;l I — 欧 几 里 得 泛 数 ; C 1.I —  ,  ∈R ; ∈R  W ∈R W = (   … ,    ;  W ,  , W , W )  

W 一 第 i 基 函数 与 输 出 结 点 的 连 接 权 值 (   个 i= 1 … m) 构 造 和 训 练 一 个 R , 。 BF神 经 网 络 就 是 要 使 它 通 过 学   习 , 定 出 每 个 隐 层 神 经 元 基 函 数 的 中心 C , 度 O。 确  宽 -以及 隐 层 到 输 出层 的 权 值 向  量 这 些 参 数 的 过 程 ,   从
而 可 以建 立 所 研 究 系 统 的 输 入 到 输 出 的 映 射 。  

2 RF   B 神经 网络的基本学 习算法 
R BF神 经 网 络 要 学 习 的 参 数 有 三 个 : 含 层 基 函 数 的 中 心 、 差 以 及 隐 含 层 到 输 出 层 的 权 值 。 在   隐 方

R F 网络 中 , 出 层 和 隐含 层 所 完 成 的 任 务 是 不 相 同 的 , 而 它 们 的 学 习 策 略 也 不 相 同 。 输 出 层 是 对 线   B 输 因 性 权 进 行 调 整 , 用 的是 线 性 优 化 策 略 , 而 学 习速 度 较 快 。 而 隐 含 层 是 对 作 用 函 数 的 参 数 进 行 调 整 ,   采 因 采
用 的 是 非 线 性 优 化 策 略 , 而 学 习 速 度 较 慢 。 下 面 阐 述 RB 因 F网络 基 本 学 习 方 法  ]  。
2 1直 接 计 算 法   .

隐 单 元 R F 的 中 心 在 输 人 样 本 中 随 机 选 取 , 中 心 固定 。 R F 的 中 心 确 定 以 后 , 单 元 的 输 出 是 已  B 且 B 隐 知的 , 样 , 这 网络 的 连 接 权 就 可 通 过 求 解 线 性 方 程 组 来 确 定 。   当 RB F选 用 高 斯 函 数 时 , 可 表 示 为  它
.  

^r , 

.  

G I 一£I (I    I  )=ep 一a  l 一£I ) x (  }{    I    
均 方 差 ( 宽 度 ) 定 为 : = d /  ̄2 。 即 固 6   Y 网络 的 连 接 权 量 可 由 下 式 直 接 计 算 。 g -  
W =G  d, = 0 A  

() 2 

式 中 , 为 中心数 ( 隐含层单 元 数 ) d M 即 ; 为 所 选 中 心 之 间 的 最 大 距 离 。 在 此 种 情 况 下 , 斯 R F 的  高 B
() 3 
() 4 

式 中 ,  是 矩 阵 的 伪 逆 , G 即 
G  = (   一G G G)   

其 中 , 由下式确定  G G = { j ,  = ep(   g  g } x 一
a m 

【 l  

—t I ),  l J= 1 2, 。 , …Ⅳ; i= 1, …  2,

(   5)

对 于给定 问题 , 果样本 数据 的分布具 有代表 性 , 方法就是 一种 很简单 可行 的方法 。 如 此  
2 2 自 组 织 学 习 选 取 RB 中 心   . F 在 这 种 方 法 中 , F 的 中 心 是 可 以 移 动 的 , 通 过 自 组 织 学 习 确 定 其 位 置 。 而 输 出 层 的 线 性 权 则 可  RB 并

以 通 过 有 导 师 的 学 习规 则 计 算 。 由 此 可 见 , 是 一 种 } 这 昆合 式 学 习 方 法 。 自组 织 学 习 部 分 是 在 某 种 意 义 上  对 网络 的 资 源 进 行 分 配 , 习 目的 是 使 RB 学 F的 中 心 位 于 输 入 空 间 的 最 重 要 的 部 位 区 域 。  

RB F的 中心 的 选 择 可 以采 用 K均 值 聚 类 算 法 。 这 是 一 种 无 监 督 的学 习 方 法 。 具 体 步 骤 如 下 :   ① 初 始 化 聚 类 中心 t( = 1 2,     , …  ) 一 般 是 从 输 入 样 本  ( 。 J= 1 2, 、 , …,)中 选 择   个 样 本 作 为 初 始   ,
中心 。  

② 将 输入样 本按 最邻近 规则分组 , 即将   (  = z2 … /)分 配 给 与 它 距 离 最 近 的 中 心 t所 在 聚 类 集 合  ,, 、 ,  
0(   i= 1 2, , …  )  。

③ 计 算 聚 类 集 合 0(   i= 1 2, , …  )中 的 样 本 均 值 。 出 新 的 中 心  ( 得 i= 1 2, , …  ) 按 上 述 步 骤 计 算 , 。  
直到 中心不再 变化 为止 , 则 , ② 。 否 转  

④ 计 算 均 方 差 6, : d / 6   

,  为 所 选 中 心 之 间 的最 大 距 离 。 d  

⑤ 计 算 矩 阵 G的 各 元 素 。   ⑥ 用 高 斯 消 去 法 求 解 ( )可 求 出 权 阵  。 3  
⑦ 计 算 网络 输 出 Y = GW 。  

由 于 输 出 层 与 隐 层 之 间 是 线 性 映 射 , 输 出 层 权 值 的 计 算 可 以用 最 小 二 乘 法 或 高 斯 消 去 法 求 解 。 对  

3 R F神经网络 的混合学 习算法    B
R BF神 经 网 络 的非 线 性 映 射 能 力 体 现 在 隐 含 层 的 基 函 数 上 , 函数 的 中心 值 对 RB 基 F网 络 的 非 线 性 逼  近 能 力 有 很 大 影 响 。K 均 值 聚类 等 方 法 对 聚类 的初 始 类 数 和 位 置 非 常 敏 感 。 为 此 , 用 一 种 优 选 聚 类 算  采 法 ]基 于 该 算 法 对 输 入 样 本 的 聚 类 过 程 进 行 优 化 , 后 取 聚 类 的组 数 作 为 RB , 然 F神 经 网 络 隐 层 的 单 元 个  数 , 时 也 计 算 出 RB 同 F参 数 的初 始 权 值 。这 为 进 一 步 精 确 辨 识 RB F的 参 数 和 网 络 的 权 值 提 供 了 可 靠 的 
基 础 。 为 了保 证 网络 具 有 很 好 的分 类 能 力 和 泛 化 能 力 , 过 调 整 函 数 F的 阀 值 , 二 者 之 间 进 行 有 效 折  通 在 衷 。R BF神 经 网 络 中 的 径 向 基 函数 采 用 高 斯 函 数 , 输 入 层 至 隐 层 是 非 线 性 映 射 , 用 具 有 二 阶 收 敛 速  故 采 度 的递 推 学 习 算 法 , 一 步 改 善 RB 进 F神 经 网络 参 数 以及 权 值 辨 识 速 度 和 精 度 。  

3 1优 选 聚 类 算 法  . 为 了 寻求 输 入 向 量 样 本 集 的合 理 聚类 结 果 , 出 如 下 一 个 控 制 聚 类 合 理 性 函数 : 给  
2   4



: 

二  

() 6 

m—1   。一C 三  ‘   一磊   h
当 用 适 当 方 法 确 定 规 则 数 m 及 其 中 心 C(   i= 1, …m)后 , 用 上 式 定 量 估 价 聚 类 的 合 理 性 。 数 F  2, 可 函 的意义 为 : 由聚类 划分 所形 成 的同一类 中的输入 样本 靠得 越 紧 , 同 聚类 中心 的距 离越 远 , 聚类结 果  若 不 则 的合 理 性 越 好 。 类 的 合 理 性 划 分 就 是 使 函 数 ,越 小 越 好 。 邻 近 聚 类 法 是 预 先 给 定 一 个 聚 类 半 径 r,   聚 最 置
初 始聚类 个数 I n=1 取 第 1个 输 入 样 本  为 聚 类 中心 c , c ,   即  :X  计 算 c ;  与 Xp P :2, … , ( 3, Ⅳ)的 欧 氏  范 数 d 若 d  最 小 者 , d =d , 作 如 下 判 断 : d <r 则   归 人 第 1类 , 则 另 建 新 类 , :m +  ; 。为 即 。 … 则 若   , 否 m  

1, 2= Xi… … , 此 进 行 , 类 个 数 逐 渐 增 多 , 到 已归 类 的样 本 个 数 S = N 时 结 束 。 c , 如 聚 直     在 上 述 最 邻 近 聚 类 法 中 引 入 优 化 策 略 , 一 维 寻 优 方 法 优 选 半 径 r使 式 ( ) 中 的 函 数 F 达 到 最 小 。 用 , 6   该 算 法 由半 径 的 优 选 算 法 ( OA) 聚 类 算 法 ( A) 部 分 组 成 。 C 通 过 聚 类 确 定 类 数 m 和 每 类 的 中 心  和 C 两 A c,   i= 1 2, m, 后 用 式 ( , … 然 6)计 算 函 数 F 的 值 。 O 为 主 算 法 , 次 迭 代 均 调 用 C A 每 A。 OA 的基 本 思 路 是 ,  
先用 步长 加速 法寻求 R的最 优值 r  所 在 区 问 , 后 用 二 次 多 项 插 值 法 求 取   。 然   3 2 RB .   F神 经 网 络 的 新 型 二 阶 学 习 算 法  采 用 一 种 不 需 任 何 简 化 的 递 推 Ne tn算 法 , 与 Ne o wo 它 wtn法 等 价 , 有 二 阶 收 敛 速 度 。 具  
=  
一  

+ △ 

() 7 

△ 


= /  一 X l+M  卢 占 一X' [   m △  1  ]

1 z = 1   ( )   一 ”( m e ] /  /[   )   Y 一 )  
M   = | 1X  [ P  / 


() 8 
( ) 9 
( 0) 1  

+X' m P  X 
P  

P  = P   3 3 仿 真 实 例  .

一 M 

以 如 下 非 线 性 系 统 为 例 

y +1  了 ( )  

+“ ()    

“ t = 2 i ( 7t2 0) () sn 2 r 5   /

进 行 仿 真 。采 集 5 0组 训 练 数 据 , 先 用 优 选 聚 类 法 得 到 聚 类 个 数 为 1 0 首 6个 , RB 即 F神 经 网 络 隐 层 神 经 元  

个 数 为 1 则 网 络 结 构 为 2—1 6, 6—1 其 中 输 入 层 的 输 入 矢 量 为 X  t+ 1 = [ £ “( )]。 , ( )  ( ), t  

图 2仿 真 结 果 

图 3相 对 误 差 曲 线 

应 用 以上 混 合 算 法 对 系 统 进 行 仿 真 。 得 到 仿 真 结 果 如 图 2, 对 误 差 曲 线 如 图 3所 示 。 平 均 相 对 误   相 差 为 9 6 9 E一0 4。 对 该 非 线 性 系 统 经 过 9 .60 0 8步 训 练 相 对 误 差 达 到 0 0 , 对 该 系 统 用 带 动 量 项 的 BP算  .l而

法 达 到 同样 精 度 需 要 3 4 8 5步 。 由此 可 见 , 混 合 算 法 大 大 提 高 了收 敛 速 度 , 省 了 运 算 时 间 。 该 节  

4 结语 
RB F神 经 网 络 为 非 线 性 系 统 建 模 提 供 了一 条 有 效 的途 径 。 目前 用 于 R BF神 经 网 络 的 学 习 算 法 很 多 ,  

但 算 法 的 收 敛 性 、 敛 速 度 等 方 面 的 问题 以及 用 于 RB 收 F神 经 网络 学 习 的 新 的算 法 还 有 待 于 进 一 步 探 讨 研  
究 。 本 文 采 用 RB F神 经 网 络 的 混 合 算 法 对 非 线 性 系 统 进 行 仿 真 , 果 表 明 其 有 效 性 。 结  

[ 考 文 献] 参  
[ ] en J q e E S t e We i  i应用非线性控制 [ . 1 Ja — a us .l i , i n L. c   on pg M] 北京 : 机械工业出版社,0 6 1 3 20 : — .  
[ ]高隽 . 2 网络原理及仿真实例[ . 京: M] 北 机械工业 出版社 ,0 6:6~5 . 20 5 7  [ ]Bnhn M ,r cn  , oi erigWi ot oa Mia i  ail ai F nt nN tok[ ] E ETa s DN ua N tok , 9 5 3 icii Fa oi G r ann  t u  cl nma nR da  s u ci  ew rsJ .I E  rn.O  erl e rs 19    s P .L h L   B s o   w
6( 3):4 —7 5  79 5.

[ ]王永骥, 4 涂健. 神经元 网络控制 [ . M]北京 : 机械工业 出版社 ,9 8  19 . [ ]刘铁 男.带优选聚类算 法的 RB 5 F网络辨识 器及应用 [ ] J .控制与决策 , 0 3 1 ( ) 2 3— 3 . 2 0 ,8 2 :3 2 6 


相关文档

基于RBF神经网络的非线性电子器件的建模方法研究
一类非线性系统的神经网络控制器建模方法及其仿真研究
一种利用RBF神经网络的传感器建模新方法
RBF神经网络在非线性系统辨识中的应用
基于RBF神经网络的非线性系统故障诊断
基于RBF神经网络的水处理系统建模与仿真
基于RBF神经网络的复杂系统的建模与优化
RBF神经网络的异丙苯氧化系统建模与仿真
RBF神经网络分析方法在车辆状态远程监测系统中的应用
电脑版