binghe79 发表于 2006-9-5 15:26

BP神经网络问题

请问怎在神经网络中对目标函数求导
我想得到目标函数对某一参数的导数

jimin 发表于 2006-9-5 19:54

神经网络中有目标函数这一说法吗
好象没听过
求导的话，数学中怎么求就这么求

binghe79 发表于 2006-9-6 11:23

目标函数就是输出 或叫响应 它是有一系列权值和伐值组成的影射公式

数学中怎么求 就怎么求 可是这里是影射关系 求出来的值对吗 在说求出来值还的反归一 那么这个值是用求导后的公式算出来的反归一不能用原来目标函数的t 吧

jimin 发表于 2006-9-6 12:05

不大理解，有的输出和输入之间不存在显式的数学表达式，那又怎么谈的上去求它的导数
或者你把问题再澄清一下，为什么要求它的导数，有什么用？

binghe79 发表于 2006-9-6 16:44

是没有显示表达式 但我们想利用隐式表达式 就是影射关系那个式子 给它微分
可以得到它对每个参数的偏导
这样可以进行更细致的参数分析
希望大家讨论

lxq 发表于 2006-9-6 19:43

这应该是BP训练函数做的吧
怎么看到具体细致的结果
就不知道了：（

miniducky 发表于 2006-9-8 22:09

你的出发点好像有点错噢

你想用神经网络来实现对某一函数的求导，我觉得你的方法不太可取，首先对某一确定函数来讲，它对某一点的导数应该是一个确定的值，而用神经网络算出的结果往往具有一定的随机性（当然神经网络的模拟能力是比较强），算出的结果可能比其它方法算出的误差还大，有点舍本逐末的感觉。你如果真的要用神经网络来实现实现，那你必须先有大量该函数的点与对应导数值的数据样本，这样才能用BP神经网络来实现，而且你的数据样本一定要多，这样才能保证导数值有足够的精确度。

Maxim 发表于 2006-9-10 10:44

你的意思是不是用每个神经元的阈值函数（比如sigmoid）去复合逼近希望求导的函数？

大概就是把每个神经元作为单元算子，然后不断按照输入输出反馈的模式去评估然后逐步向最终的目标靠拢。

难点在于，必须得经过足够多的训练过程，才能使整个神经网络变成一个可靠的偏微分算子，就像楼上说的那样。但是即使这样，神经网络模型的计算结果仍然没有数学方法可靠。
页: [1]
查看完整版本: BP神经网络问题