上海企业网站建设费用,小型网站的建设与开发,工业设计的就业前景,网页微信版下载下面是我们在推导sparse autoencoder时使用的符号一览表#xff1a;
符号含义训练样本的输入特征#xff0c;.输出值/目标值. 这里 可以是向量. 在autoencoder中#xff0c;.第 个训练样本输入为 时的假设输出#xff0c;其中包含参数 . 该输出应当与目标值 具有相同的… 下面是我们在推导sparse autoencoder时使用的符号一览表
符号含义训练样本的输入特征.输出值/目标值. 这里 可以是向量. 在autoencoder中.第 个训练样本输入为 时的假设输出其中包含参数 . 该输出应当与目标值 具有相同的维数.连接第 层 单元和第 层 单元的参数.第 层 单元的偏置项. 也可以看作是连接第 层偏置单元和第 层 单元的参数.参数向量. 可以认为该向量是通过将参数 组合展开为一个长的列向量而得到.网络中第 层 单元的激活输出值. 另外由于 层是输入层所以 . 激活函数. 本文中我们使用 .第 层 单元所有输入的加权和. 因此有 .学习率第 层的单元数目不包含偏置单元.网络中的层数. 通常 层是输入层 层是输出层.权重衰减系数.对于一个autoencoder该符号表示其输出值亦即输入值 的重构值. 与 含义相同.稀疏值可以用它指定我们所需的稀疏程度sparse autoencoder中隐藏单元 的平均激活值.sparse autoencoder目标函数中稀疏值惩罚项的权重.
