表示一个网络层,计算具有可学习斜率的带泄露 ReLU 激活函数.
ParametricRampLayer[levels]
指定每个维度都有一个特定斜率的那些层.
ParametricRampLayer
表示一个网络层,计算具有可学习斜率的带泄露 ReLU 激活函数.
ParametricRampLayer[levels]
指定每个维度都有一个特定斜率的那些层.
更多信息和选项
- 在 ParametricRampLayer[levels] 中,可用以下设置指定层:
-
a 只有层 a a1;;a2 层 a1 到层 a2 {a,b,…} 层 a,b,… {} 所有维度均具有唯一的斜率值 - 在 ParametricRampLayer[] 中,使用的层为 1.
- 可指定以下可选参数:
-
"Slope" Automatic 可学习的斜率张量 LearningRateMultipliers Automatic 斜率的学习速率倍增器 - 斜率是应用于输入的负值的泄漏系数. ParametricRampLayer 对元素逐个应用以下函数:
- 默认情况下,斜率被初始化为 0.1.
- ParametricRampLayer["Slope"value,LearningRateMultipliers->0] 是斜率固定的带泄漏的 ReLU.
- ParametricRampLayer 开放下列端口,以便用于 NetGraph 等:
-
"Input" 任意阶的数组 "Output" 维数与输入的维数相同的数组 - 在较大的网络中,如果不能从其他层推导得出,可以使用选项 "Input"->{n1,n2,…} 来确定 ParametricRampLayer 的输入维度.
- Information[ParametricRampLayer[…]] 给出关于该网络层的报告.
- Information[ParametricRampLayer[…],prop] 给出 ParametricRampLayer[…] 的属性 prop 的值. 可能的属性与 NetGraph 的相同.
范例
打开所有单元 关闭所有单元基本范例 (2)
创建一个 ParametricRampLayer:
ParametricRampLayer[]创建具有指定斜率的 ParametricRampLayer:
prelu = ParametricRampLayer[{}, "Slope" -> 0.25]prelu[{{10, 10, 10}, {-10, -10, -10}}]范围 (3)
初始化一个 ParametricRampLayer,接受长度为 3 的向量,每个维度都有一个斜率系数:
act = NetInitialize@ParametricRampLayer["Input" -> 3]Normal@NetExtract[act, "Slope"]act[{{-3, -2, -1}, {0, 1, 2}}]trained = NetTrain[act, RandomReal[{-1, 1}, {10, 3}] -> RandomReal[{-1, 1}, {10, 3}]]Normal@NetExtract[trained, "Slope"]初始化接受长度为 3 的向量并使用唯一斜率系数的 ParametricRampLayer:
act = NetInitialize@ParametricRampLayer[{}, "Input" -> 3]Normal@NetExtract[act, "Slope"]初始化接受长度为 3 的向量序列的 ParametricRampLayer:
act = NetInitialize@ParametricRampLayer[2, "Input" -> {"Varying", 3}]Normal@NetExtract[act, "Slope"]选项 (3)
LearningRateMultipliers (1)
leakyRelu = ParametricRampLayer[{}, "Slope" -> 0.1, LearningRateMultipliers -> 0, "Input" -> 3]trained = NetTrain[NetChain[{LinearLayer[3], leakyRelu, LinearLayer[{}], LogisticSigmoid}, "Output" -> NetDecoder["Boolean"]], {1 -> False, 2 -> True, 3 -> False, 4 -> True}]NetExtract[trained, {2, "Slope"}]"Slope" (2)
创建一个已经用给定斜率值初始化的 ParametricRampLayer:
prelu = ParametricRampLayer["Slope" -> {0.1, 0.2, 0.3}, LearningRateMultipliers -> 0, "Input" -> 3]prelu[{{-1, -1, -1}, {1, 1, 1}}]创建具有独特斜率的带泄漏的 ReLU,保持该斜率值固定不变:
prelu = ParametricRampLayer[{}, "Slope" -> 0.1]prelu[{{-1, -1, -1}, {1, 1, 1}}]技术笔记
相关指南
-
▪
- 神经网络层
文本
Wolfram Research (2020),ParametricRampLayer,Wolfram 语言函数,https://reference.wolfram.com/language/ref/ParametricRampLayer.html.
CMS
Wolfram 语言. 2020. "ParametricRampLayer." Wolfram 语言与系统参考资料中心. Wolfram Research. https://reference.wolfram.com/language/ref/ParametricRampLayer.html.
APA
Wolfram 语言. (2020). ParametricRampLayer. Wolfram 语言与系统参考资料中心. 追溯自 https://reference.wolfram.com/language/ref/ParametricRampLayer.html 年
BibTeX
@misc{reference.wolfram_2026_parametricramplayer, author="Wolfram Research", title="{ParametricRampLayer}", year="2020", howpublished="\url{https://reference.wolfram.com/language/ref/ParametricRampLayer.html}", note=[Accessed: 15-November-2026]}
BibLaTeX
@online{reference.wolfram_2026_parametricramplayer, organization={Wolfram Research}, title={ParametricRampLayer}, year={2020}, url={https://reference.wolfram.com/language/ref/ParametricRampLayer.html}, note=[Accessed: 15-November-2026]}