From 7dc1b1749e21942120320da7fadc144a90503641 Mon Sep 17 00:00:00 2001 From: Chenglei-QIAO Date: Thu, 25 Oct 2018 09:13:49 +0800 Subject: [PATCH] Add version and contributor information --- MarkDown/第一章_数学基础.md | 6 ++++++ MarkDown/第十五章_正则化.md | 6 ++++++ MarkDown/第十四章_超参数调整.md | 6 ++++++ 3 files changed, 18 insertions(+) diff --git a/MarkDown/第一章_数学基础.md b/MarkDown/第一章_数学基础.md index 29507f1..6953e44 100644 --- a/MarkDown/第一章_数学基础.md +++ b/MarkDown/第一章_数学基础.md @@ -1,4 +1,10 @@ # 第一章 数学基础 + +> Markdown Revision 1; +> Date: 2018/10/25 +> Editor: 乔成磊-同济大学 +> Contact: qchl0318@163.com + ## 1.1 标量、向量、张量之间的联系 **张量(tensor)** 在某些情况下,我们会讨论坐标超过两维的数组。一般地,一个数组中的元素分布在若干维坐标的规则网格中,我们将其称之为张量。使用**$A$**来表示张量“A”。张量**$A$**中坐标为$(i,j,k)$的元素记作$A_{(i,j,k)}$。 diff --git a/MarkDown/第十五章_正则化.md b/MarkDown/第十五章_正则化.md index 958f173..385e7a9 100644 --- a/MarkDown/第十五章_正则化.md +++ b/MarkDown/第十五章_正则化.md @@ -1,4 +1,10 @@ # 第十五章 正则化 + +> Markdown Revision 1; +> Date: 2018/10/25 +> Editor: 乔成磊-同济大学 +> Contact: qchl0318@163.com + ## 15.1 什么是正则化? ## 15.2 正则化原理? ## 15.3 为什么要正则化? diff --git a/MarkDown/第十四章_超参数调整.md b/MarkDown/第十四章_超参数调整.md index fc3bf2d..76cc1d8 100644 --- a/MarkDown/第十四章_超参数调整.md +++ b/MarkDown/第十四章_超参数调整.md @@ -1,4 +1,10 @@ # 第十四章 超参数调整 + +> Markdown Revision 1; +> Date: 2018/10/25 +> Editor: 乔成磊-同济大学 +> Contact: qchl0318@163.com + ## 14.1 调试处理 关于训练深度最难的事情之一是你要处理的参数的数量,从学习速率到Momentum(动量梯度下降法)的参数。如果使用Momentum或Adam优化算法的参数,也许你还得选择层数,也许你还得选择不同层中隐藏单元的数量,也许你还想使用学习率衰减。所以,你使用的不是单一的学习率。接着,当然你可能还需要选择mini-batch的大小。 结果证实一些超参数比其它的更为重要,我认为,最为广泛的学习应用是,学习速率是需要调试的最重要的超参数。