贡献进度列表使用表格,便于查阅更新
This commit is contained in:
parent
b60490387d
commit
ddc7fcb9e3
54
README.md
54
README.md
|
|
@ -517,14 +517,20 @@ Translate it in english.
|
|||
```markdown
|
||||
### 3.3.2 如何寻找超参数的最优值?(贡献者:大佬-斯坦福大学)
|
||||
|
||||
在使用机器学习算法时,总有一些难搞的超参数。例如权重衰减大小,高斯核宽度等等。算法不会设置这些参数,
|
||||
而是需要你去设置它们的值。设置的值对结果产生较大影响。常见设置超参数的做法有:
|
||||
在使用机器学习算法时,总有一些难搞的超参数。例如权重衰减大小,高斯核宽度等等。算法不
|
||||
会设置这些参数,而是需要你去设置它们的值。设置的值对结果产生较大影响。常见设置超参数
|
||||
的做法有:
|
||||
|
||||
1. 猜测和检查:根据经验或直觉,选择参数,一直迭代。
|
||||
2. 网格搜索:让计算机尝试在一定范围内均匀分布的一组值。
|
||||
3. 随机搜索:让计算机随机挑选一组值。
|
||||
4. 贝叶斯优化:使用贝叶斯优化超参数,会遇到贝叶斯优化算法本身就需要很多的参数的困难。
|
||||
5. 在良好初始猜测的前提下进行局部优化:这就是 MITIE 的方法,它使用 BOBYQA 算法,并有一个精心选择的起始点。由于 BOBYQA 只寻找最近的局部最优解,所以这个方法是否成功很大程度上取决于是否有一个好的起点。在 MITIE 的情况下,我们知道一个好的起点,但这不是一个普遍的解决方案,因为通常你不会知道好的起点在哪里。从好的方面来说,这种方法非常适合寻找局部最优解。稍后我会再讨论这一点。
|
||||
4. 贝叶斯优化:使用贝叶斯优化超参数,会遇到贝叶斯优化算法本身就需要很多的参数的
|
||||
困难。
|
||||
5. 在良好初始猜测的前提下进行局部优化:这就是 MITIE 的方法,它使用 BOBYQA 算
|
||||
法,并有一个精心选择的起始点。由于 BOBYQA 只寻找最近的局部最优解,所以这个方法
|
||||
是否成功很大程度上取决于是否有一个好的起点。在 MITIE 的情况下,我们知道一个好的
|
||||
起点,但这不是一个普遍的解决方案,因为通常你不会知道好的起点在哪里。从好的方面来
|
||||
说,这种方法非常适合寻找局部最优解。稍后我会再讨论这一点。
|
||||
6. 最新提出的 LIPO 的全局优化方法。这个方法没有参数,而且经验证比随机搜索方法好。
|
||||
```
|
||||
|
||||
|
|
@ -533,25 +539,29 @@ Translate it in english.
|
|||
已提交MD版本章节:请查看MarkDown(排名不分先后)
|
||||
|
||||
待定:表示该章节还未匹配到合适的负责人(统筹该章节的内容修改、审核、原创性陈述)
|
||||
可加:表示该章节,如果有其他合适的,可以开放权限加到负责人身份
|
||||
可加:表示该章节,如果有其他合适的,可以开放权限加到负责人身份
|
||||
|
||||
- 第一章 数学基础 负责人:哈工大博士-袁笛
|
||||
- 第二章 机器学习基础 负责人:稿定科技计算机视觉工程师-刘鹏;(待定)
|
||||
- 第三章 深度学习基础 负责人:同济大学研究生-乔成磊;稿定科技计算机视觉工程师-刘鹏;(可加)
|
||||
- 第四章 经典网络 负责人:华南理工研究生-黄钦建;(可加)
|
||||
- 第五章 卷积神经网络CNN 负责人:杜克大学硕士、data scientist李骁丹;重庆大学研究生-刘畅;铪星创新科技联合创始人-杨文英;(可加)
|
||||
- 第六章 循环神经网络RNN 负责人:杜克大学硕士、data scientist李骁丹;(可加)
|
||||
- 第七章 生成对抗网络GAN 负责人:牛津大学博士泽华;中科院硕士、爱奇艺算法工程师-郭晓锋;
|
||||
- 第八章 目标检测 负责人:稿定科技计算机视觉工程师-刘鹏;哈工大博士袁笛;上海大学研究生-陈方杰
|
||||
- 第九章 图像分割 负责人:华南理工研究生-黄钦建;电子科大研究生-孙洪卫、张越;中国农业科学院-杨国峰
|
||||
- 第十章 强化学习 负责人:复旦大学研究生明杰,杭州启飞CTO-徐武民;(可加)
|
||||
- 第十一章 迁移学习 负责人:中科院计算技术研究所博士-王晋东;(可加)
|
||||
- 第十二章 网络搭建及训练 负责人:(待定)
|
||||
- 第十三章 优化算法 负责人:杭州启飞CTO-徐武民;(可加)
|
||||
- 第十四章 超参数调整 负责人:中兴通讯有限公司算法工程师-王超锋;(可加)
|
||||
- 第十五章 GPU和框架选型 负责人:澳洲monash大学Research Scientist/Telstra(澳洲电信)Data Scientist-钟申俊博士;平安科技算法工程师-崔永明、(可加)
|
||||
- 第十六章 自然语言处理NLP 负责人:电子科技大学博士-盛泳潘;深圳乌灵图明科技有限公司CTO-何建宏;DaoCloud研发工程师-张善干;澳洲monash大学Research Scientist/Telstra(澳洲电信)Data Scientist-钟申俊博士;华南理工大学&UCI博士-黄振华
|
||||
- 第十七章 移动端框架部署(新增) 负责人:川大硕士-顺丰科技-谈继勇;贵州大学硕士-三星-张达峰(可加)
|
||||
|
||||
|
||||
| 内容 | 负责人 | 状态|
|
||||
| ---------------- | :-------- | :--------|
|
||||
|第一章 数学基础|哈工大博士-袁笛| 待定 |
|
||||
|第二章 机器学习基础|稿定科技计算机视觉工程师-刘鹏|待定|
|
||||
|第三章 深度学习基础|同济大学研究生-乔成磊;稿定科技计算机视觉工程师-刘鹏|可加|
|
||||
|第四章 经典网络|华南理工研究生-黄钦建|可加|
|
||||
|第五章 卷积神经网络CNN |杜克大学硕士、data scientist李骁丹;重庆大学研究生-刘畅;铪星创新科技联合创始人-杨文英;|可加|
|
||||
|第六章 循环神经网络RNN|杜克大学硕士、data scientist李骁丹|可加|
|
||||
|第七章 生成对抗网络GAN|牛津大学博士泽华;中科院硕士、爱奇艺算法工程师-郭晓锋;||
|
||||
|第八章 目标检测|稿定科技计算机视觉工程师-刘鹏;哈工大博士袁笛;上海大学研究生-陈方杰||
|
||||
|第九章 图像分割|华南理工研究生-黄钦建;电子科大研究生-孙洪卫、张越;中国农业科学院-杨国峰||
|
||||
|第十章 强化学习|复旦大学研究生明杰,杭州启飞CTO-徐武民|可加|
|
||||
|第十一章 迁移学习|中科院计算技术研究所博士-王晋东|可加|
|
||||
|第十二章 网络搭建及训练| |待定|
|
||||
|第十三章 优化算法|杭州启飞CTO-徐武民|可加|
|
||||
|第十四章 超参数调整|中兴通讯有限公司算法工程师-王超锋|可加|
|
||||
|第十五章 GPU和框架选型|澳洲monash大学Research Scientist/Telstra(澳洲电信)Data Scientist-钟申俊博士;平安科技算法工程师-崔永明|可加|
|
||||
|第十六章 自然语言处理NLP|电子科技大学博士-盛泳潘;深圳乌灵图明科技有限公司CTO-何建宏;DaoCloud研发工程师-张善干;澳洲monash大学Research Scientist/Telstra(澳洲电信)Data Scientist-钟申俊博士;华南理工大学&UCI博士-黄振华||
|
||||
|第十七章 移动端框架部署(新增)|川大硕士-顺丰科技-谈继勇;贵州大学硕士-三星-张达峰|可加|
|
||||
|
||||
|
||||
# 6. 更多
|
||||
|
|
|
|||
Loading…
Reference in New Issue