李沐:在伯克利教深度学习

雷锋网 AI 科技评论消息,今年年初,MXNet

雷锋网 AI 科技评论消息,今年年初,MXNet 作者李沐与 Alex Smola 在加州大学伯克利分校开设了一门深度学习课程。课程结束之际,李沐在知乎撰写长文,描述了开设这门课程的动机,以及上完课程之后,在教育上的一些心得与体会,李沐表示,「我们尝试的一些方法、走过的弯路、积累下来的材料也许对诸位感兴趣的老师和同学有所帮助。所以特意在这里分享出来。」

雷锋网(公众号:雷锋网) AI 科技评论获其授权转载这篇文章。以下为正文,有删减。

原文地址:https://zhuanlan.zhihu.com/p/66062438

2019 年春季我跟 Alex Smola 一起在加州大学伯克利分校(下面简称 Berkeley)教了一门针对本科生的实验性质的深度学习课程,旨在探索如何有效地教授深度学习。连同两位助教(Rachel 和 Ryan)和一百来位学生一起度过了高强度的、痛并快乐的四个月。上周刚结束了课程项目的报告。二十个报告里有好几我特别喜欢,其中一两个将投到即将截稿的 NeurIPS。更欣慰的是几个我一度觉得会失败的项目也找到自己的出路。

教学是一种形式上的创作。创作有着艺术性和个人性。我们的经验不足支撑写出一篇「如何高效的教深度学习」,但我们尝试的一些方法、走过的弯路、积累下来的材料也许对诸位感兴趣的老师和同学有所帮助。所以特意在这里分享出来。

动机

在过去三年中,我所在的亚马逊云服务(AWS)人工智能部门(AI)急速的扩张了好几十倍,侧面反映了行业的火爆。但我观察这个市场的扩张并没有想象中的那样发展迅猛。原因之一是 AI 的头号玩家深度学习的入门门槛依然很高。虽然它比机器学习更实用,但比起其他学科来说仍然很复杂。例如如果 100 个人学数据库(AWS 的重要收入来源),可能 50 个人能用学到的知识来解决实际问题。但同样这些人来学深度学习,谨慎乐观估计 10 个学完后可以上手就很好了。如果 AI 一波热潮褪去,开发者学习热情降低,市场扩张随之变慢,那冬天就不远了。

我跟多位部门同事合作对亚马逊内部员工和 AWS 客户进行过培训(工作的副业之一),17 年的时候跟 Aston 一起在国内做过十九期直播。去年年底的时候萌发录一个更加正式的质量更高的 MOOC 的想法。但担心线上课程不能实时得到反馈,所以难易度难以包括,所以想先面对面的教一遍积累些经验。

首选是去 Stanford,因为离家近(踩单车 15 分钟)。但 Stanford 已经有几门深度学习课程同时在开。幸运的是 Berkeley 仍有空位,而且他们非常乐意我们去教。联系上 Berkeley 到 AWS 上层批准一周内就搞定,即使是我们明确说明了将会在半年之内每周两天不在办公室。这一点上我非常喜欢亚马逊,它推崇做一些有长远影响的项目,并鼓励快速尝试。

入职当天有两个有意思的小插曲。一是被告知 Berkeley 是公立学校,职员算政府人员,需要宣誓战争发生时要为美国而战。我说这我没做好心理准备,要不不要发我工资,当我是个志愿者好了。这样我也安心去实验教学。

二是我去的伯克利统计系是世界上最好的统计系之一了吧(这里老师觉得就是世界第一,很像我读过的 CMU 计算机系和我老婆读过的 MIT 计算机和电子工程系,他们老师都觉得自己是世界第一

本文由潮起网 作者:新媒体 发表,其版权均为原作者所有,文章内容系作者个人观点,不代表潮起网 对观点赞同或支持,未经许可,请勿转载。
0
上一篇:如何优化你的图像分类模型效果?
暂无评论...
验证码 换一张
取 消