特斯拉前AI总监变身网红，详解反向传播，引上万网友围观
【新智元导读】特斯拉前AI总监离职后，在YOUTUBE上开启教学路，连前BOSS都来推销他的课程了。
如今，特斯拉前AI总监KALPATHY在YOUTUBE上更新自己的视频，已经有1万多人订阅。
截至目前，他已经上传了5个视频，其中4个都是关于文本到图像生成模型演示视频。
其中，流量最高、最有影响力的便是长达2个半小时的讲课视频。
更新奇的是，连前BOSS马斯克都来推销他的视频了：「赶紧涨粉啊！」
2个半小时课程讲了啥？
作为自动驾驶领域技术大牛，他开的课可谓是干货满满。
就连ANDREJ KALPATHY本人称赞，这是8年来领域内对神经网络和反向传播的最佳讲解。
不仅自推，还在视频下方打起了赌：
只要你懂PYTHON，对高中学过的求导知识有些印象的话，看完这个视频你就能够理解反向传播和神经网络核心要点。
说得这么神奇，快来看看这个课程上，KALPATHY传授了什么知识。
他先对MICROGRAD进行了概述。MICROGRAD是KALPATHY在2020年开源的一个项目，目前已经有2.3K星。
这是一个微型AUTOGRAD引擎，可以在动态构建的DAG上实现反向传播，并在其之上使用类PYTORCH的API实现小型神经网络库。它们别分只用了100行和50行代码来构建。
然后，KALPATHY介绍了只有一个输入的简单函数的导数、具有多个输入的简单函数的导数、启动 MICROGRAD 的核心VALUE对象及其可视化的方法，同时还举了2个手动反向传播的例子。
从1小时10分开始，KALPATHY又介绍了：
用PYTORCH实现上述操作，并与MICROGRAD进行比较
最后，ANDREJ KALPATHY做了一个课堂总结，此外还探究了PYTORCH中TANH激活函数的反向传播机制。
很开心你能再次回到教学模式，你的CS231N绝对是一个非常出色的课程。它和吴恩达的COURSERA课程是我们早期向所有学生推荐的2个主要课程。
这位ANDREJ KARPATHY，是一个不折不扣的技术大牛。之前他就是马斯克亲自出马，从OPENAI挖到特斯拉的。
在今年7月宣布从特斯拉离职之前，一共在特斯拉干了5年多，在职期间全面执掌特斯拉自动驾驶业务，直接向马斯克汇报。
KARPATHY师出名门，在2009年于多伦多大学获得计算机科学和物理学双专业学士学位，而后在2011年于英属哥伦比亚大学获得硕士学位，研究是物理模拟数字的控制器。
在斯坦福读博的时候，KARPATHY师从李飞飞，共同研究卷积/递归神经网络架构及其在计算机视觉、自然语言处理及其交叉领域的应用。
师徒二人还一起设计了斯坦福大学的视觉识别卷积神经网络的新课（CS231N），KARPATHY亲自担任首任主讲。
而这正是斯坦福开设的第一门深度学习课程！学生人数也从2015年的150名增长到2016年的330名，再到2017年的750名。
现在，斯坦福大学的CS231N已经成为深度学习初学者，尤其是CV方向的初学者必看的一门基础课。除了大牛李飞飞的「明星效应」，KARPATHY从课程设计到出任主讲，亲力亲为，贡献良多。
上学期间，他还跑去谷歌实习了——两次，还是出国的那种，在谷歌参与了深度学习与计算机视觉项目。
2015年，他又去DEEPMIND的深度强化学习团队实习了一波。
毕业之后，KARPATHY于2016年入职OPENAI并担任研究科学家，负责计算机视觉、生成建模和强化学习方面的深度学习。
「斯坦福博士生、李飞飞高徒、前OPENAI研究员及创始人之一」，这些头衔也让他在硅谷声名鹊起。
果然，在OPENAI只干了一年半，他就被马斯克挖去了特斯拉，接替苹果前高管 CHRIS LATTNER，担任特斯拉人工智能和自动驾驶视觉总监（DIRECTOR OF AI AND AUTOPILOT VISION）。
由于KARPATHY本人十分喜欢研究神经网络，他在闲暇之余写了不少技术博客，并在JAVASCRIPT中开发了多个深度学习库（如CONVNETJS、RECURRENTJS、REINFORCEJS、T-SNEJS）。
甚至，还被戏称为IMAGENET的「人肉参考」。
此外，他一有时间就会去维护自己「用爱发电」的ARXIV-SANITY，一个可以在过去6年里搜索和整理近10万篇关于机器学习ARXIV论文的网站。
看起来，有些人对学术的热爱是刻在基因里的。从特斯拉离职刚刚一个月的KARPATHY，此次重回YOUTUBE开频道，上来就是一副要大办学术讲座的样子，也就丝毫不奇怪了。
最后，感兴趣的小伙伴们可以响应一下马院士的号召，去关注一波，毕竟现在KARPATHY粉丝还不多，属于「初级网红」，以后真要是火起来，也能当个老粉呢。
不过话说回来，要想向马斯克说的涨粉最快，不如上传一段自己吃鞋的视频？
