原標題:加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

(打賞後文末「閱讀原文」可下載20k字19圖13頁PDF)

簡介:吳恩達Andrew Y. Ng華裔美國人,電腦科學家,University of California,Berkeley博士畢業斯坦福大學電腦科學系和電子工程系教授,人工智慧實驗室主任。人工智慧和機器學習領域國際上最權威學者之一。在線教育平台Coursera聯合創始人AI之路吳恩達高中本碩博、科研經歷谷歌、百度工作簡介離開百度2大原因:技術封閉、夢想驅動17年新工作:創業公司和基礎研究、醫療和教育AI吳恩達2013年前128項學術著作等五個方面簡述其產學研經歷。

來源:百度百科、知乎、人民網、吳恩達(Andrew Ng)官網、微信群公號等彙編,出處請看參考文獻。版權聲明:科普文章,公開資料©版權歸原作者所有。僅供學習研究,請勿用於商業非法目的。如出處有誤或侵權,請聯繫溝通、授權或改變事宜,聯繫信箱:[email protected]

目錄

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路(9714)1

1吳恩達高中本碩博、科研經歷(2070字)1

2吳恩達谷歌、百度工作簡介(1399字)3

3吳恩達離開百度2原因:技術封閉、夢想驅動(3089)5

4吳恩達2017年新工作創業公司和基礎研究醫療和教育AI(1983)7

5吳恩達2013年前128項學術著作(1151字)11

參考文獻(288)13

後篇附今天周三新聞,節日農歷史人事6則文末「閱讀原文」可下載20k字19圖13頁PDF歡迎轉發

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路(9714)

1吳恩達高中本碩博、科研經歷(2070字)

吳恩達(Andrew Ng)英文名Andrew Y.Ng華裔美國人斯坦福大學電腦科學系和電子工程系副教授,人工智慧實驗室主任。職業電腦科學家畢業院校University of California,Berkeley吳恩達主要成就在機器學習和人工智慧領域,是人工智慧機器學習領域國際上最權威的學者之一。吳恩達也是在線教育平台Coursera聯合創始人(with Daphne Koller)。

1 吳恩達(Andrew Ng)

1.1 吳恩達高中本碩博經歷簡述

吳恩達1976年出生於英國倫敦,父親是一位香港醫生,吳恩達年輕時候在香港和新加坡度過。吳恩達會說中文,高中畢業於新加坡Raffles Insitution,早年在香港和英國生活過。(有沒有覺得他說英語有怪怪的和英式英語混雜的感覺?)1992年吳恩達就讀新加坡萊佛士書院,並於1997年獲得了卡內基梅隆大學的電腦科學學士學位。之後他在1998年獲得了麻省理工學院的碩士學位,並於2002年獲得了加州大學伯克利分校的博士學位,師從機器學習的大師級人物Michael I. Jordan博導,並從當年開始在斯坦福大學工作。2002年他住在加利福尼亞州的帕洛阿爾托。吳恩達老婆是Carol Reiley。[1]

同門師兄弟包括Zoubin Ghahramani,Tommi Jaakkola,Eric Xing,David Blei,徒子徒孫遍布美國名校,他們這一大學派的主要研究和貢獻集中在統計機器學習(Statistical Machine Learning)和圖模型(Probabilistic Graphical model),具體的比如Spectral clustering, Nonparametric Bayesian Methods, Variational Methods等等。現在圖模型和Nonparametric Bayesian Methods都是機器學習領域炙手可熱的研究方向。Michael Jordan的研究很好的將統計和機器學習聯繫了起來,將Variational Methods發揚光大,他也還身兼統計系和電腦系教職。[2]

吳恩達的學術研究興趣比較廣(andrew Y ng-Google Scholar Citations),做的東西有比較理論的,但更多的是理論和應用的結合。他的一作主要集中在Spectral Clustering,Unsupervised Learning和增強式學習(reinforcement learning),機器學習的很多方面都有涉及,比如feature selection,over-fitting,policy search。由於做reinforcement learning和unsupervised learning,所以有很多項目是和機器人有關的。他發起了ROS(Robot Operating System),一個開源的機器人操作系統,影響力很大。其他的參與的研究就很多了,Michael Jordan那一片的統計機器學習都有參與,在圖模型領域也有很多非常優秀論文,比如自然語言處理(NLP)的神器Latent Dirchirelnt Allocation(LDA)那篇論文他也有貢獻。

他現在的研究興趣主要是深度學習(Deep Learning),深度學習說白了就是死灰復燃的神經網路(Neural Network)。神經網路的一代鼻祖是多倫多大學的Geoffrey Hinton。Geoffrey Hinton和吳恩達一起在Google搞深度學習(Google Brain Project),他們倆現在在這一塊的論文很多,影響力很大。

總體而言他是頂級機器學習研究者,斯坦福tenured professor已經說明了這點。至於Lab Director,和學術無關,只要是教授都可以成立一個實驗室自己當主任(Director),不要把主任拿過來說事。

更重要的是,他在學術圈內圈外知名度很高!除了師承之外,還有一個重要原因是他在斯坦福公開課裡面主講機器學習,講的的確是非常好,在工程界非常受歡迎,後來和Daphne Koller (機器學習界的一姐和大牛,《Probabilistic Graphical Models: Principles and Techniques》一書的作者)一起成立了Coursera。[3]

作為教師,他保持一項紀錄:2013-1014年斯坦福大學秋季學期的「機器學習」課程中,這門由吳恩達主講的課程有超過800名學生選修。據我所知,這是斯坦福歷史上最多人同時選修的課程。

沒有任何課室可以容納,所以很多人都是在家看課堂錄像。不過這門電腦專業的研究生課程比Coursera上的同名公開課要難很多,用他自己的話來說就是「這(和Coursera上的相比)可以說是兩門課」。

1.2 研究領域所獲榮譽主要成就(機器學習人工智慧在線教育)

研究領域:機器學習和人工智慧,研究重點是深度學習Deep Learning)。

2007年,吳恩達獲得斯隆獎Sloan Fellowship)。

2008年,吳恩達入選「the MIT Technology Review TR35」,即《麻省理工科技創業》雜誌評選出的科技創新35俊傑,入選者是35歲以下的35個世界上最頂級的創新者之一。[4]

「電腦和思想獎」的獲得者。

2013年,吳恩達入選《時代》雜誌年度全球最有影響力100人,成為16位科技界代表之一。

機器學習吳恩達早期的工作包括斯坦福自動控制直升機項目,團隊開發了世界上最先進的自動控制直升機之一。同時也是機器學習、機器人技術和相關領域的100多篇論文的作者或合作者,他在電腦視覺的一些工作被一系列的出版物和評論文章所重點引用。

人工智慧早期的另一項工作是the STAIR(Stanford Artificial Intelligence Robot)project,即斯坦福人工智慧機器人項目,項目最終開發了廣泛使用的開源機器人技術軟體平台ROS。

2011年,吳恩達在谷歌成立了「Google Brain」項目,這個項目利用谷歌的分散式計算框架計算和學習大規模人工神經網路。這個項目重要研究成果是,在16000個CPU核心上利用深度學習演算法學習到的10億參數的神經網路,能夠在沒有任何先驗知識的情況下,僅僅通過觀看無標註的YouTube的影片學習到識別高級別的概念,如貓,這就是著名的「Google Cat」。這個項目的技術已經被應用到了安卓操作系統的語音識別系統上。

在線教育吳恩達(Andrew Ng)和達芙妮·科勒(Daphne Koller)是在線教育平台Coursera.org的聯合創始人。直接面向普通網民來免費普及人工智慧技術課程,吳恩達對慕課(MOOC)和Coursera的貢獻更加偉大。

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

2 Ng at Machine Learning Class

吳恩達Andrew Ng的理想是讓世界上每個人能夠接受高質量的、免費教育因此他在2008年發起「Stanford Engineering Everywhere」(SEE)項目,這個項目把斯坦福的許多課程放到網上,供免費學習,其中就包含Andrew Ng的課程。NG也教了一些課程,如機器學習課程,包含了他錄製的影片講座和斯坦福CS299課程的學生材料。

今天,Coursera和世界上一些頂尖大學的合作者們一起提供高質量的免費在線課程。Coursera是世界上最大的MOOC平台。[5]

從這幾個角度來看,吳恩達無疑是人工智慧和機器學習領域最權威的學者之一,同時在商業上也頗有建樹。

2吳恩達谷歌、百度工作簡介(1399字)

2.1 谷歌工作

吳恩達早期工作包括斯坦福自動控制直升機項目,吳恩達團隊開發了世界上最先進的自動控制直升機之一。

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

2010年,時任斯坦福大學教授的吳恩達加入谷歌開發團隊XLab——這個團隊已先後為谷歌開發無人駕駛汽車和谷歌眼鏡兩個知名項目。身為人工智慧領域的權威,吳恩達使命就是以史無前例的規模,通過谷歌龐大的數據中心來打造人工智慧系統。[6]

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

3 Andrew Ng通過筆記本解析Deep Learning

2011年,吳恩達在谷歌成立Google Brain吳恩達與谷歌頂級工程師開始合作建立全球最大「神經網路」,以與人類大腦學習新事物相同的方式來學習現實生活。這個項目利用谷歌的分散式計算框架計算和學習大規模人工神經網路。谷歌將這個項目命名為谷歌大腦」,重要研究成果、也吳恩達最知名事例就是,在16000個CPU核心上利用所開發的深度學習演算法學習10億參數的人工神經網路,能夠在沒有任何先驗知識的情況下,僅僅通過一周觀看無標註的YouTube的影片,自主學會識別哪些是關於貓的影片。學習到識別高級別的概念,如貓,這就是著名的Google Cat,通過觀看YouTube影片這個案例為人工智慧領域翻開嶄新一頁。(Google的貓臉識別:人工智慧的新突破)[7]

這個項目的技術已經被應用到了安卓操作系統的語音識別系統上。吳恩達表示,未來將會在谷歌無人駕駛汽車上使用該項技術,來識別車前面的動物或者小孩,從而及時躲避。

4 Google Brain項目創始人Andrew Ng

2.2 百度工作

2013年初,百度在美國矽谷成立了深度學習研究院IDL(Institute of Deep Learning),百度CEO李彥宏親任院長。2014年5月16日,百度宣布吳恩達加入百度。2014年5月19日,百度宣布任命吳恩達博士為百度首席科學家,全面負責百度研究院,尤其是Baidu Brain計劃。這是中國網際網路公司迄今為止引進的最重量級人物,就成為國際科技界的關注話題。美國權威雜誌《麻省理工科技評論》(MIT Technology Review)甚至用充滿激情的筆調對未來給予展望:百度將領導一個創新的軟體技術時代,更加了解世界。[8]

吳恩達與百度有淵源,加入前曾到百度內部講課。在谷歌發力神經網路的同時,IBM微軟蘋果、百度這些公司也競相開始對神經網路技術的探索。吳恩達的加盟與百度大腦(Baidu Brain)密切相關百度CEO李彥宏曾特別提及百度大腦融合深度學習演算法、數據建模、大規模GPU并行化平台等技術,擁有200億個參數,構造起深度神經網路,將在政府、NGO、製造、金融、零售、教育等領域開展項目合作。百度大腦計劃被視為決定百度未來5到10年決定性戰略計劃之一,一向以技術男自居的李彥宏對此非常看重。

2013千人計劃國家特聘專家余凱加盟百度後,Facebook前資深科學家徐偉,美國新澤西州立大學統計學教授張潼,異構計算專家、AMD異構系統前首席軟體架構師吳韌相繼加盟。Andrew Ng加盟百度被認為是中國網際網路公司迄今為止引入的最重要外援。

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

百度始終是業內公認的BAT「技術最強」,其在人工智慧領域的布局最早也最強。旗下產品百度搜索、百度資訊、百度金融、百度外賣、百度地圖、度秘已經全線引入人工智慧技術,無人車方面更在2016年取得了累累碩果:自動駕駛技術專利申請數量達到605項。與奇瑞、北汽、比亞迪、林肯等多個車企建立深度合作。

BAT三家公司裡面,作為人工智慧和機器學習領域最權威的學者之一,2014年5月加入百度後,迅速整合團隊並潛心研發,在他的領導下,百度在人工智慧領域取得了前所未有的發展,《最強大腦》一場人臉識別跨年齡識別挑戰中,植入了百度大腦的機器人小度在全國的觀眾見證下,3:2擊敗了世界記憶大師王峰,展現了人工智慧的超凡能力。

3吳恩達離開百度2原因:技術封閉、夢想驅動(3089)

3.1 離開百度

2017年3月22日,百度首席科學家吳恩達在多個社交平台發布公開信,宣布自己將從百度離職,開啟自己在人工智慧領域的新篇章。對於未來的去向,他在推特上表示:未來將會推動大公司使用人工智慧,並創造豐富的創業機會及進一步的人工智慧研究。

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

對吳恩達離職,百度官方也給予祝福,並感謝其在百度任職期間做出的貢獻。巧合的是,百度股價曾在2月的同一天大幅下跌,市值蒸發超200億人民幣,聯想到今天的離職事件,個中緣由耐人尋味。百度隨後發布官方回復中兩段寫到:

Andrew加入百度,是因為他和百度對人工智慧的未來有著共同美好的追求。從2013年百度成立IDL(深度學習研究院),到2014年Andrew加入百度,再到過去兩年在人工智慧方面超過200億的投入,以及剛剛揭牌成立的百度深度學習技術及應用國家工程實驗室,都說明了人工智慧從前是,現在是,未來仍是百度核心業務中的核心。

即使今天分別,但百川歸海,我們仍有著一致的目標,那就是推動人工智慧技術的發展,讓未來生活更加美好。Andrew,在這條通往未來的征途上,有幸與你同行過,這是我們的榮幸。

他的離開,留下了近1300人的人工智慧團隊和雄心勃勃的李彥宏,網際網路巨人百度,還能否在2017年找到自己的未來之路?以下是各位科技界大佬的看法:

1.地平線創始人、前百度IDL負責人余凱當年我力邀他從在線教育公司Coursera離職加入百度,是因為AI,我相信他這次的離職,也一定是為了另一個更加激動人心的AI項目。

2.360人工智慧研究院院長、首席科學家顏水成Andrew是一位及其優秀的AI研究者,相信他有另一個更重要的理想要去實現。祝福Andrew!

3.Rokid創始人、CEO Misa這個問題接下來會很普遍:學術型人才是否能落地實業?

4.格靈深瞳CEO趙勇吳恩達當年從谷歌離職,或許是他認為作為華人在一家中國公司能夠產生更大的影響力。而今天他從百度辭職,說明百度這個平台,並沒有滿足他在人工智慧領域的期待和野心。具體的原因只有內幕人士才會了解。百度今天的人工智慧布局已經很大也很深了,不會因為一個人的離開而遜色。吳恩達本人參與了谷歌和百度兩大公司的人工智慧團隊的奠基,在歷史上必然留下堅實的腳印。我同樣期待他用新的方式繼續在這個領域發揮領袖作用。

5.無碼科技創始人、小道消息作者、前丁香園CTO馮大輝三表:吳恩達在各大平台發布自己離任的消息,有點自媒體的感覺了,歡迎加入我們的大家庭。

6.不願意透露姓名的百度美國研發團隊核心成員嘆息。

7.網友後面還有VP級別的大牛離職

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

8.李開復一語道破真相2017-04-08對於吳恩達的離職,他在朋友圈說到:百度的吳恩達離職了。在七個大黑洞之外,我們很需要更開放的AI。這是創新工廠的夢想。看來Andrew下一步也是被這個夢想驅動。

七個大黑洞是指Google、Facebook、Microsoft、Amazon、BATAI發展最需要的人才、技術、數據被吸進去卻出不來毋庸置疑,處於風口之中人工智慧,已成為各家巨頭戰略進軍的目標,更是下一代科技革命的發動機,谷歌、微軟、Facebook、百度跑馬圈地進行的如火如荼。但是從另外一個角度講,這些企業都是各自為營,缺乏網際網路的合作開放精神。或許吳恩達在百度的三年,看透了行業的本質,也疲於勾心鬥角,大學教授出身的他,培養更多的人工智慧領域人才或許才是正確選擇。

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

為什麼要離開百度?或許是企業太封閉,也許是是一山難容二虎。讓我們祝福專家、也祝福企業繼續前行。

百度任命百度副總裁王海峰AI技術平台體系(AIG)總負責人,同時晉陞為Estaff成員,轉向百度集團總裁和首席運營官陸奇彙報進一步深度整合NLP、KG、IDL、Speech、Big Data等百度核心技術,組成百度AI技術平台體系(AIG)王海峰2010年1月加入百度,是自然語言處理領域世界上最具影響力的國際學術組織ACL(Associationfor Computational Linguistics)50多年歷史上唯一出任過主席(President)的華人,同時也是截至目前最年輕的ACL會士(Fellow)。王海峰曾獲2015年國家科技進步獎二等獎。

3.2 附:吳恩達公開信原文《開啟我在人工智慧領域的新篇章1531字

親愛的朋友們:

我即將辭去在百度的工作,告別我一直帶領的人工智慧團隊。百度的人工智慧實力強大,團隊內上上下下都有非常優秀的人才,所以,我堅信百度的人工智慧將會一如既往蓬勃發展。離開百度之後,我也很高興將繼續致力於人工智慧事業,通過人工智慧改變社會,使人們的生活更加美好。

百度的人工智慧

我在2014年加入百度,負責人工智慧工作。到現在,百度的人工智慧團隊已經增長到近1300人,其中包括300名百度研究院成員。上億的使用者每天都在使用我們的人工智慧軟體。我們通過許許多多人工智慧產品項目支持我們的搜索、廣告、地圖、外賣、語音搜索、安全、消費金融等等現有業務,提升產品,拉動收入。

我們也運用人工智慧開拓新業務。我的團隊在過去的兩年中,每年都孵化出一項新業務:一項是無人駕駛,另一項是DuerOS語音交互計算平台。我們也正在孵化一些非常有前景的技術,比如人臉識別(當已註冊使用者走近應用人臉識別技術的閘門時,閘門會自動開啟),美樂醫(醫療領域的人工智慧對話交互機器人)等等。作為百度人工智慧戰略的首席架構師,我很自豪能夠引領公司在人工智慧方面飛速發展和崛起。

百度是目前為數不多的在人工智慧各個重要領域都擁有世界級專業水準的公司,這些領域包括語音、自然語言處理、電腦視覺、機器學習、知識圖譜等諸多方面。能夠帶領百度人工智慧團隊,能夠跟百度卓越的管理者、非凡的工程師、科學家、產品經理等等百度優秀的團隊共事,我深感榮幸。李彥宏是第一位高瞻遠矚,清晰看到深度學習技術巨大價值的大公司CEO,也是全球人工智慧領域最優秀的CEO之一。首席運營官陸奇是位資深的企業管理者,同時在人工智慧領域擁有豐富的經驗,在他的領導下,百度的人工智慧將繼續開花結果。AI技術平台體系新任總負責人王海峰是一位出色的研究學者和技術領袖。在他的有力領導下,百度的AI團隊定會有更好的未來發展。我們的新任百度研究院院長林元慶,是位出色的技術和業務帶頭人,將會提升百度人工智慧技術,創造更多業務成果。在他們的有力領導下,在Adam Coates、景鯤、李平、徐偉、朱凱華等人工智慧頂尖人才的努力下,百度的人工智慧將繼續開拓前行,我也會為此而歡欣喝彩。

我很榮幸能夠從兩大人工智慧強國,中國、美國的人工智慧界都學習過。美國擅長創造新的技術和理念,而中國擅於將人工智慧技術用於開發出好的產品。我很高興自己能夠有機會既為中國也為美國的人工智慧發展崛起作出努力和貢獻。

人工智慧是新電能

正如百年前電能改變了很多行業一樣,人工智慧也正在改變著醫療、交通、娛樂、製造業等主要行業,豐富充實著無數人的生活。對於人工智慧將帶領我們前往何方,我比以往都要興奮和期待。

作為谷歌大腦計劃的創始人,以及百度人工智慧的負責人,我在這兩家頂尖的技術公司向「人工智慧公司」轉型中都發揮了作用。但是人工智慧的潛力遠遠超越了對科技公司的影響。

我將繼續致力於用人工智慧引領這場重大的社會變革。除了推動大公司使用人工智慧,也還有很多創業,以及更深入進行人工智慧研究的機會。我希望我們每個人都擁有自動駕駛汽車,每個人都擁有可以自如進行語音對話交互的電腦,每個人都擁有可以診斷我們病痛的醫療機器人。工業革命將人類從重複性體力勞動中解放出來;現在我希望人工智慧可以將人類從重複性腦力勞動,比如忙亂的交通駕駛中,解放出來。這項工作不是任何一家公司可以獨立完成的,這是全世界的人工智慧研究者和工程師的共同課題。我在Coursera上的機器學習MOOC課程曾幫助很多人進入人工智慧這個領域。除了致力於人工智慧本身之外,我也將探索新的方式來幫助全球人工智慧的愛好者,讓我們一起用人工智慧賦能整個社會,取得更多成果。

我們將利用人工智慧創造美好未來,對此我從未如此樂觀。讓我們一起為推動人工智慧,幫助每一個人而努力!

4吳恩達2017年新工作創業公司和基礎研究醫療和教育AI(1983)

今年初離職百度後,吳恩達接下來會選擇一家什麼公司?當時一位AI圈內資深人士猜測:很有可能是矽谷自動駕駛創業公司drive.ai——因為吳恩達老婆Carol Reiley就在這家公司中負責技術研究。坊間甚至還有吳恩達向Uber自我推薦的傳聞,當時其提出一年薪資2000萬美元,而同期百度給吳恩達可能只有1000萬美元一年。[8]

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

現在看來,吳恩達博士初心不改,他在離開百度後的92天,發布推文宣布成立新公司deeplearning.ai,他並沒有過多透漏新公司的業務發展方向,目前關於新公司的資訊也只是一個域名和公司logo,並且也沒有融資宣傳。吳恩達的新公司宣布成立快一個月了,一直沒有新動靜。不過從最近幾天他的推特動態上看,未來新公司的研究方向很可能是AI醫療。吳恩達不過,新公司很可能會進軍AI醫療領域。比如最近推特上的幾條動態,都是關於AI醫療。[9]

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

從百度離職後,吳恩達博士重新回到斯坦福大學繼續進行學術研究。他所帶領的斯坦福研究人員開發了一個新的機器學習模型,通過心電圖來判斷患者是否心律不齊,其效果甚至已經超過了人類專家。具體研究方法和數據參考論文,文末附論文地址。

傳統檢測心率不齊的辦法是:

病人到醫院做一個心電圖,如果用儀器檢測幾分鐘或十幾分鐘沒有發現問題,但病人又有心律不齊的癥狀,醫生很可能會讓病人佩戴一個心電圖檢測器,最長佩戴為兩周。兩周時間,檢測器產生幾百小時的心電圖數據,醫生要一秒一秒地檢查,從中找出患者是否出現了心律不齊。

而吳恩達的研究團隊新研究的方法是:

由於心律信號之間的差異非常細微,病理性的心律不齊和正常的心律不齊在心電圖上表現非常相似,一種需要立即治療,一種則不需要治療,很多專家都很難發現它們之間的微小差別。為了解決這個難題,他們把這看作成一個數據科學問題,最終選擇和可穿戴心電圖檢測設備廠商iRhythm合作,收集並標註了29163患者的64121份心電圖數據,構建了大規模的神經網路訓練集。數據集中的心電圖樣本每段30秒,都是經過專業醫生標註的樣本。他們隨後又收集來自328名心律不齊患者的336份心電圖數據,作為測試集。

最後以3名專家診斷的結果為標準,來比較6名心臟病專家識別的正確率和模型的正確識別率,哪一個更高。實驗結果顯示,模型的識別準確率更高。如下圖(滿分為0.8,藍色代表模型識別正確率,黃色為心臟病專家識別正確率。)

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

吳恩達將這一實驗成果分享出來後,很多小夥伴在評論區表示祝賀,豎大拇指,可以說是振奮人心。

可是醫生們慌了,國外有一位放射學專科醫生給吳恩達發送了一封郵件,信上是這樣寫的:

加州大學伯克利分校博士Andrew Y.Ng吳恩達AI之路

我是一名已經接受三年專業訓練的放射科醫生,我應該放棄專業或做別的事情嗎?放射科技師還有多久會被替代?

吳恩達並沒有直接給他答案,而是分享了自己一些想法

一個新科技的出現要掐著時間,不能太早也能太晚。比如說iPhone2007年才是它發布的正確時間,而不是在1993年,因為那時的晶元,電池,螢幕技術還沒到位。

另外一個極端的例子是達芬奇發明直升機,他發明直升機的時間是1480年代,而飛機引擎技術在1900年代才出現。

還有自動駕駛技術,2007年研究自動駕駛技術還太早,因為AI要用到的感測器還沒生產出來。2015年以後,整個自動駕駛的生態系統才算比較完善。

同樣在1990年代,網路,影片流還不足以支撐慕課問世,到2011年,整個網路基礎建設才為在線影片教育提供了較好的環境。

深度學習也是,90年代數據/計算比較小,淺層演算法效果更好。從2007開始,有了大數據做基礎,深度學習才取得了更好的效果。

但是,我們還是要感謝歷史中所有的革新者,包括早期的那些人,他們的工作對後來的發展進步也非常具有影響和幫助。

從吳恩達給這位放射科醫生的回復來看,雷鋒網認為現在AI技術在醫療讀圖上,還處於發展階段,短時間還不能完全替代放射科醫師。其實在這位放射科醫生問吳恩達這個問題之前,吳恩達在接受華爾街日報記者Jason Dean採訪時已回答過類似的問題。

Jason Dean: 來做一個預測,我九歲的雙胞胎跑過來告訴我他們長大後想做什麼職業。我應該告訴他們,什麼工作在他們長大後就可能已經不存在了呢?你之前提到過放射線技師,別的還有嗎?

吳恩達:如果你有朋友或小孩在醫學院學習,坦白說,AI在醫學影像分析上正在取得更好的效果。所以,如果你有朋友去讀醫學院,並且從放射影像學畢業,我認為他作為放射線技師的職業生涯可能只有五到十年。

吳恩達博士最後還給大家留了一個小小的懸念:我有一些想法是關於2017可能會是哪些領域的關鍵年,請保持關注。

從吳恩達博士最近發的推特動態,以及對這位醫生的回答來看,可以看出他對AI醫療有著濃厚的興趣。他離開百度後曾說過,「我並不知道自己具體將要做什麼,但是我認為AI不僅為百度這樣的大公司提供了機遇,也同樣為創業公司和基礎研究提供機遇。有很多垂直領域令我感到興奮,我對醫療領域和教育領域都極其感到興奮——這些是AI大有可為的主要領域。」期待Andrew Ng在月向大家公布新公司研究領域。

附:《用卷積神經網路做專家級心律不齊檢測論文下載地址:https://arxiv.org/abs/1707.01836

5吳恩達2013年前128項學術著作(1151字)

來自吳恩達個人網站學術著作出版物網頁,截止2013年合計128項。[9]

1.Deep Learning with COTS HPC Systems

2.Adam Coates,Brody Huval,Tao Wang,David J.Wu,Bryan Catanzaro and Andrew Y.Ng in ICML 2013.

3.Parsing with Compositional Vector Grammars

4.John Bauer,Richard Socher,Christopher D.Manning,Andrew Y.Ng in ACL 2013.

5.Learning New Facts From Knowledge Bases With Neural Tensor Networks and Semantic Word Vectors

6.Danqi Chen,Richard Socher,Christopher D.Manning,Andrew Y.Ng in ICLR 2013.

7.Convolutional-Recursive Deep Learning for 3D Object Classification.

8.Richard Socher,Brody Huval,Bharath Bhat,Christopher D.Manning,Andrew Y.Ng in NIPS 2012.

9.Improving Word Representations via Global Context and Multiple Word Prototypes

10.Eric H.Huang,Richard Socher,Christopher D.Manning and Andrew Y.Ng in ACL 2012.

11.Large Scale Distributed Deep Networks.

12.J.Dean,G.S.Corrado,R.Monga,K.Chen,M.Devin,Q.V.Le,M.Z.Mao,M.A.Ranzato,A.Senior,P.Tucker,K.Yang,A.Y.Ng in NIPS 2012.

13.Recurrent Neural Networks for Noise Reduction in Robust ASR.

14.A.L.Maas,Q.V.Le,T.M.O’Neil,O.Vinyals,P.Nguyen,and Andrew Y.Ng in Interspeech 2012.

15.Word-level Acoustic Modeling with Convolutional Vector Regression Learning Workshop

16.Andrew L.Maas,Stephen D.Miller,Tyler M.O’Neil,Andrew Y.Ng,and Patrick Nguyen in ICML 2012.

17.Emergence of Object-Selective Features in Unsupervised Feature Learning.

18.Adam Coates,Andrej Karpathy,and Andrew Y.Ng in NIPS 2012.

19.Deep Learning of Invariant Features via Simulated Fixations in Video

20.Will Y.Zou,Shenghuo Zhu,Andrew Y.Ng,Kai Yu in NIPS 2012.

21.Learning Feature Representations with K-means.

22.Adam Coates and Andrew Y.Ng in Neural Networks:Tricks of the Trade,Reloaded,Springer LNCS 2012.

23.Building High-Level Features using Large Scale Unsupervised Learning

24.Quoc V.Le,Marc’Aurelio Ranzato,Rajat Monga,Matthieu Devin,Kai Chen,Greg S.Corrado,Jeffrey Dean and Andrew Y.Ng in ICML 2012.

25.Semantic Compositionality through Recursive Matrix-Vector Spaces

26.Richard Socher,Brody Huval,Christopher D.Manning and Andrew Y.Ng in EMNLP 2012.

27.End-to-End Text Recognition with Convolutional Neural Networks

28.Tao Wang,David J.Wu,Adam Coates and Andrew Y.Ng in ICPR 2012.

29.Selecting Receptive Fields in Deep Networks

30.Adam Coates and Andrew Y.Ng in NIPS 2011.

31.ICA with Reconstruction Cost for Efficient Overcomplete Feature Learning

32.Quoc V.Le,Alex Karpenko,Jiquan Ngiam and Andrew Y.Ng in NIPS 2011.

33.Sparse Filtering

34.Jiquan Ngiam,Pangwei Koh,Zhenghao Chen,Sonia Bhaskar and Andrew Y.Ng in NIPS 2011.

35.Unsupervised Learning Models of Primary Cortical Receptive Fields and Receptive Field Plasticity

36.Andrew Saxe,Maneesh Bhand,Ritvik Mudur,Bipin Suresh and Andrew Y.Ng in NIPS 2011.

37.Dynamic Pooling and Unfolding Recursive Autoencoders for Paraphrase Detection

38.Richard Socher,Eric H.Huang,Jeffrey Pennington,Andrew Y.Ng,and Christopher D.Manning in NIPS 2011.

39.Semi-Supervised Recursive Autoencoders for Predicting Sentiment Distributions

40.Richard Socher,Jeffrey Pennington,Eric Huang,Andrew Y.Ng,and Christopher D.Manning in EMNLP 2011.

41.Text Detection and Character Recognition in Scene Images with Unsupervised Feature Learning

42.Adam Coates,Blake Carpenter,Carl Case,Sanjeev Satheesh,Bipin Suresh,Tao Wang,David Wu and Andrew Y.Ng in ICDAR 2011.

43.Parsing Natural Scenes and Natural Language with Recursive Neural Networks

44.Richard Socher,Cliff Lin,Andrew Y.Ng and Christopher Manning in ICML 2011.

45.The Importance of Encoding Versus Training with Sparse Coding and Vector Quantization

46.Adam Coates and Andrew Y.Ng in ICML 2011.

47.On Optimization Methods for Deep Learning

48.Quoc V.Le,Jiquan Ngiam,Adam Coates,Abhik Lahiri,Bobby Prochnow and Andrew Y.Ng in ICML 2011.

49.Learning Deep Energy Models

50.Jiquan Ngiam,Zhenghao Chen,Pangwei Koh and Andrew Y.Ng in ICML 2011.

51.Multimodal Deep Learning

52.Jiquan Ngiam,Aditya Khosla,Mingyu Kim,Juhan Nam,Honglak Lee and Andrew Y.Ng in ICML 2011.

53.On Random Weights and Unsupervised Feature Learning

54.Andrew Saxe,Pangwei Koh,Zhenghao Chen,Maneesh Bhand,Bipin Suresh and Andrew Y.Ng in ICML 2011.

55.Learning Hierarchical Spatio-Temporal Features for Action Recognition with Independent Subspace Analysis

56.Quoc V.Le,Will Zou,Serena Yeung and Andrew Y.Ng in CVPR 2011.

57.An Analysis of Single-Layer Networks in Unsupervised Feature Learning

58.Adam Coates,Honglak Lee and Andrew Ng in AISTATS 14,2011.

59.Learning Word Vectors for Sentiment Analysis

60.Andrew L.Maas,Raymond E.Daly,Peter T.Pham,Dan Huang,Andrew Y.Ng,and Christopher Potts in ACL 2011.

61.A Low-cost Compliant 7-DOF Robotic Manipulator

62.Morgan Quigley,Alan Asbeck and Andrew Y.Ng in ICRA 2011.

63.Grasping with Application to an Autonomous Checkout Robot

64.Ellen Klingbeil,Deepak Drao,Blake Carpenter,Varun Ganapathi,Oussama Khatib,Andrew Y.Ng in ICRA 2011.

65.Autonomous Sign Reading for Semantic Mapping

66.Carl Case,Bipin Suresh,Adam Coates and Andrew Y.Ng in ICRA 2011.

67.Learning Continuous Phrase Representations and Syntactic Parsing with Recursive Neural Networks

68.Richard Socher,Christopher Manning and Andrew Ng in NIPS 2010.

69.A Probabilistic Model for Semantic Word Vectors

70.Andrew Maas and Andrew Ng in NIPS 2010.

71.Tiled Convolutional Neural Networks

72.Quoc V.Le,Jiquan Ngiam,Zhenghao Chen,Daniel Chia,Pangwei Koh and Andrew Y.Ng in NIPS 2010.

73.Energy Disaggregation via Discriminative Sparse Coding

74.J.Zico Kolter and Andrew Y.Ng in NIPS 2010.

75.Autonomous Helicopter Aerobatics through Apprenticeship Learning

76.Pieter Abbeel,Adam Coates and Andrew Y.Ng in IJRR 2010.

77.Autonomous Operation of Novel Elevators for Robot Navigation

78.Ellen Klingbeil,Blake Carpenter,Olga Russakovsky and Andrew Y.Ng in ICRA 2010.

79.Learning to Grasp Objects with Multiple Contact Points

80.Quoc Le,David Kamm and Andrew Y.Ng in ICRA 2010.

81.Multi-Camera Object Detection for Robotics

82.Adam Coates and Andrew Y.Ng in ICRA 2010.

83.A Probabilistic Approach to Mixed Open-loop and Closed-loop Control,with Application to Extreme Autonomous Driving

84.J.Zico Kolter,Christian Plagemann,David T.Jackson,Andrew Y.Ng and Sebastian Thrun in ICRA 2010.

85.Grasping Novel Objects with Depth Segmentation

86.Deepak Rao,Quoc V.Le,Thanathorn Phoka,Morgan Quigley,Attawith Sudsand and Andrew Y.Ng in IROS 2010.

87.Low-cost Accelerometers for Robotic Manipulator Perception

88.Morgan Quigley,Reuben Brewer,Sai P.Soundararaj,Vijay Pradeep,Quoc V.Le and Andrew Y.Ng in IROS 2010.

89.A Steiner Tree Approach to Object Detection

90.Olga Russakovsky and Andrew Y.Ng in CVPR 2010.

91.Measuring Invariances in Deep Networks

92.Ian J.Goodfellow,Quoc V.Le,Andrew M.Saxe,Honglak Lee and Andrew Y.Ng in NIPS 2009.

93.Unsupervised Feature Learning for Audio Classification Using Convolutional Deep Belief Networks

94.Honglak Lee,Yan Largman,Peter Pham and Andrew Y.Ng in NIPS 2009.

95.Convolutional Deep Belief Networks for Scalable Unsupervised Learning of Hierarchical Representations

96.Honglak Lee,Roger Grosse,Rajesh Ranganath and Andrew Y.Ng in ICML 2009.

97.Large-scale Deep Unsupervised Learning using Graphics Processors

98.Rajat Raina,Anand Madhavan and Andrew Y.Ng in ICML 2009.

99.A majorization-minimization algorithm for(multiple)hyperparameter learning

100.Chuan Sheng Foo,Chuong Do and Andrew Y.Ng in ICML 2009.

101.Regularization and Feature Selection in Least-Squares Temporal Difference Learning

102.J.Zico Kolter and Andrew Y.Ng in ICML 2009.

103.Near-Bayesian Exploration in Polynomial Time

104.J.Zico Kolter and Andrew Y.Ng in ICML 2009.

105.Policy Search via the Signed Derivative

106.J.Zico Kolter and Andrew Y.Ng in RSS 2009.

107.Joint Calibration of Multiple Sensors

108.Quoc Le and Andrew Y.Ng in IROS 2009.

109.Scalable Learning for Object Detection with GPU Hardware

110.Adam Coates,Paul Baumstarck,Quoc Le,and Andrew Y.Ng in IROS 2009.

111.Exponential Family Sparse Coding with Application to Self-taught Learning

112.Honglak Lee,Rajat Raina,Alex Teichman and Andrew Y.Ng in IJCAI 2009.

113.Apprenticeship Learning for Helicopter Control

114.Adam Coates,Pieter Abbeel and Andrew Y.Ng in Communications of the ACM,Volume 52,2009.

115.ROS:An Open-Source Robot Operating System

116.Morgan Quigley,Brian Gerkey,Ken Conley,Josh Faust,Tully Foote,Jeremy Leibs,Eric Berger,Rob Wheeler,and Andrew Y.Ng in ICRA 2009.

117.High-Accuracy 3D Sensing for Mobile Manipulation:Improving Object Detection and Door Opening

118.Morgan Quigley,Siddharth Batra,Stephen Gould,Ellen Klingbeil,Quoc Le,Ashley Wellman and Andrew Y.Ng in ICRA 2009.

119.Stereo Vision and Terrain Modeling for Quadruped Robots

120.J.Zico Kolter,Youngjun Kim and Andrew Y.Ng in ICRA 2009.

121.Task-Space Trajectories via Cubic Spline Optimization

122.J.Zico Kolter and Andrew Y.Ng in ICRA 2009.

123.Learning Sound Location from a Single Microphone

124.Ashutosh Saxena and Andrew Y.Ng in ICRA 2009.

125.Learning 3-D Object Orientation from Images

126.Ashutosh Saxena,Justin Driemeyer and Andrew Y.Ng in ICRA 2009.

127.Reactive Grasping Using Optical Proximity Sensors

128.Kaijen Hsiao,Paul Nangeroni,Manfred Huber,Ashutosh Saxena and Andrew Y.Ng in ICRA 2009。

參考文獻(288)

[1]百度百科.吳恩達[EB/OL]https://baike.baidu.com/item/%E5%90%B4%E6%81%A9%E8%BE%BE/94653132017-08-31

[2]知乎吳恩達(Andrew Ng) 是一個怎樣的人?.[EB/OL]https://www.zhihu.com/question/23811069?rf=232192442014-05-19

[3]雷建平Google Brain之父加盟百度任首席科學家職務.[EB/OL]http://tech.qq.com/a/20140516/017205.htm2014-05-16

[4]Home-Andrew NgABOUT ANDREW NG.[EB/OL]http://www.andrewng.org/2017-08-31

[5]人民網吳恩達被喻「業內最強人」將執掌百度大腦.[EB/OL]2014-05-20

[6]xteacher李賡.【重磅】吳恩達終於離開,沒有人感到意外[EB/OL]hhttp://tech.sina.com.cn/roll/2017-03-22/doc-ifycnpvh5320407.shtml2017-03-22

[7]網際網路新鮮資訊百度吳恩達離職的原因,被李開復一語道破真相.[EB/OL]http://www.sohu.com/a/132770156_1647232014-04-08

[8]雷鋒網吳恩達最新動態:新公司極有可能做AI醫療.[EB/OL]http://www.cnbeta.com/articles/tech/632475.htm2017-0718

[9]Home-Andrew NgPublications-Andrew Ng.[EB/OL]http://www.andrewng.org/publications/2014-04-27