※ 本文為 bake088 轉寄自 ptt.cc 更新時間: 2018-09-08 09:48:45
看板 Tech_Job
作者 標題 [新聞] AI 論文只寫 8 頁就得了年度最佳獎,Goog
時間 Fri Sep 7 22:11:13 2018
AI 論文只寫 8 頁就得了年度最佳獎,Google 大腦團隊領導人 Jeff Dean 到底有多強?
https://buzzorange.com/techorange/2018/08/29/jeff-dean-in-the-house/
AI 論文只寫 8 頁就得了年度最佳獎,Google 大腦團隊領導人 Jeff Dean 到底有多強? | TechOrange
【我們為什麼挑選這篇文章】Jeff Dean,一個慣性低調,卻是 Google 基石等級的人物,他在 22 歲時的論文,只寫了八頁,卻拿下全年最佳的大學畢業論文。他的傳奇故事,從大學就開始了。(責任編[...] ...
【我們為什麼挑選這篇文章】Jeff Dean,一個慣性低調,卻是 Google 基石等級的人物,他在 22 歲時的論文,只寫了八頁,卻拿下全年最佳的大學畢業論文。他的傳奇故事,從大學就開始了。(責任編[...] ...
22 歲時,你在幹嘛?
這兩天,現任 Google AI 掌門,傳奇一般的 Jeff Dean,再次收穫膜拜和引發熱議。全
因他的大學畢業論文首次曝光。
這篇論文只有 8 頁。
卻成為 1990 年的最優等大學論文,被明尼蘇達大學圖書館保存至今。
同時這篇論文表明,整整 28 年前,Jeff Dean 已經在用 C 語言,為神經網絡編寫並行
計算的代碼。
拜 Jeff Dean 教的眾人又沸騰了。
僅 8 頁的論文,卻拿下最優等論文
有位大概很年輕的網友,看了論文之後在 HackerNews 上發出感慨:不可思議,Jeff
Dean 在 1990 年就開始對神經網絡感興趣。
一句話,引來眾多科普和追憶。總結起來,就是當時神經網絡正當紅。
有人感慨:「神經網絡那時候是一件大事,在 1980 年代後期非常熱門,那真是一段美好
的時光。」
1990 年,正值第二次 AI 寒冬之前,當時,神經網絡、Prolog、LISP 語言、模糊邏輯都
正在流行,ANN 還沒有被 SVM 等超越,日本在 AI 領域還大有趕超美國之勢。
後來成為 Jeff Dean 同事(實習生 ^_^)的神經網絡之父 Geoffrey Hinton,當時也已
經有很多重要研究發表,反向傳播也出現了。
Jeff Dean 這篇論文提到的兩種並行訓練方法,就都是基於反向傳播的。
網友@silverlake 說,「我幾乎與 Dean 同齡,我的本科項目是用遺傳算法改進神經網絡
。當時人工智能很流行,但不久之後冬天來了。」
1990 年代早期,對神經網絡和機器學習來說是一段非常有趣的日子。當時物體識別、手
寫識別等都有出現,所有進展都在快速推進,但很快資金撤走了,項目全都陷入困頓。
寫識別等都有出現,所有進展都在快速推進,但很快資金撤走了,項目全都陷入困頓。
「幸好後來 GPU、深度反向傳播的出現,數據量開始爆炸之後,神經網絡捲土重來。」網
友@dekhn 說。而對於那些在第二次 AI 寒冬中堅守至今的人來說,顯然已經得到了應有
的回報。
回憶往事之外,不少人得出類似 不忘初心,方得始終 的結論。
比方 Jeff Dean 大學畢業論文中研究的問題,被指仍然是今天 TensorFlow 的重大問題
之一。
「真正有趣和創新的早期工作,我認為這也解釋了為什麼 TensorFlow 不支持層內模型並
行。令人驚訝的是,早期的經歷對我們的影響有多大。」網友 @scottlegrand2 評價。
確實如此。實際上大學畢業之後,Jeff Dean 並沒有一直沿著 AI 的方向繼續研究下去。
隨後他的興趣轉向編寫高級面向對象語言的編譯器,並且在這個領域取得博士學位。
「然而那一絲覺得神經網絡很有意思的感覺,從來沒有真正消失過」,於是後來 Jeff
Dean 又在 Google 內部主導神經網絡、人工智能的研究,並且和吳恩達、Greg Corrado
共同發起成立了 Google Brain 項目並且擔任負責人。
有人評價說,Jeff Dean 是一位具有編譯器優化專業知識的計算機科學家,而
TensorFlow 本質上是一種將神經網絡加速,轉化為與編譯器優化相關問題的嘗試。
Jeff Dean 是誰?他可是 Google 的基石
1969 年生,49 歲。
1996 年博士畢業於華盛頓大學計算機系 (UW)。
美國國家工程院院士,ACM Fellow,AAAS Fellow。
1999 年加入初創期的 Google,設計並部署了 Google 廣告、抓取、索引和查詢服務系統
的大部分內容,以及位於 Google 大部分產品下方的各種分佈式計算基礎架構,也是
Google 新聞、Google 翻譯等產品的開發者。
發起創辦了 Google 大腦(Google Brain Team)。
發起打造了目前全球份額第一的深度學習框架平台 TensorFlow。
雖然官方 title 是 Google 高級研究員,但 Jeff Dean 在 Google 的地位僅次於創始人
拉里· 佩奇和謝爾蓋· 布林。
在 2018 年 4 月,Google 內部架構調整,Jeff Dean 接管 Google 整個 AI 業務和團隊
,據稱座位也與 Google 現任 CEO Pichai 相鄰。
Jeff 到底是一個多神的人?
當然,如果你對這位低調的大神瞭解有限,是時候又要祭出圈內口口相傳的 Jeff Dean
的段子集了。
我們也當面向 Jeff 轉述過這些軼聞,他當時笑著回答說:謝謝大家的喜愛。
一起來看看這些軼聞吧:
During his own Google interview, Jeff Dean was asked the implications if P=NP
were true. He said, “P = 0 or N = 1.” Then, before the interviewer had even
finished laughing, Jeff examined Google’s public certificate and wrote the
private key on the whiteboard.
當他被 Google 面試時,Jeff Dean 被問及如果 P=NP 意味著什麼。他說,「P=0 或者
N=1」。然後,在所有的面試官還沒笑完之前,Jeff 瞄了一眼 Google 的公共證書然後在
白板上寫上了對應的私鑰。
Compilers don’t warn Jeff Dean. Jeff Dean warns compilers.
編譯器從來不給 Jeff 編譯警告,而是 Jeff 警告編譯器。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.198.161.145
※ 文章代碼(AID): #1RaeS3J_ (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1536329475.A.4FF.html
推 : 有效有推1F 09/07 22:19
推 : 八卦是去年台灣一票官員去google拜訪,Jeff肯花時間見2F 09/07 22:26
→ : 他們,他們還在慢慢一個一個大官吹捧介紹也不想想自己
→ : 什麼咖
→ : 他們,他們還在慢慢一個一個大官吹捧介紹也不想想自己
→ : 什麼咖
→ : 2F看法也真神奇, Jeff見之前不知道自己要見的是政治圈的?5F 09/07 22:28
→ : 政治圈的就是這樣搞的啊, 不如問為啥他要見才對吧? :p
→ : 政治圈的就是這樣搞的啊, 不如問為啥他要見才對吧? :p
→ : 說要談合作阿 你以為每個國家都像台灣玩這套阿ㄏㄏ7F 09/07 22:30
推 : 台灣這種官僚政治文化,只會越來越落後8F 09/07 22:33
推 : 求解釋最後一段在梗在哪?9F 09/07 22:44
推 : www.quora.com/What-are-all-the-Jeff-Dean-facts10F 09/07 22:49
→ : 大官民代評論員 連何大一都可以罵了 Jeff是誰 重要嗎11F 09/07 22:52
→ : 大概就當成估狗裡面某個很厲害的技術人員吧 不是老闆 不重要
→ : 大概就當成估狗裡面某個很厲害的技術人員吧 不是老闆 不重要
推 : 不理解最後一段+1 求解釋13F 09/07 22:58
→ : 是問他NP hard的問題吧?14F 09/07 23:01
→ : 不知道P=NP…是學校的演算法課程沒教?15F 09/07 23:04
→ : 那個笑可能是面試官在笑自己 XD16F 09/07 23:06
推 : 略懂17F 09/07 23:13
推 : 編譯器那段好兇XDD18F 09/07 23:17
→ : 就像朗神不會選錯好壞球 否則一定是裁判誤判一樣19F 09/07 23:18
噓 : 台灣的政客都是垃圾20F 09/07 23:22
推 : 他是誰啊 聽都沒聽過 只是個小咖而已一群井底之蛙在大21F 09/07 23:29
→ : 驚小怪 隨便一個鄉民都比他強好嗎 例如bapi的學長學弟
→ : 驚小怪 隨便一個鄉民都比他強好嗎 例如bapi的學長學弟
推 : C是王道23F 09/07 23:39
推 : 問Jeff有關P=NP是在羞辱他嗎? Jeff當然當場破Google的24F 09/07 23:43
→ : private key 反嗆Google的面試官阿
→ : private key 反嗆Google的面試官阿
推 : 用大腦破解私鑰也太唬爛了26F 09/07 23:46
推 : 1990年都還沒有windows説27F 09/07 23:57
→ : 猛到炸
→ : 猛到炸
噓 : 代碼 代你老木29F 09/08 00:02
推 : 超神~~~30F 09/08 00:09
推 : 用人腦破解金鑰? 剛五摳林?31F 09/08 00:23
→ : 這只是軼聞,想也知道不可能只靠人腦破解密鑰32F 09/08 00:37
推 : 請受我一拜33F 09/08 00:45
推 : 其實他是人造人,當世運算能力最強的機器人34F 09/08 00:53
推 : 看來是水平切特徵與垂直切網路分給各運算單元的比較35F 09/08 01:03
→ : 恩 看來tensorflow八成不是用前者的方法來加速的
→ : 恩 看來tensorflow八成不是用前者的方法來加速的
推 : 破解金鑰 是不是有點超過?37F 09/08 01:21
推 : 的確有點超過 就像他的生平一樣38F 09/08 01:36
→ : Jeff Dean 的笑話真是每次看每次笑39F 09/08 01:37
推 : 最後一段的梗就跟我神人朋友用0跟1打出Windows 98類似40F 09/08 02:39
推 : 我學長 在101 比他強 清大資工書卷41F 09/08 04:49
推 : 產值很屌42F 09/08 06:22
噓 : 由Public key猜出Private key? 這種也掰的出來?!43F 09/08 06:31
→ : 就跟傳說俄羅斯總統普丁有中國血緣一樣扯!
→ : bapi:我學長書卷獎由hash值就猜得出原數字
→ : 就跟傳說俄羅斯總統普丁有中國血緣一樣扯!
→ : bapi:我學長書卷獎由hash值就猜得出原數字
→ : 大家別認真 這就一朗傳說呀46F 09/08 07:26
→ : 倒是bapi的朋友都屌打Google部門創辦人
→ : 薪水比他們還高卻只能當他們下屬 也是很神奇
→ : 倒是bapi的朋友都屌打Google部門創辦人
→ : 薪水比他們還高卻只能當他們下屬 也是很神奇
推 : 最後一段害我大笑49F 09/08 08:59
推 : 看不懂調侃的人是反串還是真的相信……50F 09/08 09:22
--
※ 看板: bake 文章推薦值: 0 目前人氣: 0 累積人氣: 104
回列表(←)
分享