編輯丨岑峰
又一技術大咖離開業界,前往高校攻關科研!
據Pete Warden(皮特沃登)本人推特訊息,他將離開谷歌公司,重返斯坦福大學攻讀計算機博士學位。
皮特沃登是谷歌公司Tensorflow面向移動和嵌入式裝置部分的技術主管,也是 Tensorflow團隊的創始成員之一。著有《TinyML》一書,希望讓機器學習不再囿於雲端超級計算機,而是可以被隱藏於眾多小到可以被忽視的電子零件中。
至於離開谷歌的原因,皮特沃登說:在谷歌推出新的硬體裝置“太難了”,因為一旦失敗會對大公司聲譽造成非常大的影響。
“it’s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company’s reputation are so high. ”
據悉,皮特沃登已經離開校園二十年了,此次重返校園雖然有些冒險,但對“自己能夠構建一些東西”有幫助。
皮特沃登還在個人部落格寫了一篇文章,表達了離開谷歌的前因後果:
我在谷歌工作了7年,這段時間裡,很幸運也很自豪能夠和一些了不起的人一起研究TensorFlow等專案。在過去幾年裡,我一直在說“你可以用TensorFlow Lite Micro實現所有美好的TinyML專案”,現在我自己終於也可以隨心所欲的嘗試構建自己的東西了。
在谷歌我也嘗試過,但在谷歌推出新的硬體裝置是非常昂貴和耗時的,因為一旦失敗會對其聲譽造成非常大的影響。因此,時隔二十多年,我決定重返校園,去斯坦福大學攻讀計算機科學博士學位。
過去幾年,我在斯坦福大學教授EE292D課程,在這過程中,我從學生對新技術渴望的熱情中收穫了很多,而且也從Zain Asgar、Sachin Katti、 Boris Murmann等教師身上學到了很多。現在我很高興能夠有更多的時間從校園中度過。
TensorFlow Lite Micro在Advait Jain和團隊其他成員的帶領下非常出色,使用量和人數在過去幾年持續增長,所以我對它的未來非常樂觀。過段時間,我會公佈更多細節,但我現在能夠使用將框架部署到”我從專案一開始就夢想的裝置“上了。
離開谷歌,重返校園是一次有趣的新冒險,感謝支援我走到這一步的所有人。
1
皮特沃登和他的TinyML夢想
正如前面提到,皮特沃登是人工智慧領域的專家。2003年他建立了一組包含45 個影象的處理過濾器(processing filters ),這些過濾器能夠在 2003 年的膝上型電腦上以 30 fps 的速度檢測影片內容中的特徵。當時Apple 購買了該技術並聘請他將其整合到 Apple 的成像相關產品中。
2011年,皮特沃登聯合創辦Jetpac,擔任CTO。當時他開發了一款獨特的產品,能夠分析了 Instagram 上超過1.4億張照片的畫素資料,並將其轉化為全球 5,000多個城市的深度指南。2014年,谷歌收購該公司。
加入谷歌之後,皮特沃登專注於在成本和功率受限的系統中部署機器學習。在谷歌,Pete 領導開發用於移動和嵌入式應用程式的 TensorFlow Lite 機器學習框架。
這種在一些“不起眼的硬體”中構建機器學習被行業稱為TinyML(Tiny Machine Learning)。TinyML 的目標是以儘可能低的功耗執行 ML 推理。具體而言,正如皮特沃登在其著作提到的那樣:TinyML 的目標是在低於 1 mW 的功耗下執行。1 mW是標準紐扣電池執行功率。
因此,TinyML 是機器學習和嵌入式 IoT 裝置的交叉領域,是一門新興的工程學科,具有革新許多行業的潛力。顯然,TinyML 的主要受益者,是邊緣計算和節能計算領域。
2019年3月,TensorFlow Lite嵌入式平臺釋出了第一個實驗原型。這是由SparkFun構建的開發板的原型,它有一個Cortex M4處理器,具有384KB的RAM和1MB的快閃記憶體儲存。該處理器功率極低,在許多情況下功耗不到1毫瓦,因此它可以僅憑小型紐扣電池執行很多天。
目前,TinyML還處在發展階段,正如皮特沃登在一次演講中所提到:
“未來的世界有更多的可能性,現在人工智慧對於我們,就像八十年代的電腦一樣。我們不知道它會發展成什麼樣子,但是我們可以想象一下我們目前面對的各種問題和挑戰,在工作中面臨的困難。如何用小小的晶片進行機器學習?這方面我們可以有新的角度去探索,也有新的研究成果去發揮作用。”
2
反映了怎樣的趨勢?
皮特沃登在業界已經探索了二十年了,今日他選擇離開企業,選擇重返校園,無疑是對當前AI研究人員紛紛重返學界這一趨勢的印證。
這一趨勢最早從吳恩達開始,隨後李飛飛、張潼、張亞勤、賈佳亞等科學家也不斷重返學校。
而在幾年前,對應的正是AI基礎研究者紛紛離開學術界,加盟工業界:代表性的標誌事件是在2011年的NIPS大會上,Hinton接受了Google的邀請,正式加盟Google;此後Facebook、Amazon、Uber以及國內百度、阿里、騰訊、滴滴等巨頭也紛紛跟進,而另一方面,產業界所能提供的海量資料以及資源投入對於AI研究者也具有莫大的吸引力,長期從事理論研究的他們也需要一個平臺驗證他們的想法,這也正是當時AI人才從學術界流向產業界的原因。
現在這些AI大牛從產業界重返學術界,有人將其視為AI科學家的“水土不服”,並進而得出“AI熱度正在放緩”的結論。但從另一個角度上,我們也可以看到這些科學家們在產業界檢驗了自己之前的研究之後,帶著新的問題回到學術界開展新的研究。
例如,原騰訊AI Lab主任張潼在被問及為什麼迴歸學術界時,他回答:“我最關心的是10年以後, AI能夠在技術理論等方面實現重大的突破,並且自己能夠在整個學術研究上有更多的貢獻。” 而對於加入創新工場,張潼則表示:“我在進行學術研究的同時,也希望這些學識成果能夠跟產業相結合。”另一位AI大牛賈佳亞,在離開騰訊優圖之後並未遠離產業界,而是成立了一家創業公司思謀科技,以另一種方式做到連線學術與產業。
拿AI屆的黃埔“微軟亞洲研究院”來說吧,他幾任歷任院長中,李開復創辦了創新工場,以孵化器模式推動中國本土的科技與AI公司的發展;張亞勤牽頭籌建“清華大學智慧產業研究院(AIR)”,迴歸學術界並得到了馬維英的襄助,“出走半生歸來仍是少年”;沈向洋在擔任清華大學兼職教授的同時,也還投資並擔任News Break董事長;而進入投資界的張宏江,更是在以資本投票的方式踐行著對AI的認知。這些頂尖人才的流動,無論是從學術界到產業界,還是從產業界到學術界,最終都是AI的進步。
參考連結:
https://mp.weixin.qq.com/s/xx1-ZV4Bg8vu79EXdoGMJQ
https://mp.weixin.qq.com/s/03-tOTic57bsAV2SFxgemg
https://embeddedvisionsummit.com/2019summit/2019/speaker/pete-warden/