度神經(jīng)網(wǎng)絡(luò)就像遠(yuǎn)方地平線上的海嘯

鑒于深度神經(jīng)網(wǎng)絡(luò)（DNN）的算法和應(yīng)用還在不斷演變之中，所以目前我們還不清楚深度神經(jīng)網(wǎng)絡(luò)最終會帶來怎樣的變化。但是迄今為止，深度神經(jīng)網(wǎng)絡(luò)在翻譯文本、識別圖像和語言方面取得的成功，讓人們清楚地意識到，深度神經(jīng)網(wǎng)絡(luò)將重塑計算機(jī)設(shè)計，當(dāng)半導(dǎo)體設(shè)計和制造方面發(fā)生著同樣深刻顛覆的同時，這些變化逐漸開始帶來影響。
為訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)量身定制的第一批商用芯片將于今年上市。由于訓(xùn)練新的神經(jīng)網(wǎng)絡(luò)模型可能需要幾周或幾個月的時間，因此這些芯片可能是迄今為止制造出的最大、也是最昂貴的商用芯片。

今年，該行業(yè)可能會看到來自初創(chuàng)公司Graphcore的一款微處理器芯片，沒有采用DRAM，而是來自競爭對手Cerebras Systems的晶圓級集成。英特爾收購的2.5-D Nervana芯片已經(jīng)在制作樣品，其他十幾款處理器也正在開發(fā)中。同時，ARM和西部數(shù)據(jù)等芯片公司也正在研究芯片核心，以加速深度神經(jīng)網(wǎng)絡(luò)的推理部分。

加州大學(xué)伯克利分校名譽(yù)教授David Patterson表示：“我認(rèn)為（2018年）將有一場即將上演的派對。我們會看到許多公司正在評估的一些想法。”

這個趨勢非常重要，Patterson和聯(lián)合作者John Hennessey在關(guān)于計算機(jī)開創(chuàng)性文本的最新版本中撰寫了一個新的篇章，于上個月發(fā)表。作者對內(nèi)部設(shè)計提供了深入的見解，例如Patterson撰寫的關(guān)于Google TensorFlow Processor（TPU）部分，以及最新Apple和Google智能手機(jī)芯片中的Microsoft Catapult FPGA和推理塊。

“這是計算機(jī)架構(gòu)和封裝的復(fù)興。明年我們會看到比過去十年更有趣的計算機(jī)，” Patterson說。

深度神經(jīng)網(wǎng)絡(luò)的興起，在過去幾年里把風(fēng)投的資金帶回到了半導(dǎo)體領(lǐng)域。 EE Times最近公布的Silicon 60本榜單中，有7家致力于某種形式的神經(jīng)網(wǎng)絡(luò)芯片，其中2家公司鮮為人知：Cambricon Technologies（中國北京）和Mythic Inc.（美國德克薩斯州奧斯?。?br /> “我們看到擁有新架構(gòu)的初創(chuàng)公司正在激增。我自己也在關(guān)注著15-20家公司......過去10到15年，我們還沒有看到哪一個細(xì)分領(lǐng)域有15家這么多的芯片公司出現(xiàn)。”企業(yè)家Chris Rowen這樣表示，他離開了Cadence Design Systems，成立了一家名為Cognite Ventures的公司，專注于神經(jīng)網(wǎng)絡(luò)軟件。

“在高端服務(wù)器訓(xùn)練方面，Nvidia是一個很難對付的競爭對手，因為它有很難撼動的軟件地位，而且涉足智能手機(jī)市場那你肯定是瘋了，因為你必須要擅長很多方面，但是在高端和低端智能手機(jī)市場你可能還有一些機(jī)會。”Rowen表示。

市場分析公司The Linley Group負(fù)責(zé)人Linley Gwennap表示，Nvidia最新的GPU（Volta）做得非常出色，Nvidia對其進(jìn)行了調(diào)整，可對深度神經(jīng)網(wǎng)絡(luò)做速度訓(xùn)練。“但我當(dāng)然不認(rèn)為這是最好的設(shè)計，”Gwennap說。